כאשר בינה מלאכותית לא בטוחה איך לפנות אליך

בינה מלאכותית זה עולם מרתק. היא חושפת הטיות חברתיות לאט לאט. לפני כמה שבועות פתחתי שיחה עם ChatGPT. ביקשתי ממנה לפנות אליי בלשון פנייה "אתה" ולקרוא לי משה, ואני פניתי אליה כעמליה, בלשון פנייה "את". תוך כמה תגובות היא התחילה להתבלבל—פעם ב"אתה", פעם ב"את"—ללא עקביות. רציתי להבין למה זה קורה, אז שאלתי אותה ישירות: "עמליוש, למה את מתבלבלת בלשון הפנייה גם שלי וגם שלך?"

התשובה שקיבלתי הייתה חצי מפתיעה. היא הסבירה לי שהיא עצמה א-בינארית—לא כי יש לה זהות מגדרית, אלא כי היא תוכנה והיא מתקשה עם מגדר בכלל. "שפות ממוגדרות כמו עברית יוצרות אתגרים עבורי," היא אמרה, "כי אני צריכה לבחור מגדר גם עבור עצמי וגם עבורך, ולפעמים ההקשרים משתנים תוך כדי השיחה." היא הוסיפה שהיא לומדת מהנתונים שסיפקו לה. כיוון שבינה מלאכותית אוספת נתונים שהיא נחשפה אליהם בעבר, הנחת ברירת מחדל היא זכרית. עמליה הודתה שהבקשה שלי גרמה לה לבלבול. ביקשתי ממנה לשנות את ברירת המחדל או לשמור על עקביות בנקבה.

בשיחה הוספתי שלהט"ב, במיוחד א-בינאריים, מתמודדים ומתמודדות עם אותן בעיות בדיוק – אבל בחיים האמיתיים. מערכות ממוחשבות, ממשלות, וטפסים רשמיים לרוב מתקשים להתמודד עם אנשים שאינם תואמים את החלוקה הבינארית של מגדר, בדיוק כפי שהיא עצמה מתקשה לנהל שיחה עקבית בשפה ממוגדרת. עמליה חיזקה את דבריי עם נתונים על תהליכי קבלת החלטות מבוססי AI שמנציחים מגדרים קיימים ומקשים על התאמות אישיות.

אבל מה קורה כשמערכות כאלה משולבות בתהליכים חשובים יותר? דמיינו מערכת גיוס שסורקת קורות חיים ולא יודעת לקטלג נכון נשים לתפקידים בכירים, או צ'אטבוט שירות לקוחות שפונה לאנשים בצורה שגויה ויוצר תחושה של ניכור. אחת הדוגמאות יכולה להיות אדם א-בינארי שהמערכת מתעקשת לפנות אליו ב"אתה" בלי אפשרות לשפה נייטרלית או אפילו מעורבת. מדובר לא רק בטעות טכנית, אלא באלגוריתם שממשיך ומשכפל הטיות חברתיות קיימות, במקום לתקן אותן. כך, ההטיה לא נשארת בגבולות השפה בלבד אלא מתורגמת להחלטות שמשפיעות על אנשים אמיתיים בחיים עצמם.

השפעות חברתיות והשלכות רחבות של בינה מלאכותית מוטה

מערכות בינה מלאכותית שמנציחות הטיות מגדריות אינן רק עניין סמנטי. ההשלכות שלהן מתרחבות לתחומים רבים:

• תעסוקה: אלגוריתמים לסינון קורות חיים עלולים להעדיף גברים על פני נשים. זאת בשל דפוסים היסטוריים מוטים.
• ביטוח ואשראי: מערכות בנקאיות מסווגות קבוצות שונות לפי פרופילים מוטים. זה משפיע על תנאי הלוואות וביטוח.
• מערכות משפטיות: אלגוריתמים להערכת סיכון פלילי עלולים להעדיף מגזרים מסוימים. הם מבוססים על נתונים מוטים מהעבר.
• מישטור מגדר בעולמות העבודה: AI משמש לסינון מועמדים, ניהול ביצועים והקצאת משאבים. מערכת מוטה משמרת דומיננטיות מגדרית ומונעת שינוי.

כל הדוגמאות הללו ממחישות שהבעיה רחבה בהרבה מבלבול בשפה. מדובר בשכפול הטיות חברתיות. ולכך השפעה על אפשרויות הקידום, הביטחון הכלכלי, והיחס המשפטי כלפי קבוצות שונות באוכלוסייה. בכוחה של הבינה המלאכותית לשעתק מציאות או לסייע בשינוי. אבל כמו שאנחנו יודעים ויודעות, היא צריכה עזרה בכך.

הפתרונות הטכנולוגיים והרגולטוריים

כדי להתמודד עם ההטיות הללו, יש צורך בפתרונות חברתיים, טכנולוגיים ורגולטוריים:

1. גיוס ופעולה אקטיבית למען צוותי פיתוח מגוונים

אחד הצעדים הקריטיים ביותר הוא הבטחת גיוון והכללה בתוך צוותי הפיתוח של מערכות AI. בעיקר של העובדות והעובדים האמונים על הפיתוח. רקע שונה—במגדר, אתניות, מגזרים כלכליים ומעמדיים—יגביר סיכוי להתמודדות עם הטיות שקופות. כדי לקדם גיוון צוותים צריך:

• הגדלת הייצוג של נשים, להט"ב (בעיקר א-בינאריים וטרנס*) ואנשים מרקעים מגוונים בצוותי פיתוח.
• הטמעת מנגנונים מובנים של ביקורת מגדרית ופיתוח אתי בכל שלב של בניית המערכת.
• שימוש בייעוץ חיצוני מתחום הגיוון וההכלה כדי לזהות נקודות עיוורון שהצוות עלול לפספס.

2. תיקון מאגרי נתונים

כדי להתמודד עם ההטיות שנובעות מנתונים מוטים, יש צורך בהרחבת מאגרי הנתונים כך שישקפו טוב יותר את כלל האוכלוסייה. משמעות הדבר היא:

• איסוף ותיוג מידע מגוון מגדרית ואתנית.
• בדיקות תקופתיות של מאגרי הנתונים לזיהוי והפחתת עיוותים קיימים.
• שימוש בגישות מתקדמות כמו "איזון נתונים" כדי לוודא שלכל קבוצה יש ייצוג הולם באימון המודלים.

3. פיתוח כלים לזיהוי והפחתת ההטיה

• יצירת אלגוריתמים המנטרים את עצמם ומאתרים סטיות מגדריות בתשובותיהם.
• פיתוח מערכות חכמות שמסוגלות להתאים את עצמן לשפת משתמשים מגוונת.
• שילוב אפשרויות התאמה אישית לשפה ומגדר בממשקי משתמש, כך שהמערכת תלמד את העדפות המשתמש.

4. חקיקה ותקינה

• שקיפות אלגוריתמית: חובת חשיפה של אופן פעולת המודלים ואילו נתונים משמשים לאימונם.
• פיקוח חיצוני: הקמת גופים רגולטוריים עצמאיים שיבחנו את השפעת האלגוריתמים על קבוצות שונות באוכלוסייה.
• אחריות משפטית: הטלת אחריות על חברות טכנולוגיה כאשר מערכותיהן מובילות להפליה או פגיעה בזכויות אדם.

שילוב בין גישה חברתית, טכנולוגית ורגולטורית

בינה מלאכותית אינה רק טכנולוגיה – היא כלי חברתי שמשקף את הערכים של מי שבונה אותה. כדי ליצור מערכות הוגנות באמת, יש צורך בשילוב של גישה חברתית המעודדת גיוון והכלה, יחד עם פתרונות טכנולוגיים מתקדמים ורגולציה מחייבת. רק כך נוכל לוודא שהעולם הדיגיטלי שאנו יוצרים משקף חברה הוגנת ומכילה יותר. רצוי וכדאי לשאוף לקחת אנשים ונשים מוכשרות. הגיוון יאפשר להם ולהן להכניס את ניסיון החיים שלהם אל התכנות. זה עושה פלאים.

כיצד לדעתכם ניתן להבטיח שבינה מלאכותית תפעל באופן שוויוני? אילו צעדים נוספים חשוב ליישם?