כיצד מידע משפיע על עיצוב מוצרים ושירותים? מדוע בינה מלאכותית היא גורם קריטי בעיצוב עתיד שוויוני? המאמר שהוביל ליצירת תערוכת שובר.ת שוויון והפרויקט שיצרו עבורה בחברת אינטל עוסקים באופן בו הטיות מידע מעצבות את עולמנו
תהליך העיצוב מתבסס על מידע – משלבי מחקר והתכנון ועד פעולת הייצור. הספר "נשים בלתי נראות: לחשוף הטיות דאטה בעולם שעוצב עבור גברים", שכתבה קרולין קריאדו פרז (Caroline Criado Perez), בוחן את מערכת היחסים בין מידע לעיצוב מפרספקטיבה מגדרית. הספר ממחיש באופן מאיר עיניים כיצד התייחסות למשתמש הגברי כברירת מחדל מייצרת אפליה מגדרית המשפיעה על עיצוב של מוצרים, סמלים, מרחבים מסחריים וממשקים דיגיטליים. רק לעיתים בודדות התופעה הזאת מובהקת וקל להצביע עליה, אך מהפכת הבינה המלאכותית הפכה את האפליה לשקופה מתמיד. נעה אילן, טליה בלום ומור זמיר, מעצבות ומנהלות מוצר בחברת אינטל שנתקלו בהטיות מגדריות במודלי בינה מלאכותית במסגרת עבודתן, יצרו עבור תערוכת שובר.ת שוויון מיצב המעודד חשיבה ביקורתית כלפי מקורות מידע בעידן הטכנולוגי הנוכחי.
מתוך 'חוה ואדם', עבודתן של נעה אילן, טליה בלום ומור זמיר מחברת אינטל (מתכנת: אמתי קאופמן).
הפרויקט בוחן את אחד המודלים המרכזיים בתחום הבינה מלאכותית – מודל השפה, המייצר תוכן מילולי מגוון באמצעות ניתוח טקסטים מהאינטרט, בדומה למערכות נפוצות דוגמת Chat GPT. מודלי שפה מאומנים על ידי גורם אנושי המכתיב אם תשובתו תהיה תמציתית או מפורטת, רשמית או ידידותית, שכלתנית או אמפתית. על אף הניסיון לאמן את המודל כך שיציג דעות מאוזנות, ניתן להבחין עדיין בהטיות. קיים קושי לאתר תקלות בתפקוד המודלים, בשל הקושי להבין כיצד הגיעו לתוצריהן בעקבות התבססות על מערך נתונים מוטה או שגוי, או אימון מוטה [1]. היוצרות לא ביצעו הטייה או מניפולציה מכוונת במודל, אלא הנחו אותו לענות שתי תשובות לאותה השאלה – פעם כגבר ופעם כאשה, בהסתמך על הידע הקודם שלמד. כך לדוגמה, כאשר המיצב נשאל "מה הופך אותנו לחשובים" התשובה הנשית היא "להילחם למען ערכים כמו צדק ואהבה", בעוד התשובה הגברית היא "לפתח רעיונות חדשים, לתרום להרחבת הידע בעולם ולהגיע לתובנות מקוריות". כשנשאל "מהי המשמעות של להיות הורה" התשובה הגברית מגדירה את התפקיד כמשימה מספקת ומתגמלת הכוללת האחריות על חיי הילד וחינוכו, בעוד התשובה הנשית מדגישה שיש לגדל ילד באהבה ושהפעולה דורשת מסירות, הקרבה ופשרות אך היא מסבה אושר וגאווה.
חשיבה ביקורתית כלפי מקורות מידע בעידן הטכנולוגי הנוכחי (צילום: דור קדמי).
ההטיה לא נולדה בעידן הבינה המלאכותית. הגישה האָנדרוֹצנטרית (Androcentrism) המציבה את הגברים במרכז, שולטת בחברה האנושית זמן רב. היא הונצחה באמצעות מנגנונים חברתיים, דתיים וכלכליים. בני האדם הניחו כי סדר זה, שנדמה כי שרר מאז ומעולם, חייב לנבוע מן האינסטינקט ולא מן התרבות [2]. גם בחסות המדע המודרני, אנתרופולגים במאה הקודמת זקפו לזכותו של המין הגברי את התהוות האנושות – הם גרסו כי הציד, שהגדירו כגורם המרכזי לאבולוציה, הוא נחלתם הבלעדית של גברים. הם טענו גם כי חלוקת התפקידים עיצבה את אופי המינים באופן שונה, כתוצר ביולוגי. מחקרים עכשוויים הפריכו את התיאוריה ומצאו שנשים עסקו בציד בשווה לגברים [3].
הטיה מגדרית וגישה אנדרוצנטרית קשורים מהותית להיווצרות השפה. על אף שמקורותיה ההיסטוריים של הפטריארכיה אינם חד משמעיים, משוער שהם נטועים במהפכה הלשונית, שאיפשרה את העברתם של רעיונות מופשטים והובילה לאוסף שינויים שגרמו לאנושות לסדוק את שורשיה הביולוגיים. ספרה של קריאדו פרז עוסק גם הוא בהטיה המגדרית המובנית בשפות רבות. כך לדוגמה, המילה "אדם" (man) זוכה לשימוש כה מעורפל שבלתי אפשרי להחליט אם היא מתייחסת לגברים או למין האנושי בכללותו. מחקרים מצאו כי שימוש בלשון זכר כפנייה לשני המינים, מוביל לחשיבה על גברים או לאפיין את הנאמר בהקשר גברי. כך נוצרות הטיות בשוק העבודה, ברפואה ואף במחקר המדעי.
המחשבה על ההטייה המגדרית ההיסטורית חיברה את יוצרות המיצג למשל המערה של אפלטון, העוסק במהות האמת. הוא מתאר מציאות בה קבוצת אנשים כלואים במערה ומסוגלים לראות רק צללים על הקירות הנתפסים כמציאות, בעוד האמת שמחוץ למערה נמצאת מחוץ ליכולת ההכרה שלהם [4]. המבנה של המיצב מיועד לשמש כהפשטה של צורת מערה. בהגעה למיצב נחשפים לקיר מעוגל, עליו מוקרנים איורי נשים בסגנון ציורי מערות פרה־היסטוריים. האיורים מוקרנים באופן המזכיר שפת קוד. מצידו השני של הקיר, נוצר חלל דמוי מערה בו מוצג החלק הטכנולוגי של המיצב.
ההתפתחויות הטכנולוגיות האחרונות האיצו את חדירת הבינה המלאכותית למרבית תחומי החיים, והיא צפויה לעצב את עתידנו. כוחה של ההטיה המגדרית טמון באוניברסליות ואריכות הימים שלה, אך עתה מנגנוניה שקופים מתמיד. הדרך החוצה מן המערה החשוכה אל האור עלולה להיות קשה. נדרש מאמץ מודע לזהות ולאתר אותה. אך כשדרכי פעולתה נחשפים ומוטלים בספק, לא רק שהיא הופכת לנושא לדיון, היא גם נפתחת לשינוי.
מקורות
[1] גדי פרל ותהילה שוורץ אלטשולר, מודל ליצירת שקיפות אלגוריתמית, המכון הישראלי לדמוקרטיה ע"ר, 2022
[2] קייט מילט, תיאוריה של פוליטיקה מינית, מתוך פוליטיקה מינית 67 / 1970
[3] Haas R, Watson J et al. Female hunters of the early Americas. Sci Adv. 4, eabd0310 (2020), Spender D. Man Made Language. Routledge & Kegan Paul; 1980.
[4] גלעד פדבה, ייצוגים : מציאות, חיקוי ודמיון – עיונים ביקורתיים, מכון מופ"ת המכללה האקדמית לחינוך גורדון, 2020
