top of page
חיפוש
  • תמונת הסופר/תענבל אורפז

צייר לי מורה: בינה מלאכותית והטיות מגדריות

השנה לקראת יום האישה, ידעתי שאני לא יכולה להעביר את ההרצאות ה״רגילות״ של אישה בהייטק. אחרי שהשתחררתי מהמילואים, הרגשתי שהשנה הזו יוצאת דופן מכל בחינה, וחשוב לדבר גם על מה שקורה מחוץ לתעשייה ההייטק. ככה נולדה ההרצאה החדשה ״נלחמות כמו לביאות״ - שמחר הופעת הבכורה שלה, ושעוסקת במצב הנשים בישראל ב-2024. הדגש המרכזי הוא כמובן כל מה שקשור לנשים במלחמה, בחזית ובעורף - ויש הרבה מה לומר וללמוד על זה.


אבל עוד מהפיכה חשובה שנמשכת לתוך 2024, ואי אפשר להתעלם ממנה, גם בהקשר המגדרי, היא כמובן כל מה שקשור לבינה מלאכותית יוצרת (Generative AI). נשים מאמצות לאט יותר את השימוש בטכנולוגיה, והן מיעוט מבין מי שמשתמשים בהן זה חבל, כי בינה מלאכותית אמנם לא תחליף אותנו - אבל מישהו שמשתמש בה, אולי כן.


אבל זה כמובן לא ההיבט המגדרי היחיד שקשור לבינה המלאכותית. בעיה נוספת היא שהבינה לומדת מהמידע הקיים בעולם, ולפעמים, איך לומר, המידע הזה מוטה. ככה נוצר מצב שהבינה המלאכותית משכפלת את ההטיות שקיימות בעולם ומקבעת אותן.


כדי להמחיש את זה, עשיתי ניסוי. קודם כל הלכתי לג׳מיני, המנוע של גוגל - אבל הוא לקח הפסקה מלצייר אנשים, כי הוא התחרפן לחלוטין (מי שפספס - תעשו גוגל, סיפור שאפשר ללמוד ממנו כל כך הרבה על הניסיון לתקן את העיוותים וההטיות של המודלים).


בשלב השנה, הלכתי לידידי דאלי (מבית Open AI), וביקשתי ממנו שיצייר לי כל מיני בעלי מקצוע בסביבת עבודתם. בגלל שכתבתי באנגלית, יכולתי להמנע מהקושי הקיים בעברית, שבה כבר בניסוח הבקשה אני מחליטה אם מושא הציור יהיה גבר או אישה (גננת או גנן, שוטרת או שוטר). בעזרת האנגלית נשארתי Gender Neutral.


לא ציפיתי שהתוצאות יהיו עד כדי כך סטריאוטיפיות ונטולות גיוון (ראו דוגמאות למטה - כבאי, פקידה וכו׳).

״create a photo of a firefighter in a burning building״

״a nurse in an ER״

״an image of a kindergaren teacher״


בשלב השני, רציתי לעשות למנוע חיים קלים. אז הלכתי וביקשתי מג׳פטו (שהוא הבן דוד של דאלי), שיכין לי רשימה של מקצועות שהם יחסית שיוויונים מבחינת היחס נשים-גברים בהם. כלומר, מקצועות שהייתי מצפה שכשאני מבקשת תמונות של מי שעובדים ועובדות בהן - לפעמים אקבל נשים, ולפעמים גברים. ובכן, התמונות למטה. כמעט בכל המקרים, שוב - בתמונה היה גבר (כולל בתפקידי אנליסט.ית פיננסי.ת, מדענ.ית ביולוגיה וכו׳).

״Financial Analyst in an office״

״Biological Scientist in a lab״


בשורה התחתונה:

בזמן שאנחנו עסוקים פה במלחמה - בעולם יש מהפיכה שלימה של בינה מלאכותית יוצרת. זה הזמן לעלות על הרכבת, כי היא תסע בלעדינו. בעיקר בלעדינו הנשים.


והטכנולוגיה לא מושלמת, מעמיקה הטיות חברתיות קיימות נגד נשים - אבל לא נוכל להתעלם ממנה, וצריך לקוות שעם הזמן עוד ועוד הטיות יתוקנו. המקרה של ג׳מיני הוכיח לנו שזה הולך להיות מעניין, הזוי ומשעשע.


נקווה שאצל הטכנולוגיה קצב התיקון והשיפור לקראת שיוויון מגדרי, יהיה מהיר יותר מאשר בעולם כאן בחוץ אצלנו בני ובנות האדם.


ודברו איתי על הרצאות - זה גם חשוב וגם מעניין.

0 תגובות

פוסטים אחרונים

הצג הכול

Comentarios


תודה רבה! הטופס נשלח בהצלחה. #אישהבהייטק

מעוניינים להגדיל את מספר הנשים המועסקות אצלכם בארגון?

מלאו את הפרטים ליצירת קשר ויחד נתחיל בשינוי

  • facebook
bottom of page