JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » גלגוליה של תוכנת זיהוי הרגשות

גלגוליה של תוכנת זיהוי הרגשות

דרמה בחמש מערכות: כשלתוכנה יש חסרונות ומעלות

גלגוליה של תוכנת זיהוי הרגשות פרופסור יהושפט גבעון
אוקטובר 21
09:30 2019

את הנתונים על הדרמה הזאת לקחתי מספרה של שושנה זובוף "עידן הקפיטליזם של המעקב: הקרב על עתיד אנושי בחזית החדשה של העוצמה" (2019, פרק 8, סעיף III). במאמר קודם תיארתי את הקפיטליזם החדש הזה, ששגשוגו צריך להחריד אותנו. והנה דוגמה נוספת לתהליך המגולם בפיתוח הכלכלה הדיגיטלית, והפעם הוא מתחיל בפיתוח של תוכנת בינה מלאכותית.

מערכה ראשונה: הרעיון

רוזלינד פיקארד, ממעבדת המדיה של MIT, הייתה מדענית המחשבים הראשונה שיישמה את תיאוריית הבעת הרגשות של פאול אקמן מאוניברסיטת קליפורניה בסן פרנסיסקו. היא יישמה אותה לבניית תוכנה לזיהוי רגשות על סמך ניתוח הבעות פנים זעירות. היא קראה לתחום החדש "חישוב אָפקטיבי" ובשנת 1997 פרסמה ספר בשם זה.

מערכה שנייה: יישומיו האפשריים

פיקארד האמינה רק בתועלת שתוכנה כזו יכולה להביא למשתמשים בה. למשל, סטודנט המתכונן לראיון קבלה יכול להתאמן ולזהות בעזרת התוכנה סימנים התנהגותיים זעירים שעלולים להכשיל אותו בריאיון. בחינוך המיוחד תוכנה כזאת יכולה לעזור לילדים ברצף האוטיסטי לפתח מיומנויות רגשיות כמיומנויות הבעה, ובחינוך הרגיל תוכנה כזו יכולה לאתר מידית סימנים לקשיי למידה של תלמידים במהלך הלימודים. בקיצור, לפי תפיסתה של פיקארד, התוכנה לזיהוי רגשות מיועדת למען המשתמשים הפרטיים, ולא רק כדי לספק נתונים על רגשותיהם.

עוד בשנת 1997 הכירה פיקארד בצורך בפרטיות ובשליטה במי שרשאי להשיג נתונים רגשיים. היא סיימה את ספרה בהצהרות על חשיבותה של הימנעות משימוש בתוכנה למטרות מניפולציה של רגשות. כמו רבים אחרים, בסיכום, היא טענה שלכל טכנולוגיה יש מעלות וחסרונות, אבל הרגיעה אותנו באומרה שקל לבנות הגנה מפני חסרונות התוכנה.

מערכה שלישית: סטארט-אפ

בשנת 2009, פיקארד ותלמידת המחקר שלה ראנה אל-קאליובי הקימו חברה ושמה "אָפקטיבה", שמטרתה ניצול העניין ההולך וגובר בתוכנות לזיהוי רגשות. החזון המקורי של מקימות החברה היה ליישם את מחקריהן בזיהוי אוטומטי של רגשות בתחום הרפואה והסיעוד. ההתעניינות בחברה הייתה עצומה, בעיקר מצד חברות שיווק ופירסום.

מערכה רביעית: שידוד מערכות

בשנת 2012 הודחה רוזלינד פיקארד מהנהלת אָפקטיבה, ובשנת 2016, מנכ"לית החברה אל-קאליובי הגדירה את תחום העיסוק של החברה "בינה מלאכותית של רגשות", והצהירה שזה יהיה "קו החזית הבא של הבינה המלאכותית". בשנת 2016 הרצתה פיקארד בגרמניה הרצאה שכותרתה הייתה "לקראת מכונות שמתנגדות ליוצרן" ובה חזרה ביתר חריפות על הדאגות שביטאה בסוף ספרה.

מערכת חמישית: ההטיות משתלטות

במערכה זו מתרחש מעבר מהעמדה "אנו יודעים מה הרגשתך" אל העמדה "אנו יכולים לקבוע את הרגשתך". כשהם יודעים על רגשותיך, פרטיותך נפגעת. כאשר הם מלמדים את התוכנות שלהם כיצד להשפיע על רגשותיך, החופש שלך נפגע. עשרות חברות רוכשות את התוכנה ומיישמות אותה כדי להגדיל את רווחיהן. אבל לנו זה לא מזיז, כי כל אחד יודע שלכל טכנולוגיה יש מעלות ויש חסרונות. כך, התריע ז'רון לניר, בהשפעת האופי הרובוטי של הכלים הדיגיטליים, החסרונות גוברים על המעלות.

לסיכום, כאשר הקפיטליזם של המעקב התחיל לשגשג, חזרה שוב ושוב התבנית של "מאזן מעלות וחסרונות התוכנה". ההגנה מפני חסרונות התוכנה תמיד מפגרת אחרי פיתוח "הטכנולוגיה" עם שגשוג הקפיטליזם החדש. למשל, בשנת 2014 הגישה חברת פייסבוק בקשה לפטנט ב"זיהוי רגשות" בדיוק באותם אפיקים שפיקארד הזהירה אותנו מפניהם בסוף ספרה, שבע שנים קודם לכן.

אנו מומחים בחוסר יכולת להתמודד עם תקלות הנגרמות משימוש קלוקל בהמצאותינו. במקום לחקור אותן היטב אנו אצים לשווק את מעלותיהן. עלינו להבין שבלי הבנה של הכלים החדשים אנו ניגרר אחרי הפיתויים שלהם כמו תחת כישוף. רעיון זה נוסח לראשונה על ידי מרשל מקלוהן עוד בשנת 1964. הסתכלו מסביבכם והתבוננו בסובבים אתכם והחליטו.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

6 תגובות

  1. דוריה
    דוריה אוקטובר 21 2019, 14:08
    שלא יהיה לך ספק שגם תחום זה יתפתח

    ויביא לנו יותר ויותר תועלת

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון אוקטובר 22 2019, 11:37
      ויותר ויותר נזק

      הבעיה היא ההבחנה בין התועלת למשווקים עם חרוזים לילידים ובין הנזק לחופש הבחירה שלנו.
      כבר כמה שנים מתריעים עובדי עמק הסיליקון לשעבר על חומרת הנזק שנגרם מיצירותיהם. הם מכים על חטא, אבל כל המוקסמים מהתועלת שמתקבלת משימוש במכשירים הממכרים מתעלמים מהם. מה הם יכולים להבין?

      השב לתגובה
  2. סטןדנט
    סטןדנט אוקטובר 22 2019, 11:00
    הפעם היה לי יותר קל להבין כוונותיך

    אני קורא את כל המאמרים שלך והמדור IT

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון אוקטובר 24 2019, 15:54
      אני שמח

      ותודה על שטרחת ליידע אותי. אבל גם כאשר אתה לא מבין דבר-מה, שאל ואנסה להבהיר את דברי.

      השב לתגובה
  3. ס.
    ס. אוקטובר 25 2019, 18:53
    אני בטוח שתכנות של זיהוי רגשות

    ילכו וישתכללו ויגיעו לרמה גבוהה. יהיו כאלה שינצלו את התוכנות האלה כדי לפתור בעיות של אנשים ולהמודד עם תופעות. ויהיו כמובן כאלה שינצלו את התוכנות לרעה. לטובת אינטרסים צרים.

    השב לתגובה
  4. יהושפט גבעון
    יהושפט גבעון נובמבר 01 2019, 16:23
    תוכנות אינן הולכות. מוליכים אותן

    ואותנו מוליכים שולל. כאשר הגורמים שרוצים לנצל אותן לרעה מסוגלים להשקיע בהן הון רב, השימושים הטובים יאבדו גובה ולשימושים הרעים תהיה עוצמה רבה יותר. כי מדובר לא רק בשימושים אלא גם בפיתוחים של התוכנה. לכן, המאמינים שיש איזון בין יתרונות לחסרונות אינם מבינים לאן הרוח נושבת ולאן התוכנות נוטות כי הן תוכנות. אבל לשם כך צריך להבין מה זאת תוכנה, כיצד היא פועלת, ומה הן נטיות הלב של מפתחיה – ובעיקר, מה עושים בוגרי מדעי ההתנהגות בעמק הסיליקון כדי לקדם את השפעת התוכנה על המשתמשים בה.

    השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!