JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » המודל העסקי של מערכות ההשפלה הדיגיטליות

המודל העסקי של מערכות ההשפלה הדיגיטליות

האם המערכות הדיגיטליות צריכות לחשב מסלול מחדש?

המודל העסקי של מערכות ההשפלה הדיגיטליות פרופסור יהושפט גבעון
אוקטובר 31
09:30 2018

ז'רון לניר (Jaron Lanier) בביטוי העוקצני "Bummers" בהתייחסו לענקיות התוכנה אשר התגלגלו למצב שבו הן משפילות אותנו ומדלדלות את כוחנו באופנים שונים. אני בחרתי בביטוי דומה בחריפותו: "מערכות השפּלה". במאמר קודם פירטתי את עשרת המאפיינים למערכות אלה שמנה לניר, ואף הצעתי לכם לקרוא דיווחים על עשרות מחקרים המצביעים על תופעות לוואי מחרידות שמלוות את השימוש ברשתות החברתיות, מחקרים התומכים באפיון של לניר.

אדגיש, לניר מרגיע אותנו שלא מדובר באג'נדה מגמתית המכוּונת לגרום למיליוני המשתמשים להוריד איכות בתקשורת שלהם, להיות עוקצניים ואגרסיביים, להעדיף מסרים שקריים או אידיאולוגיה פוליטית זו או אחרת. במילים שלו הוא מסכם: "הרשתות החברתיות מוטות, לא שמאלה או ימינה, אלא למטה" (בעמ' 20, בספרו הנ"ל). זאת רק דוגמה דרמטית של הטיה של מערכות דיגיטליות הנובעת, בין היתר, מתכונותיהן הבסיסיות. הטיה זו מתגלה בדיעבד מבלי שמתכננים אותה. דאגלס ראשקופף ומרשל מקלוהן היו הראשונים להצביע על הטיות כאלה.

לניר מציע שנבין כיצד הטיה ספציפית זו קרתה. מכיוון שהוא עבד במחיצת מנהיגי הרשתות החברתיות הללו הוא יכול לדווח לנו על התפתחותן ממקור ראשון. הטיה זו לא נוצרה בתכנון מגמתי, אלא מהשתלשלות טרגית ומקרית. כדי להבין השתלשלות זו, עלינו להכיר את ההיסטוריה של הרעיונות של הרשתות החברתיות.

ניצני התרבות הדיגיטלית הנוכחית נבטו בשנות ה-60 בימי ילדי הפרחים. הרעיון של תוכנה חופשית נולד כבר אז כחלק מתפיסת העולם שרווחה בימים הללו בקרב חובבי הטכנולוגיה החדשה. הייתה זו גרסה מערבית וחדשנית של הרעיון המרקסיסטי הישן: רכוש פרטי הוא אֵם כל חטאת וביטולו יביא רק ברכה לעולם. רשתות המחשבים שנבנו במקורן מתוך שיקולים ביטחוניים, ברגע שנמסרו לרשות הציבור, היו כלים שאִפשרו יישום קל ונוח של הרעיון המרקסיסטי הזה. העובדה שהשימוש בתוכנות כמו פייסבוק וגוגל הוא חופשי אינה נובעת אפוא משיקולים עסקיים, אלא ממורשת החשיבה של שנות ה-60.

אבל עם הרעיון של תוכנה חופשית לכול, כמו כמעט בכל חברה מרקסיסטית טיפוסית, צץ ופרח פולחן האישיות גם בעולם הדיגיטלי. ממציאי המחשב הביתי לחובבים היו הראשונים שזכו להערצה. ממציאי תוכנות ומנהליהן היו רשאים לגנוב רעיונות ברשות החוק ולגרוף רווחים אסטרונומיים מניצול השימוש בתוכנות. להמוני המשתמשים ניתנה הרשות להשתמש בתוכנות, אלה ואחרות, בחינם תוך שהם מוותרים על פרי עמלם הנוצר במהלך השימוש הזה. איש לא שם לב לתשומות המוני המשתמשים שנוצלו היטב לשכלול התוכנה. למעשה, כפי שתגובות לביקורת על המערכת המשפילה מעידות, רבים מהללים את העובדה שהמשתמשים מקבלים תוכנה בחינם ומתעלמים כליל מערכה של התרומה של המשתמשים בה להצלחת התוכנה עצמה.

כיצד הובטחו רווחי המערכת והצלחתה? הפתרון שנבחר היה פשוט והתבסס על לקחי השיווק משנות ה-50. הרעיון היה שמצד אחד המשתמשים ירותקו לתוכנה החופשית, שתישאר חופשית, אבל היא תתובל בפרסומות של משווקים שונים שיותאמו היטב לכל משתמש, בהתאם לנטיותיו המתגלות במהלך השימוש. המערכת תדאג לכך שהמשתמשים יבלו את זמנם כשהם מרותקים לתצוגות התוכנה החופשית. מצד שני, המערכת תקבל מהמשווקים תמורה עבור כל נגיעה דיגיטלית בפרסומות של סחורותיהם, פרסומות שהמערכת תציג למשתמשים השבויים בה.

מנהיגי המערכות האלה בחרו לרתק את המשתמשים באמצעות אלגוריתמים לומדים שלמידתם מבוססת על ידע בסיסי וישן ממדעי ההתנהגות, אלגוריתמים שנבדקו עוד בניסיונות הראשונים לפיתוח תוכנות בינה מלאכותית בשנות ה-50. אם כן, ריתוק המשתמשים נעשה בעזרת אלגוריתמים הבודקים את התנהגות המשתמשים מול הפריטים המוצגים להם (אילו פריטים נבחנים על ידי המשתמש/ת במשך זמן ממושך? ואילו פרסומות מביאות אותו/ה ללחיצה עליהן?) אלגוריתמים אלה מארגנים את פלט התוכנה (למשל, ארגון הפריטים בדף הבית שלה, וארגון מערך הפרסומות המוצגות למשתמש) בהתבסס על הבדיקות. הלמידה של האלגוריתמים האלה מתבצעת לפי כללי התניה פשוטים: לכל משתמש מוגדר פרופיל של נטיות אישיות, והוא משתנה בהתאם להצלחה בניבוי התנהגותו של המשתמש מול הצג. זהו רעיון ישן, כאמור, שבא לידי שימוש בתוכנות הבינה המלאכותית הלומדות הראשונות עוד בשנות ה-50.

כך, המשתמשים במערכות אלה הפכו לנבדקים בניסויי ענק ותשומותיהם, ללא גמול, אִפשרו למערכת לשכלל את עצמה, כלכלית, ללא התערבותם של המנהיגים. שכלול המערכות הללו אִפשר למנהיגים להתעשר בהיקף שלא היה כמותו. בעיקרו, זהו המודל העסקי של גוגל, של פייסבוק ושל מערכות השפלה אחרות.

למערכות ההשפלה היו תופעות לוואי שצצו בעקבות יישום המודל הזה. הן לא תוכננו על ידי מנהיגי המערכות. בשנות ה-80 וה-90 לא הייתה כלל מודעות לתופעות הלוואי האלה. אומנם מקלוהן טען כבר ב-1964 שמי שאינו נזהר ואינו מבין את אמצעי התקשורת החדשים, סופו שהם ישתלטו עליו כמו כישוף, אבל איש לא ייחס חשיבות לטענתו, או הבין אותה. כולם היו בטוחים שרעיון התוכנה החופשית ייטיב עם האנושות. וכאשר פותחו הרשתות החברתיות, כולם היו בטוחים שהן תבאנה ברכה למשתמשים בהן.

זוכרים את שיכרון ההתלהבות מ"האביב הערבי"? כרגע, אנחנו נמצאים בשלב שבו התופעות השליליות של הרשתות החברתיות הללו מתפרצות כבולענים הרסניים בכל מיני מקומות. העובדות מצביעות על כך שהתנסות ממושכת בתהליכי התניה גורמת למתנסים בהם להתפרץ, מדי פעם, בהתנהגות הרסנית בלתי-נשלטת.

בכל זאת, פה ושם תמצאו עדויות ברורות לכך שציבור המשתמשים מתאכזב מהרשתות החברתיות. ייתכן מאוד, שכמו מול יצרני הטבק ומול פרסומות ההימורים, אפילו תעלה דרישה שכל מערכת משפילה, אשר הוכחה באופן אמפירי כמזיקה, תפרסם בדף הבית שלה כרזה בולטת, כהאי לישנא: "המומחים לרשתות חברתיות מזהירים: שימוש מרובה בתוכנה הזו עלול לגרום לנזקים רגשיים וחברתיים שונים!".

אחת הדוגמות הברורות לפגם עסקי אפשרי ביישום המודל הקיים של מערכות ההשפלה היא "תוכנת התרגום" של גוגל. אם יפחת היקף תעסוקת המתרגמים המקצועיים בעולם בשל השימוש בתוכנה זו, תרד איכות התרגומים, שכן את התרגום יבצעו המשתמשים הלא-מקצועיים, וכתוצאה מכך איכות הסיכום הסטטיסטי של נתוניהם המגולם כחוכמת המונים ב"תוכנת התרגום" הלומדת לא תעלה. אנו נימצא בצומת הכרעה: לוותר על איכות התרגום המקצועי ולהשתמש בתערובת הקלוקלת העדכנית והתקועה של "תוכנת התרגום", כסמל הקִדמה, או לוותר עליה, ככישלון נוסף של "הבינה המלאכותית", ובמקומה לחזור ולעודד את המתרגמים המקצועיים.

צריך להבין ולזכור שהפגיעה בפרטיות היא הפגיעה הקלושה ביותר בשל שימוש במערכות השפלה. כמו כן, אי-אפשר למגר את תופעות הלוואי המחרידות של השימוש במערכות ההשפלה מבלי לערוך שינויים מהותיים בגורמים של תופעות אלה. אי-אפשר לנצל את הצדדים החיוביים של מערכות ההשפלה מבלי להיחשף לפגיעה מהצדדים השליליים שלהן. תיקונים שטחיים של תוכנות מורכבות הם מסוכנים מאוד. ראו מה קרה לאחרונה כאשר מערכת השפלה אחת ניסתה לבצע תיקון באבטחת נתוני המערכת. המערכת נפרצה וחשבונות של מיליוני משתמשים נפגעו. למרות, ואולי דווקא משום שתופעות הלוואי הופיעו ללא תכנון מראש, היעלמותן איננה מובטחת ללא פעילות תיקון יסודית.

אפשר לחשוף את תופעות הלוואי הללו ואת גורמיהן, אך בנוסף, צריך וכדאי לעודד את מנהיגי המונופולים הדיגיטליים לשנות את המודל העסקי שלהם מן היסוד. כך מציעים לניר ועמיתיו.

היות והמערכת הקיימת מסוגלת כבר לעקוב אחרי כל פעולה של המשתמש, לא יהיה זה שינוי טכני מורכב מדי לאפשר למערכת לומדת להגדיר את הגמול המגיע לכל משתמש לפי תשומותיו האקטואליות ולפי ערכן, הן למערכת עצמה והן לכלל המשתמשים. פעולה שכזו, טוען לניר, תעודד את המשתמשים גם מכיוון שהיא תחזיר להם את כבודם האישי הנרמס. בדרך זו, השימוש בתוכנה יהיה דומה לשימוש בכלי נגינה יותר מאשר לשימוש במכונת כתיבה. בצורה כזו תתחולל מהפכה דיגיטלית אמיתית: הנתונים יהפכו ממשאבים המהווים רכוש של בעלי המערכות, לפרי עמל בר-תגמול ויוכרו כיצירה של המשתמשים. המשתמשים יתייחסו בכבוד אל הנתונים שהם מספקים והמשיכה לשימוש בנתונים מזויפים תרד. מערכת שבה למשתמשים יהיה ערך ממשי, תהיה הומנית יותר, בדיוק כפי שבמאה ה-20 בתי חרושת שהתחדשו במערב נהיו הומניים יותר.

רבים מצדיקים את ביטולם של תחומי עיסוק בשל פיתוחה של תוכנה חדשה, בטענה שייווצרו תחומי עיסוק חדשים, ולכן המאזן החיובי של הקִדמה הכלכלית יישמר. כך אומנם קרה בעידן התעשייה. הצדקה זו מתעלמת מהעובדה שהמצאות עידן התעשייה אינן דומות להמצאות התוכנות "החכמות החדשות". בעידן התעשייה לא ניסו לחקות התנהגות של בעלי מקצוע באמצעות הכלים המומצאים. מנוע הקיטור איננו חיקוי של בהמות העבודה. גם איכות השימוש בהמצאות הללו לא הייתה תלויה בהתנהגות של אלה הפועלים ברקע של ההמצאות. בבינה המלאכותית העדכנית, הדורסת מקצועות על ידי חיקויַם, לא טמונה האפשרות ליצירה של תחומי עיסוק חדשים.

בניגוד לשמירה על המודל העסקי הקיים, אם המערכות הנעלות תאפשרנה מתן תגמול הוגן ליוצרי הנתונים, החיוניים כל כך להצלחתן העסקית, אפשר יהיה לקדם מקצועות חדשים שיתמקדו באיכות הנתונים, ובהמשך יתמקדו גם בפיתוח איכות המערכות עצמן מעבר להשגת נקודות קיצון מקומיות. בניגוד לסברה המקובלת, תוכנות בינה מלאכותית לומדות אינן מסוגלות להשתכלל בעצמן מעבר להשגת נקודות קיצון מקומיות שבהן הן נתקעות. באבולוציה נמצא לכך פתרון בעזרת מוטציות. מוטציה היא אירוע שבו מסלול ההתפתחות מחושב מחדש על ידי קפיצה אקראית. כדי להבטיח את עתיד הצלחת האלגוריתמים שלהם, על מנהיגי המערכות האלה לחשב מסלול מחדש, ואולי גם לפתח אסטרטגיה נבונה לחישוב מסלולים מחדש. כרגע לא ברור כלל שהדבר אפשרי ללא מעורבות רציפה של בני אדם.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

6 תגובות

  1. ורדה נחמיאס
    ורדה נחמיאס אוקטובר 31 2018, 13:34
    לכל אחד דעה משלו

    ואין לי אישית בעיה עם מה שאמרת או הבאת מאחרים. רק דבר אחד נראה לי קצת לא הגיוני. שתופעת הרשתות והאתרים הקבוצתיים הגדולים בחינם, מבוססים על עקרון קומוניסטי. משום מה נראה לי שזה הפוך כאשר כל אחד בקלות יכול לפרסם לכל העולם את דעתו הפרטית.

    השב לתגובה
  2. יהושפט גבעון
    יהושפט גבעון אוקטובר 31 2018, 16:31
    מדובר בעקרון סוציאליסטי המבטל את זכויות הקניין הפרטי

    לא הגיוני? בוודאי. הרבה דברים לא הגיוניים נכללו ביישומי הרעיונות הסוציאליסטיים והקומוניסטיים.
    אבל לפני שאנו מפריזים בהתלהבות מחופש הביטוי ברשתות החברתיות, כדאי לשים לב לפיתויים שלהן.
    מכל מקום, אין קשר הגיוני בין חופש הביטוי לבין זכויות הקניין. רעיון ביטול הקניין הפרטי בהקשר הטכנולוגי ייושם באופן מאד לא הגיוני. השימוש בתוכנות הוא בחינם אבל אסור לנו לגעת בהן. והאלגוריתמים של ענקי הרשת הם שמורים יותר מאוצרות בית המלוכה באנגליה.
    מרצון או לא מרצון, האקרים לא פרצו אל השרתים של ענקים אלה כדי לחשוף את סודות האלגוריתמים שלהם. לניר (ואני מדווח על כך) חושף כמה תכונות מדאיגות שלהם.
    כדאי שתדעי גם להבדיל בין דעות לבין דיווח על עובדות. אחרת הכול נהיה לחרטוט…

    השב לתגובה
  3. מנחם לנמן
    מנחם לנמן נובמבר 01 2018, 19:31
    יש משהו טוב ברשתות נחברתיות?

    איזה פלוס אחד?
    אתה ממש אנטי רשתות

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון נובמבר 02 2018, 08:36
      אני מתנצל שהוטעית

      אינני שופט את הרשתות החברתיות. לכל היותר אני עד מומחה מטעם ההגנה על המשתמש ותפקידי לדווח על עובדות לפי מיטב ידיעותי, עובדות על פגיעה במשתמשים.

      ההתנצלות שלי מכוונת לכך שהוטעית לחשוב שבביטוי "מערכות השפלה" הכוונה היא לכל הרשתות החברתיות. לא ולא. לדוגמה, הרשת "לינקדין" היא רשת חברתית שאיננה פועלת לפי המודל העסקי שתואר במאמר. במאמר קודם תארתי את מאפייני מערכות ההשפלה.

      האחריות לשיפוט מוטלת עליך ואני מקווה שתשפוט על סמך כל העובדות הנגישות לך ולא רק על סמך תרועות המשווקים. אני סיפקתי את העובדות ואת הקישורים לדיווחים על המחקרים שחשפו את הצד האפל של רשתות כמו הפייסבוק וגוגל.

      במאמר הזה תיארתי גם הצעה אחת לפיתרון להתמודדות עם ההטיה המחרידה של מערכות ההשפלה. יש כמובן הצעה נוספת, קדומה יותר, של מקלוהן – להבין את המדיום.

      השב לתגובה
  4. עמירם וקסמן
    עמירם וקסמן נובמבר 03 2018, 10:49
    אין ספק שיש הרבה מכוער ושלילי ברשתות

    השאלה היא האם אתה באמת מוכן לוותר עליהן בגלל ההיבטים השליליים. או שיש דרכים אחרות להתמודד עם הגרוע.

    השב לתגובה
  5. שגיא בארי
    שגיא בארי נובמבר 20 2018, 19:53
    המושג מטעה

    לדעתי מערכות השפלה פירושן שנןעדו להשפיל
    זו לא המטרה של המערכות הללו
    הן רוצות להרווי כסף
    אולי בדרך הן משפילות אולי לא
    אבל הן לא מערכות השפלה

    השב לתגובה

כתוב תגובה

הוסף תגובה:

שדות חובה מסומנים *

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!