JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » כנראה לא קל לראות את הנולד

כנראה לא קל לראות את הנולד

האם קל לנו להכיר באחריותנו על תוצאות מעשי ידינו?

כנראה לא קל לראות את הנולד פרופסור יהושפט גבעון
ינואר 18
09:30 2020

מרשל מקלוהן, בספרו משנת 1962 "הגלקסיה של גוטנברג", ספר שכתב במטרה המוצהרת של "הגדלה אמתית של האוטונומיה האנושית", העיר "האדם, החיה הבונה-כלים, אם בדיבור או בכתיבה או ברדיו, היה מעורב בהרחבה של חוש זה או אחר שלו באופן שיפריע לכל שאר חושיו וכשריו. אבל לאחר שערך את הניסויים האלה, באופן עקבי, בני האדם נמנעו מלעקוב אחריהם בתצפיות". כך מתבטא פרופסור לספרות אנגלית, ואולם בשפתנו נוכל לומר: האדם אוהב לבנות כלים כניסויים להרחיב את טווח קיומו, אלא שאיננו אוהב לבדוק בדקדקנות את תוצאות הניסויים האלה. במילים אחרות, הוא אוהב ליצור המצאות, אך מתחמק בעקביות מבדיקה יסודית של הנזקים שהשימוש בהן עלול לגרום. הדוגמאות לנזקים כאלה הן רבות ומוכרות: זיהום האוויר על ידי כלי הרכב הממונעים בעזרת דלק מאובנים, הפגיעה בציפורים על ידי השימוש הפרוע באמצעי הדברת מזיקים, השפעת פס הייצור על העובדים בתעשיית הרכב, זיהום מי הימים במוצרי פלסטיק שאינם מתכלים ועוד. אנו נהנים מהמצאותינו אך עוצמים את עינינו מרוב התלהבות.

שושנה זובוף, בספרה האחרון על כלכלת המעקב (2019), מצטטת (בעמוד 292) את יוסף וייצנבאום (1923–2008), שהיה מחלוצי הבינה המלאכותית. בהרצאה שנשא ביום 17 ביולי 1986, בכינוס של החברה לאינפורמטיקה בעיר קרלסרוהה בגרמניה שכותרתה הייתה "לא בלעדינו" ("Not Without Us"), אמר וייצנבאום כך:

"אינני יודע האם אלו מדעי המחשב במיוחד, או תת-הדיסציפלינה שלהם, הבינה המלאכותית, שיש להם חיבה עצומה ללשון מליצית. אנו מדברים באופן נלהב על כך שמערכות מחשבים מבינות, רואות, מחליטות, שוקלות ושופטות… מבלי שאנו בעצמנו נכיר בשטחיות שלנו, בנאיביות העצומה שלנו ביחס לרעיונות האלה. ובעצם הדיבור הזה, אנו משתקים את יכולתנו… להיות מודעים ליעד השימוש… אינך יכול לחמוק ממצב זה מבלי לשאול שוב ושוב: 'מה אני בעצם עושה? מהו השימוש הסופי של התוצרים של עבודתי?' ולבסוף, 'האם אני שבע רצון או מתבייש בתרומה שלי לשימוש הזה?'"

בקטע זה טען וייצנבאום כמה דברים חמורים:

  1. לעוסקים במדעי המחשב, כולל אלה העוסקים בבינה המלאכותית, יש חיבה עצומה לשימוש במטפורות מליציות כאשר הם מתייחסים אל מערכות מחשבים. המונחים "זיכרון", "שפת מחשב" ואפילו "שפה", "מערכת מידע", "פותר בעיות", "באג", "מכונה לומדת", "הוראות" או "פקודות" ורבים אחרים הם דוגמאות למטפורות מליציות כאלה. כל כך התרגלנו אליהן, עד שאיננו שמים לב לכך שהן מליצות חסרות תוכן.
  2. השימוש במטפורות אלה מעיד על שטחיות ועל הנאיביות העצומה שלנו החוקרים ביחס שלנו אל תבונת האדם, שהיא מושא הזילות של המטפורות האלה ומושא העיסוק בבינה מלאכותית.
  3. עצם השימוש במטפורות אלה מקהה את יכולתנו להיות מודעים לתוצאות של השימושים בכלים שאנו יוצרים.
  4. וייצנבאום מציע, כפתרון הכרחי למצב הזה, ללווֹת כל תהליך של פיתוח, בכל צעד, בשאלות נוקבות, שוב ושוב: "מה אני בעצם עושה? מהו השימוש הסופי של התוצרים של עבודתי? האם אני שבע רצון או מתבייש בתרומה שלי לשימוש הזה?"

בספר מפורסם שלו, "עוצמת מחשבים ותבונה אנושית: משיקול דעת ועד לחישוב", שפורסם עוד בשנת 1976, וייצנבאום ביטא זעזוע מהיחס של משתמשים רבים אל התוכנה "אלייזה" שהוא פיתח. תוכנה זו פותחה כדי להמחיש את הקלות ביצירת הדמיה שטחית של דיאלוג בין מטופל (המשתמש) ומטפל (התוכנה) בשיטת טיפול שלפיה המטפל אינו צריך להבין את דברי המטופל אלא רק לשאול שאלות המורכבות בשיטתיות מדברי המטופל. הוא היה ראשון בסדרה ארוכה של מדעני מחשבים ומפתחי תוכנות בינה מלאכותית שתפסו מה הם בעצם עושים. ואכן, מדי פעם אפשר לקרוא על ביטויי חרטה וביקורת של חוקרים ושל יוצרים בתחום מדעי המחשב שנהיו מודעים לתוצאות השכיחוֹת של השימוש בהמצאותיהם. אזכיר כאן כמה מהם.

דאגלאס הופשטטר התפרסם בעולם לפני ארבעים שנה בשל כתיבת נימוקים מאלפים כדי לשכנע אותנו שהבינה המלאכותית, המשמעותית, נמצאת סמוך לפתחנו. נימוקיו המאלפים רוכזו בספר "גדל, אשר, באך: פוגה מטפורית על נפשות ומכונות ברוח לואיס קרול". המקור יצא באנגלית בשנת 1979 ותרגומו המדוקדק לעברית, שנמשך 15 שנים, יצא לאור בשנת 2011. בספר מרתק זה התחיל הופשטטר בהסבר מפורט ומדויק של מושג המערכת הפורמלית, כפי שהוגדר על ידי אמיל פוסט בשנות ה-30, כדי להגדיר מהו עיבוד נתונים, או חישוב יעיל. מהסבר זה עבר להנמקה של סבירות החזון של הבינה המלאכותית. הוא ניסה להסביר כיצד הבינה המלאכותית יכולה להיווצר מפעולה של תהליכים לוקליים מאוד, שתבונתם מוגבלת מאוד, המתבצעים על סדרות של תווים, לפי הוראות פעולה מסוימות, כמו במערכות הפורמליות של פוסט, תו אחר תו, משבצת אחר משבצת. אני, בזמנו, המלצתי לכל תלמידיי לקרוא את הספר הזה, לפחות כדי להבין מה זאת מערכת פורמלית ולהבין מהו כלי דיגיטלי. להבנה זו תספיק קריאה נבונה ב-80 העמודים הראשונים של הספר. למטרה זו, אין לספר זה תחליף. אם תרצו להבין את הכלים הדיגיטליים מומלץ מאוד שתקראו את ההסבר של הופשטטר.

במשך השנים שחלפו מאז פרסם הופשטטר ספרים נוספים, אשר בהדרגה ביטאו את התפכחותו מהאמונה הנלהבת שניתן לבצע הדמיה מוצלחת של התבונה האנושית. הוא למעשה יישם את אחד הרעיונות שביטא וייצנבאום בהרצאתו, ועבר מקשירה נלהבת של כתרים לבינה המלאכותית העומדת בפתחנו ושעוד מעט תתגלה, אל חקירת תעלומות אמיתיות של הבינה האנושית, כמו יכולתנו בזיהוי תבניות צורניות (כמו ביצירת פונטים ובזיהויים) ובחשיבה על מושגים "נזילים", כלומר כאלה שאינם מוגדרים בדקדקנות (1995) ועד לנדרש מתרגום איכותי משפה (אנושית) לשפה אחרת. בספרו האחרון, שהוקדש לזכר אשתו שנפטרה ממחלה ממארת, התמקד ב"תשבחות למוזיקה של השפה" (1997). בספר זה הופשטטר מלגלג על הניסיונות הממושכים והדלים (מאז שנות ה-50) לפתח תוכנת תרגום איכותית בהתעלמות גמורה מהבנה משמעותית ומעמיקה של השפה האנושית.

במאמר קודם תיארתי בפירוט את גלגוליה של תוכנה החל מִשלב יצירתה של תוכנת בינה מלאכותית חדשה ועד להתעוררות של יוצרת התוכנה רוזלינד פיקארד, והכרתה בתוצאות המזיקות של השימושים הבלתי מוגבלים בתוכנה שיצרה. היא הודחה מניהול החברה שהקימה והחלה לפרסם ברבים את הסכנות הטמונות בשימושים בתוכנה שלה.

המעניין הוא שתמיד יימצאו קוראים שייפגעו אישית מביקורת על ערכה של הבינה המלאכותית. שוב ושוב הם יצהירו על אמונתם העזה בטכנולוגיה שתתפתח (כאילו מאליה), ובסופו של תהליך מעלותיה יגברו (כאילו מאליהן) על חסרונותיה. לעומתם, כפי שתואר בכתבה ב"הגרדיאן" מלפני שנתיים, שאוזכרה במאמרי על ההתמכרות הדיגיטלית, בשנים האחרונות בכירי המפתחים מעמק הסיליקון מתעוררים, זה אחרי זה, ומבטאים בגלוי את הבושה ואת הצער על התרומה שלהם לשימוש הקלוקל ביצירי כפיהם. אין ספק שאנו מוגבלים ביכולתנו להעריך מראש את הערך המציאותי של המצאות

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

6 תגובות

  1. צחי
    צחי ינואר 18 2020, 10:32
    אני רוצה להיות בטוח שהבנתי את המסר

    הבינה המלאכותית לא תורמת ואולי אף מזיקה?

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון ינואר 18 2020, 10:42
      לא רק תוכנות הנקראית ״בינה מלאכותית, אלא כל כלי

      שמפתחים דורש בדיקה קפדנית. המסר הוא פשוט: קשה לראות את הנולד ולנו יש הנטייה לחשוב שאם מוכרים למו כלי חדש אז כמובן, וללא הדיקה מעמיקה, אנו מאמינים שאיננו מזיק. אנו לא מעוניינים לחקור ואנו ממנעים מלהבין.

      השב לתגובה
  2. ימית
    ימית ינואר 19 2020, 17:38
    קשה לנבא את הנולד

    אבל זה לא אומר שעדיף להשאר על העצים ולחצוב באבנים.

    השב לתגובה
  3. יהושפט גבעון
    יהושפט גבעון ינואר 20 2020, 09:44
    זה אומר שאם לא נשנה את דרכנו, ואם לא נלמד

    לבדוק היטב את מעשי ידינו, לא יהיו עצים בכדור הארץ המזוהם שלנו.

    השב לתגובה
  4. שירן
    שירן ינואר 22 2020, 19:02
    לראות את הנולד קשה

    כי זה תלוי בהחלטות אנושיות
    אבל את התפתחות הטכנולוגיה אפשרי לחזות

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון ינואר 23 2020, 08:06
      לשירן, תודה על תגובתך

      מעניין אותי מאד כיצד הגעת לתובנה ש"את התפתחות הטכנולוגיה אפשרי לחזות".

      ראשית, אינני יודע לאיזו טכנולוגיה התכוונת. למשל, האם התפתחות מערכת ההגנה הישראלית מפני טילים, נכללת תחת הביטוי "התפתחות הטכנולוגיה"?. התפתחות זאת בוודאי שהייתה תלויה בהחלטות אנושיות (בין היתר בסוגיית בחירה בין הגנה על-ידי לייזר ובין הגנה על-ידי טילים מתנפצים). ואם הכוונה היא רק לטכנולוגיה הדיגיטלית, כל מפתח (מתכנת או ממציא אלגוריתמים) יוכל להעיד לך על כמה החלטות אנושיות גלומות בהתפתחותה. בקיצור, עובדות רבות מעידות על כך שאת התפתחות הטכנולוגיה כנראה אי אפשר לחזות.

      אבל לא רק את התפתחותה לא ניתן לחזות, אלא גם כאשר נמצאת בידינו המצאה שפותחה כבר, איננו יכולים לחזות את התנהגותה. כדי להבין זאת כדאי להבין את מאמרי הקודמים בעניין זה: "האם טיורינג טעה?", "הברונים הדיגיטליים והחוק במאה ה-21", "האם יילמד הלקח מהתרסקות המטוס באתיופיה?" ואחרים.

      אם אפשר לחזות את התנהגות המצאותינו, אפשר היה לוותר על טיסות מבחן, ניסויי טילים, ובדיקות תוכנה, ובעיקר, השגיאות של המתכנתים היו נעלמות מעולמנו. מדוע לדעתך זה לא קרה?

      השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור