JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » השאלות שלא נשאלות

השאלות שלא נשאלות

הבינה המלאכותית מול האמונה בה

השאלות שלא נשאלות פרופסור יהושפט גבעון ליד התנ"ך של גוטנברג
ספטמבר 07
09:30 2019

שוב ושוב מוזמנים מומחים להרצות על עתיד הבינה המלאכותית והקהל כל כך מוקסם מדבריהם עד שאינו שואל כמה שאלות פשוטות שעשויות לפוצץ את הבלון של החלום הסינגולרי: הנה, עוד זמן קצר, וכוח המחשוב יעלה, יתפח ויתפתח וביום בהיר אחד, כמו בהתחממות הגלובלית או באבולוציה הביולוגית, מחשב-העל או רשת ענקית של מחשבי-על, יתגלו, מאליהם, כבעלי תודעה ובינה שתאפלנה על האדם.

השאלות שלא נשאלות הן אלה:

אם אכן זהו תהליך הדומה לאבולוציה הביולוגית, אזי מדובר בתהליך התפתחותי אקראי. נניח אפוא שאכן בהתפתחותו יתגלו בינה ותודעה. מה יבטיח שלא תתגלה בינה של מקק? מדוע המרק האלגוריתמי שיציף את הענן יתפתח דווקא לבינה על-אנושית ולא רק לבינה על-חרקית? האם הופעה של בינה של חרק או של תודעה של קוף לא תהיה הצלחה מדהימה של התפתחות הטכנולוגיה הדיגיטלית? מדוע המומחים לבינה מלאכותית סומכים על האבולוציה הדיגיטלית שתדלג במהירות על השלבים ההתפתחותיים שקדמו להופעת גלגוליה הראשונים של הבינה האנושית והיא תגיע אליה? האם קצב ההתפתחות של האבולוציה הטבעית נקבע רק על ידי החומרה (הגוף של בעל החיים) ולא גם על ידי האירועים שבסביבה? באיזו סביבה יתבשל המרק הדיגיטלי שבישולו יבטיח הופעה ספונטנית של בינה ותודעה כמו-אנושיות שיכולות להתחרות בגרסותיהן האנושיות?

גם שאלות פשוטות יותר לא נשאלות. למשל, כאשר מצהירים על התחזית שאנו עומדים לפני פריצת דרך בהתפתחות הבינה המלאכותית ומחשב יוכל להחליף את האדם, לא נשאלת השאלה האם הוא יחליף את האדם לגמרי: במטבח או בתעשייה? התרגלנו לשמוע על האוטומציה של התעשייה, אלא שאין אנו ערים מספיק לבעיה באוטומציה של התעשייה שעדיין לא נפתרה וקשה לראות מתי, והאם בכלל, היא תיפתר. אם נתחיל במטבח כדוגמה, בעיה זו תצוץ במלוא חריפותה בראשית הדיון בה.

כדי שרובוט יוכל להחליף את האדם במטבח, נצטרך לסמוך על הרובוט בבדיקת האיכות של חומרי הגלם של הבישול: האם הם מזוהמים? האם הם טריים? האם איכותם מתאימה לתבשיל המיועד? הטבחית האנושית משתמשת בחושי הראייה, המישוש, הריח והטעם שלה כדי לעבור את מסלול המכשולים לקראת בישול מאכל משובח. היא תחוש בתוספת כלשהי שפוגמת באיכות חומרי הבישול שלה, בשל טעם חשוד, ריח מטריד, צבע מעורר שאלה וטקסטורה לא מתאימה. היא לא תסמוך רק על התווית המסחרית. הידע שלנו בכימיה איננו מספיק כדי להסתמך עליו בביצוע תהליכי בדיקה משוכללים כאלה באמצעות אלגוריתמים. האם גם מיומנויות אלה תתגלינה מאליהן במהלך "התפתחות הטכנולוגיה"?

במסגרות מסוימות, בעיית חומרי הבישול איננה בעיה. אם המטבח שלנו היה מבודד מהסביבה האנושית הרגילה ומהסביבה הביולוגית הרגילה, היינו יכולים להבטיח שליטה כמעט מוחלטת באיכות החומרים הנכנסים לביתנו. בשל סיבה זאת יכולה תעשייה, בתחומי ייצור מסוימים, להבטיח שליטה באיכות חומרי הגלם ולוותר כליל על הגורמים הפעילים האנושיים הדרושים להבטחה זו. במטבח הנוכחי הבטחה זו איננה אפשרית.

הבעיה העיקרית בדיונים בבינה מלאכותית היא שהדנים בה מאבדים את ערנותם ואינם שמים לב לשטחיות של דבריהם. כיצד דור חדש של מחשבים, בעלי חומרה מפותחת יותר, יהיה נבון יותר? האם גרסה חדשה של "חלונות" היא ביטוי לתבונה נעלה יותר? של מי? כיצד דור חדש של מחשבים יגלם הבנה שתבונתו עולה על תבונת האדם ובאילו שטחי חיים? כאן כנראה מגייסים את משחק החיקוי שטיורינג הפך אותו למבחן: אם נדע לכתוב תוכנה שתערים על בני אדם במשחק חברתי ישן, אז המחשב יוכיח את עליונותו.

העובדה ההיסטורית היא שכבר בשנות השבעים כתב חוקר של הבינה המלאכותית תוכנה שהערימה, הן על המזכירה שלו והן על עשרות חוקרי הפסיכולוגיה בדורו. כלומר, קבוצה מסוימת של בני אדם חשבו במלוא הרצינות שהתוכנה מבצעת תהליכים שקודם לכן יועדו רק לבני אדם, ולא סתם לבני אדם כי אם למומחים, ולא סתם למומחים כי אם למומחים בנבכי נפש האדם. חוקרים אלה לא ידעו, בפועל, להבחין בין ביצוע התוכנה לבין ביצוע אנושי של תהליכי טיפול אלה. כלומר, התוכנה עברה את מבחן טיורינג בהצלחה רועמת. מדוע לא שמו לב להצלחה זו? איך זה ייתכן שתוכנה תצליח במבחן הזה מבלי שנשים לב לכך? מדוע תוכנה זו נשכחה??

תחומי העיסוק של האדם מגוונים מאוד גם כשדנים באפשרות שמחשב (או רובוט, או תוכנה) יחליף את האדם. מי שחי כמו דייזי ומסכים שיצרני הטכנולוגיה ומשווקיה יסיעו אותו ויגידו לו מה קורה מחוץ למכונית, איננו יודע שכל פעולה של מחשב, וכל תוכנה המיועדת לביצוע של משימה כלשהי, נוצרים בתהליכי עיצוב ממושכים ורבי שלבים. הוא או היא גם לא ידעו שלפני שנוצרת תוכנה כלשהי, מישהו היה צריך לפתח את האלגוריתם שלה, את הטכניקה שהתוכנה מיועדת לבצע. תחומי העיסוק של האדם מגוונים גם בשל מידת ההצלחות של גילוי של טכניקות עבורם. יש תחומים עתירי טכניקות ויש תחומים דלי-טכניקות.

תחום המִנהל הוא אחד התחומים שבהם הומצאו ופותחו טכניקות יעילות רבות לביצוע משימות הנדרשות בו. גם תחום הספרנות הוא תחום כזה. למשל, עד לימי הביניים (וליתר דיוק, עד למאה ה-12) הומצאו ושודרגו טכניקות יעילות רבות הנוגעות לשימוש בספרים (או בכתבי יד) טכניקות שהיום אנו דשים בעקבינו ולא מייחסים להן חשיבות: השימוש באלפבית לסידור ולאיתור פריטים; עיצוב של קטלוגים של ספריות; ארגון אנציקלופדיות לפי ערכים; השימוש באינדקס; מילונים להגדרת משמעויות של מילים זרות ("גלוסה"); חלוקת הטקסט התנ"כי לפרקים ולפסוקים ממוספרים; קונקורדנציות; השימוש בהערות שוליים; עיצוב דפי כתבי יד חשובים בתבניות המוכרות לנו בדפי התלמוד (טקסט ראשי וסביבו הערות שוליים וסביבן הערות שוליים עליהן) ועוד.

עד לפני זמן קצר, תחום החינוך היה אחד התחומים שבו כלל לא הומצאו ולא פותחו טכניקות יעילות לביצוע משימות חשובות בו. לכן, צפוי שיהיה זה תחום שיתקשה מאוד בהטמעת שימושים בכלים, שכל מהותם היא בביצוע של טכניקות. מובן שאם איכות החינוך תידרדר לרמה של טכניקות – הן תוכלנה לבוא במקום המורים. נראה שהבינה המלאכותית תנצח בתחומים שבהם הטיפשות האנושית יכולה לשלוט.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

3 תגובות

  1. עובדיה עיני
    עובדיה עיני ספטמבר 07 2019, 12:15
    אני חושב שהבנתי את המסר שלך ואני מסכים

    אני רק חושב שאתה מציג עמדתך בצורה שהיא כאילו חד צדדית מידי. אין ספק שהבינה המלאכותית מביאה תועלת, משתפרת,ומתקדמת. אלא שכמובן הכל תלוי במוח האנושי שמפתח אותה ואין לייחס לה את היכולת של המוח האנושי. ואת זה צריך להדגיש בצד היתרונות. אחרת נוצר רושם של אנטי שמבליע את הטיעון שלך.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון ספטמבר 07 2019, 20:21
      במאמר הנוכחי כתבתי על היחס לבינה המלאכותית

      ולא על הבינה המלאכותית ועל התועלת שיש בה או שאין בה.
      כתבתי על שאלות שאנו לא שואלים ולא על תכונות הבינה המלאכותית. אם כתבתי אנטי, זה היה אנטי אלה המקבלים דברים בלי לשאול. לא כתבתי ולו משפט אחד על יתרונותיה וחסרונותיה. כתבתי על חסרונותינו.

      השב לתגובה
  2. חגית
    חגית ספטמבר 11 2019, 13:02
    לא הוגן לדעתי להעמיד את הבינה המלאכותית

    ביחד עם טיפשות
    זו אמירה קשה ונובעת מהטייה מראש

    השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!