JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » מבחן טיורינג, מה הוא יכול לבחון?

מבחן טיורינג, מה הוא יכול לבחון?

משחק החיקוי כמבחן לבינה מלאכותית

מבחן טיורינג, מה הוא יכול לבחון? פסל לזכרו של אלן טיורינג צילום: Lmno en.wikipedia.org
נובמבר 01
09:30 2017

בשנת 1950 פרסם אלן טיורינג (Alan Turing) מאמר שכותרתו הייתה "מכונות חישוב ואינטליגנציה". אפשר להוריד את פרסומו המקורי מן הרשת באמצעות הקישור: http://bit.ly/2yaJki5 וכדאי לקרוא אותו בעיון כדי לראות מהו הבסיס של טענותיי כאן. מדובר במאמר שפורסם 13 שנה אחרי פיתוחי מושג החישוב בידי חוג תלמידי אלונזו צ'רץ', פיתוחים שכל קהילת המתעניינים בנושא התעלמו מהם וביטלו את חשיבותם המעשית, למעשה עד היום הזה. פרטים על כך קראו בשני מאמריי הקודמים כאן.

המשפט הראשון של המאמר של טיורינג היה "אני מציע לשקול את השאלה, 'האם מכונות יכולות לחשוב?'" בניגוד למאמרו הקודם של טיורינג, שמסתבר שרק מעטים קראו, המאמר הזה הלהיב רבים. הוא נחשב היום כמאמר מכונן של מושג (רעיון) האינטליגנציה המלאכותית. כאשר ביקשו להפיק סרט לְזִכרו של טיורינג, קראו לסרט "משחק החיקוי", שהיא גם הכותרת של הסעיף הראשון של המאמר משנת 1950. לדעתי, המאמר מעורר כמה בעיות וקשיים שמתעלמים מהם. במאמר הזה אני מבקש להציף אותן באופן החריף ביותר.

קושי ראשון: אפילו לפי הודאתו של טיורינג (במשפט השני), הוא היה חייב להתחיל בהגדרת המשמעות של המונחים "מכונה" ו"חשיבה". הוא נמנע מלהגדיר מה זו חשיבה ואפילו סטה מן השאלה המוצעת לדיון "האם מכונות יכולות לחשוב?" לדיון בשאלה אחרת.

במקום הגדרה, הוא הציע תחליף לשאלה "האם מכונות יכולות לחשוב?" וכדבריו (בסוף הפסקה הראשונה) "במקום לנסות הגדרה שכזאת, אני אחליף את השאלה באחרת, שהיא בקשר קרוב אליה וניתנת לביטוי במילים שהן יחסית חד-משמעיות". פירושו של דבר, הוא הבין שללא הגדרה אין גם דיון בשאלה "האם מכונות יכולות לחשוב?" ובשימוש בתחליף תיווצר סטייה של הדיון אל תחליף שהוא "בקשר קרוב אליה". לא ברור מה תהיה השפעתה של סטייה זו.

טיורינג היה מודע לכך שתהליך המתרחש בעולם המציאותי שמתחיל בסטייה קטנה, יכול להסתיים בסטייה ענקית (הוא מתאר זאת בסעיף 5, בפסקה השנייה). היום אנו קוראים לתופעה זו "כאוס". אף שטיורינג מקדיש כמה מילים לתופעה הזאת, במאמר אין שום ביטוי לאפשרות שהפתרון התחליפי לשאלה המקורית עלול לגרום לסטייה גדולה. ללא הגדרה למונח "לחשוב" לא רק אי אפשר להשיב על השאלה המקורית, גם אי אפשר לדעת עד כמה אנו סוטים ממנה בהסתמכנו על "מבחן טיורינג".

קושי שני: למרות הכול, המאמר של טיורינג ממוקד בהפרכת טענות שונות נגד תשובה חיובית לשאלה הבסיסית "האם מכונות יכולות לחשוב?", וזאת אף על פי שהשאלה מורכבת ממונח שלא הוגדר. בכל זאת, הפרכות אלה מעניינות מאוד, כי טיורינג ידע לנצל אותן כדי להסביר לקהל קוראיו כמה דברים חשובים ומעניינים. אבל הן לא מוכיחות דבר לגבי השאלה הבסיסית. הן רק מוכיחות שטענות מסוימות השוללות את האפשרות שמכונה תוכל לחשוב, הן טענות לא נכונות. את זה ניתן לבצע גם ללא הגדרת החשיבה.

לפי הודאת טיורינג (בתחילת סעיף 7) "הקורא בוודאי ציפה לכך שלא יהיו לי טיעונים משכנעים מאוד לתמיכה חיובית בהשקפות שלי." הוא המשיך והכריז שיש לו טיעון חיובי בדבר היכולת של מכונות לחשוב, מלבד לחכות לסוף המאה (ה-20), שאז יתקיימו לדעתו תחזיותיו לגבי מה שהיום אנו מכנים "אינטליגנציה מלאכותית". הטיעון החיובי הזה יהיה מבוסס על רעיון המכונות הלומדות ועל תפיסה מוגבלת מאוד של הלמידה האנושית בהתאם למה שהיה מקובל בימיו. בפסיכולוגיה של שנות ה-40 הגדירו למידה של אדם כלמידה של מערכת, ללא יכולות "מוּלדוֹת" ("טאבּוּלה ראסה", לוח חלק), כשינוי מצטבר בהסתברות להתנהגות הנגרם על-ידי עונשים ופרסים (סעיף 7).

לו טיורינג היה מדויק יותר, הוא היה צריך לקרוא למאמרו "כיצד יכולים אנו לטעות בזיהוי בין מכונות לבני-אדם?". הוא הציע את מה שאנו קוראים לו היום "מבחן טיורינג" כתשובה לשאלה זו. מבחן זה הוא עיבוד של משחק חברתי שהיה נפוץ באנגליה בימיו שבו הקהל היה צריך לזהות מי הגבר ומי האישה, כאשר שניהם מוסתרים מעיני הקהל והם עונים לשאלות הקהל בכתב באמצעות פתקים. טיורינג הציע לקחת אדם ומכונה ולהסתיר אותם מעיני חוקר, והטיל על החוקר לקבוע מי הוא האדם ומי המכונה בדיוק בדרך זו. גם כאן, התקשורת שבין המשתתפים הוגבלה לתקשורת בתווים בין החוקר לבין הצדדים המוסתרים.

טיורינג טען (בתחילת סעיף 6) שאם שיעור הכישלון בזיהוי של שני הצדדים יהיה למעלה מ-30%, אז אנו נשתכנע שהמחשב יכול לחשוב. עוד בפסקה הראשונה שבסעיף 2, הוא התנגד במפורש לדון ברלוונטיות של המבחן המוצע לשאלה המקורית "האם מכונות יכולות לחשוב?", כי דיון כזה, כך הוא טען, הוא בּוֹר ללא תחתית. לגבי המשחק המקורי, לא ידוע לנו מה היה שיעור ההצלחה בזיהוי המשתתפים – גבר מול אישה.

קושי שלישי: האם מבחן טיורינג אינו מוטה? האם העובדה שמבחן טיורינג מתרחש בפס צר של מדיום תווי אינה פוגעת בתוקפו?

מבחן (או כל אמצעי לתצפית) נקרא "מוטה" כאשר הוא משפיע באופן דרסטי על תוצאות השימוש בו. אפלטון, באמצעות הניסוי של ידיים המושרות במים בטמפרטורות שונות, פסל את החושים כאמצעים תקפים לחקירת המציאות. השיטה המדעית, במדעי הטבע לפחות, שהייתה מוכרת לטיורינג, התפתחה רבות מאז ימי אפלטון, וזאת הודות להמצאת טכניקות מוצלחות למזעור השפעת כלי המחקר על המחקר עצמו.

ברור שמבחן המבוסס על "משחק החיקוי" דורש את הסתרת המשתתפים. אבל ייתכן שהשימוש בטקסטים כתובים גורם להסתרת-יתר ולטשטוש מובנה של הבדלים אפשריים בין שני הצדדים הנבחנים. כלומר ייתכן שבמבחן טיורינג ההבדל בין טקסטים הנכתבים בידי אדם לבין טקסטים המופקים על ידי מכונה יכול להיות קטן מההבדל שבין אדם למכונה. אין בשימוש במבחן טיורינג כל הגנה מפני האפשרות שהסיכוי להבדיל בין אדם למכונה מוקטן בשל תכונות המבחן ולא בשל תכונות מהותיות של האדם ושל המכונה. במילים אחרות, מכשיר התצפית (מבחן טיורינג) עלול להתערב בתצפית ולהראות לנו את תכונותיו ולאו דווקא את התכונות של הנושא הנצפה.

קיימת דוגמה חזותית לסוגיה הזאת. הכוכבים הנצפים בטלסקופים המתקדמים ביותר (כמו למשל האבל) נראים כבעלי ארבע קרניים סימטריות מרהיבות. התברר שקרניים אלה הן היטל אופטי של המיתרים המשמשים בטלסקופ עצמו להחזקת מערכת הקליטה של התצפית (הקולטת את ההחזרה מהמראה הראשית של הטלסקופ) ולא תכונה של הכוכבים. הוא הדין לגבי הדרך שבה הוצגו כוכבים עוד בימי קדם, כמו גם בעיני ציירים. הציור משקף את האופן שבו הכוכבים נראים מבעד לאטמוספרה של כדור הארץ ומבעד לעיניים שלנו. ה"קרניים" שלהם הן תוצאה של ריצוד קרני האור בשכבות האוויר באטמוספרה ושל תופעות המתרחשות בעיניים שלנו ולא שיקוף של מראה הכוכבים.

מצד שני, אם בני האדם חייבים להוריד את איכות התקשורת שלהם כאשר הם משתמשים במדיום טקסטואלי, האם אין המבחן חושף בעיקר את הירידה הזאת ומטשטש את ההבדל שבין אדם למכונה בגלל האינטראקציה הפגומה המתבצעת באמצעות המדיום התווי? למעשה, אנו כבר חשים בדלדול איכות יחסי האנוש בימינו המתגלה במקביל לשימוש המרובה והכפייתי במדיה של הודעות טקסט במכשירים הניידים שלנו. במכללות האקדמאיות הפכה בעיית הכתיבה האקדמית למגפה.

קושי רביעי: מדוע מבחן טיורינג אינו אמור להוכיח לנו גם שמכונות יכולות להתרגש? מדוע מבחן טיורינג רלוונטי לגבי אינטליגנציה של מכונות, למתן תשובה לשאלה "האם מכונות יכולות לחשוב", אך אינו רלוונטי בו-זמנית גם לשאלה "האם מכונות יכולות להתרגש"?

נניח שאיננו יכולים להבחין בין בני אדם למחשבים במבחן טיורינג. כל עוד לא נגביל בדרך מסוימת את תוכני המבחן, זה מוכיח שמכונות יכולות לחשוב באותה מידה שזה יכול להוכיח שמכונות חשות ברגשות. הרי החוקר במבחן מנסה לקבוע מי אדם ומי מחשב והוא בודק רק מי הוא מי ולא שום דבר אחר.

קל לנו להתייחס אל מחשבים כישויות המועמדות להיות בעלות יכולת חשיבה, כי לעיתים קרובות חשיבתנו יכולה לתפקד כמו חישובים. קל לנו לקבל שהחשיבה ברמתה הפשוטה ביותר היא חשיבה של מערכות כפי שהן מתפקדות בחישובים. אבל קשה לנו לקבל שמערכות מלאכותיות תוכלנה להתרגש, להשתוקק, להסתקרן, להשתעמם, להתלהב או להיות שבעות-רצון. מבחן טיורינג, כפי שטיורינג הגדיר אותו, אינו בנוי להבדיל בין מערכות חושבות לבין מערכות אמוציונליות.

קושי חמישי: האם האדם נבחן רק באינטליגנציה "פסיכומטרית"?

שאלה זו לא נוכל להפנות נגד מה שטיורינג כתב ב-1950, כי התובנה שאינטליגנציה אנושית היא תופעה רבת-ממדים (אינטליגנציות מרובות, למשל אינטליגנציה רגשית) היא תגלית חדשה יחסית. את זה נוכל להקשות כנגד חוזי הבינה המלאכותית בימינו, המתעלמים ממנה לחלוטין. האם אין זה מוכיח שתוכנות הבינה המלאכותית (מאז שנות ה-60) פותחו בכיוון לא נכון? האם לא צריך ליצור תוכנות שגם חשות בכל טווח הרגשות, כדי לבנות תוכנות שתעמודנה במבחן טיורינג חסר פניות?

סביר להניח שטיורינג היה מודע לרוב הבעיות שתיארתי כאן. כלוגיקן הוא היה מודע לכך שבלי הגדרות, או כללים המנוסחים כהנחות יסוד, אין סיכוי לדיונים הגיוניים. הוא היה מודע היטב גם לתופעת הכאוס – כאמור, במאמרו הנדון הוא אפילו מתאר אותה, בסעיף 5, כתכונה מהותית של העולם הממשי הרציף – שבה סטייה ראשונית יכולה לגרום לתוצאה הרסנית ("אפקט הפרפר"). לכן סביר להניח שהוא היה מודע לבעייתיות של הסטייה משאלתו המקורית. כמדען בעל נגיעה למדעי הטבע ולהנדסה, הוא היה מודע גם לצורך בשימוש לא מוטה במכשירי צפייה ומדידה. הוא היה מודע לטקסטואליות של כל המערכות הספרתיות, ללא יוצא מן הכלל, כי הוא היה שותף ליצירת ההגדרה שלהן בשנות ה-30. אז מדוע הוא כתב את המאמר בדרך זו, ללא הגדרה למונח המפתח "חשיבה", עם הסטייה מהשאלה המקורית שלו אל תוצאות מבחן מוטה כמו "מבחן טיורינג" ולמרות ההטיה המובנית במבחן לטובת הכלים הספרתיים שהם, לפי הגדרתם, טקסטואליים?

אציע השערה פרובוקטיבית: טיורינג בכאבו האישי פשוט רצה להתנקם בקוראיו שהתעלמו מעבודתו ומעבודת עמיתיו בעקביות במשך שנים. מאמר זה, כפי הנראה, היה נקמתו של טיורינג על אי-הבנתם, על התעלמותם ועל זלזולם. נשמע מטורף? בשני מאמריי הקודמים קראתם על היחס של האקדמאים לטיורינג. מִצְאו וקִרְאו גם מה כתבו מְחבּרי הביוגרפיות של טיורינג על אופיו ועל אישיותו, והחליטו בעצמכם אם ההשערה המוצעת הזאת נוגדת את העובדות באופן מוחלט או לא. אם טיעוניי תקפים, ברור שקיים סיכוי סביר שהצעת מבחן טיורינג היא לא יותר מאשר מעשה קונדס מתוחכם של אקדמאי פגוע.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

8 תגובות

  1. אלדד
    אלדד נובמבר 01 2017, 12:27
    אני חייב לציין שהמאמרים שלך הם אתגר

    כל הכבוד לרמה. לא בכל אתר תמצא כאלה.

    השב לתגובה
  2. איקס
    איקס נובמבר 01 2017, 18:55
    אני הבנתי במאמרים הקודמים

    שאתה בעד טיורינג
    כעת יש לך טענות אליו

    השב לתגובה
  3. יהושפט גבעון
    יהושפט גבעון נובמבר 02 2017, 07:48
    אידיאולוגיות הן עניין של בעד ונגד

    בסך הכול, לאחרונה כתבתי ארבעה מאמרים על טיורינג. הראשון והרביעי על בדיקת טעויות של טיורינג. השני והשלישי הם על טעויות מחפירות של האקדמאיים בארה"ב ועל הצהרת טיורינג על תיעובו את ארה"ב.
    אם אתה רוצה למצוא עיקרון משותף לארבעתם, זה בדיקת טעויות, שגיאות ואמונות בלתי מבוססות וזהו המניע המשותף שעומד מאחורי כל מאמרי כאן.

    השב לתגובה
  4. עפרה
    עפרה נובמבר 02 2017, 20:51
    לפי הצילום טיורינג כנראה מסכים איתך

    לא כך?

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון נובמבר 03 2017, 18:26
      אכן כך זה נראה...

      דרך אגב, הצילום נבחר על-ידי העורך של האתר, יונתן קורפל וכאשר ראיתי את בחירתו כתבתי לו שזו תמונה שמתאימה מאד למאמר.

      השב לתגובה
  5. רומי כץ
    רומי כץ נובמבר 04 2017, 12:20
    המאמר טוב ואין לי מה להוסיף עליו

    מה שאני רוצה להתעכב עליו זאת העובדה שמישהו מטיל ספק באמירה של אדם שנחשב חכם עולמי ועוד עושה את זה בחוכמה. זה בדיוק מה שצריך להיות מאמר אמיתי.

    השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!