JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » איום הבינה המלאכותית על עתידנו

איום הבינה המלאכותית על עתידנו

והבעיה שבמקורות הידיעה על אודותיה

איום הבינה המלאכותית על עתידנו פרופסור יהושפט גבעון
יוני 20
09:30 2018

אחד הנושאים האהובים בימינו על הכתבים המדעיים של ערוצי התקשורת השונים, לפחות בארץ, הוא נושא הבינה המלאכותית. לאחרונה כמעט בכל שבוע אתרי החדשות מציגים עמדה בעניין והכותב מנסה להסביר לנו מה זאת בינה מלאכותית ומה צפוי לנו בקרוב בהשפעתה. בהקשר זה, לפני כמה ימים ביקש ממני תלמיד סקרן לתואר שני ב"טכנולוגיה בחינוך" להסביר לו את עמדותיי מול מה שכתוב בוויקיפדיה בערך "בינה מלאכותית". כשניסיתי לעשות זאת חשכו עיניי.

בערך הזה אפשר למצוא שגיאה כמעט בכל שורה. אחרי שערכתי מעט את הפסקה הראשונה, חדלתי מהרעיון לשדרג את כל הערך על ידי עריכתו. גם ויתרתי על הטרחה שבבדיקה מקצועית של התוצר של ויקיפדיה, שכותבים מתנדבים אך חסרי השכלה תורמים לנו על סמך ידיעותיהם. ידעתי שבמקרה הזה הבדיקה תגזול ממני שעות של עבודה. כפתרון פשרה החלטתי לסכם מספר הסתייגויות ולשתף אתכם כאן.

הסתייגות 1: הבינה המלאכותית נוצרת על ידי מאמץ אנושי לבניית תוכנה מסוג מיוחד ולא על ידי מחשבים או מכונות. איכותה משקפת את מידת יכולתנו להמציא קוד שייחשב נבון. אם רובוט כלשהו אינו מסוגל לבצע משימה תבונית מסוימת, הרי זה משום שאנו לא הצלחנו לתכנת אותו כראוי למשימה שכזו. בנוסח המקורי של הערך כמעט לא מוזכרת התוכנה כנושאת היכולת התבונית שלנו, ולא מוזכרת יכולתנו בגילוי ובעיצוב אלגוריתמים לתוכנות כאלה, אלא בעיקר מוזכרים המחשבים והמכונות.

הסתייגות 2: המונח "אלגוריתם" מופיע בערך הנדון רק בהקשר המשחקים הממוחשבים ומשמעותו מוצגת שם באופן חלקי, אף על פי שכל התקדמות בנושא המוגדר מתוכנות היא התקדמות הנובעת מגילוי אלגוריתמים. מי שלא מבין מה זה גילוי אלגוריתמים – כמו לדוגמה מי שכתב את הערך הזה – אינו יכול לתאר את נושא הבינה המלאכותית בצורה ברורה ומדויקת.

ההמלצה שלי, לכל מי שמעוניין ברצינות בהבנת נושא כלשהו המוגדר על ידי שימוש יעיל בתוכנות, היא ללמוד ולהבין את מהות האלגוריתמים, תכונותיהם האופייניות ומגבלותיהם העקרוניות. זה חל על הבנת הבינה המלאכותית כמו על הבנת שימוש באלגוריתמים כתרומה למִנהל, לתעשייה או לחינוך. מלבד מגבלות הבינה המלאכותית הנובעות ממגבלותינו בהבנת תבונתנו, קיימות מגבלות עקרוניות לשימושים באלגוריתמים הקובעות גם את מגבלות הבינה המלאכותית.

חוקרים רציניים בנושא האלגוריתמים תמיד ינסו לגלות את מגבלות הכלים שהם מגדירים או מפתחים. כך נהגו אלה שהניחו את יסודותיו של הנושא בשנות ה-30 של המאה הקודמת, ורק מעטים מחוקרי הבינה המלאכותית נהגו כך. הבולט שביניהם הוא דאגלס הופשטטר, שהתחיל את דרכו כמאמין נלהב באפשרויות לפיתוח בינה מלאכותית ובשנים האחרונות הוא מקדיש את עיקר מחקריו לתכונות הייחוּדיוֹת ולמוּרכבוּת של השכל האנושי. בארץ הופשטטר מוּכר בשל ספרו "גדל, אשר, באך: גביש בן-אלמוות: פוגה מטפורית על נפשות ומכונות ברוח לואיס קרול". הספר נכתב ב-1979, בימים שהמחבר דבק באמונה שהבינה המלאכותית אפשרית, ותורגם לעברית, בדיוק אין-סופי, מ-1996 ועד 2011.

כאשר התעוררו ספקותיו, הופשטטר לא נגרר לוויכוחים של הצהרות והצהרות-נגד בדבר סבירות הבינה המלאכותית. במקום זה, הוא פעל כמתמטיקאי וחיפש דוגמאות נגדיות המבטאות את יכולת החשיבה האנושית, ופרסם אותן בכמה ספרים, כאתגרים לחוקרי הבינה המלאכותית. הנה כמה מנושאי המחקר האהובים עליו: יכולת האדם לזהות תבניות המגדירות צורות של אותיות האלפבית (מושג הגופן); עושר "המוזיקה הלשונית", המתבטא בגווני היכולת האנושית לתרגם טקסטים קטנים, כמו בגרסאות תרגום של שיר אחד מהמאה ה-16, "על עלמה חולה", הכתוב בצרפתית ומכיל 59 מילים, לפי הגדרת תנאי תרגום מוקדמים.

הסתייגות 3: ההיסטוריה של המחקר בבינה מלאכותית מתוארת בערך הנדון באופן שטחי וללא הבנת הנושא. מובן שקשה לסקור היסטוריה של ניסיונות מחקריים המתפרסת על יותר מ-60 שנה. בייחוד כשמדובר במציאות המִשתנה, של הצלחות וכישלונות, המקבילה לשינויים בתפיסות של החוקרים, שלא תמיד נבעו מהפקת לקחים מהעובדות אלא גם מהניסיונות לעקוף את הקשיים בהשגת תקציבים מכל מיני מממנים מאוכזבים.

לדוגמה, "מיזם הדור החמישי" בארצות הברית היה ניסיון הנשמה מלאכותית להחייאת האמונה ברעיון הבינה המלאכותית, ולא סתם חלק מניסיון להשגת מימון לחקר הבינה המלאכותית. הבינה המלאכותית, בגלגולה הקודם, ניסתה להתקיים כפתרון מעשי למאמצי המלחמה הקרה והתמקדה בין היתר במיזמים של פיתוח תוכנות לתרגום אוטומטי. אחרי שמורי, פרופ' יהושע בר הלל ז"ל, הוכיח שתנאי קודם לפיתוח תוכנות כאלה הוא פיתוח תוכנות המגלמות את הבנת החיים של מי שחי אותם, איש לא העז להגיש בקשות למימון מיזמים שמוזכר בהן תרגום אוטומטי. הן פשוט נדחו על הסף. במיזם הדור החמישי, כפי שהסברתי, היה חידוש משמעותי שלא נמצאה לו התייחסות מושכלת בוויקיפדיה. בכל אופן גם הוא נשכח כליל, והיום תמצאו שהביטוי "דור חמישי" מתאר התקדמות סלולרית (5G) ולא התקדמות בבינה מלאכותית.

הסתייגות 4: הלוגיקה מוצגת בערך "בינה מלאכותית" בצורה מעוותת לגמרי. אין בו זכר לעובדה שהלוגיקה האריסטוטלית איבדה את התעניינות הלוגיקנים בסוף המאה ה-19 ובראשית המאה ה-20. הלוגיקה החדשה פותחה במרץ רב כלוגיקה מתמטית, החל מהאלגברה הבוליאנית של ג'ורג' בוּל, מ-1853, וכלה בתחשיבי לוגיקה שונים ומפותחים לאין ערוך מהלוגיקה של אריסטו. תחשיבים אלה עמדו לנגד עיניהם של מגדירי מושג החישוב הדיגיטלי בשנות ה-30 של המאה ה-20.

הטענה על שאלות היסוד של הבינה המלאכותית כי "אריסטו ניסה למסד את השאלות האלה באמצעות הלוגיקה הסילוגיסטית, שנותרת אחת מאסטרטגיות המפתח של הבינה המלאכותית, היא חסרת שחר, משתי בחינות. אריסטו ביקש למסד את הלוגיקה של התפיסה המדעית המצומצמת שלו, המבוססת על מיון בעלי החיים למחלקות ולתת-מחלקות, באמצעות כללי היסק (הנקראים סילוגיזמים) שמרכיבים את "הלוגיקה האריסטוטלית". ללוגיקה טריוויאלית זו לא היה שום תפקיד מפתח בחקר הבינה המלאכותית בשום שלב.

לעומתה, לדוגמה, התחשיב הלוגי שפיתח אלונזו צ'רץ, הידוע בשם "תחשיב-λ", נלמד כמעט בכל תכנית אקדמית למדעי המחשב בעולם. בעזרת לוגיקה זו בוטא אחד הנוסחים של הגדרת מושג החישוב ב-1936, והיא קשורה בעקיפין לשפת התכנות ליספ, שהייתה אהובה על חוקרי הבינה המלאכותית במשך עשרות שנים. לוגיקה זו קשורה גם לתפיסה האמפירית של מדעי המחשב שביטאו אלאן ניואל והרברט סיימון בניסיון המפורש שלהם לנסח עקרונות יסוד לבינה המלאכותית כמדע אמפירי. בהרצאתם ב-1975, לרגל קבלת פרס טיורינג על תרומתם למחקר בבינה מלאכותית, הם תיארו את המבנה הלוגי של שפת ליספ כבסיס לבינה מלאכותית.

בערך "בינה מלאכותית" בוויקיפדיה אפשר למצוא פגמים אופייניים נוספים. אבל הבעיה איננה נובעת רק מרמת השכלתם הירודה של הכותבים ברשת. נניח שקוראת סקרנית מעוניינת לאתר מאמרים מקוריים על הגדרת מושג החישוב (הדיגיטלי). היא תיתקל בבעיה שגרמו החוקרים עצמם. הם לא פיתחו שפה סדורה המאפשרת תקשורת ברורה, כפי שנעשה בתחומי דעת אחרים. והמצב הזה, שהתחיל עוד בשנות ה-30, שורר עד היום. אנו יודעים שטיורינג, צ'רץ', פוסט וקלייני כתבו על אותו נושא. אבל איך תוכל הקוראת הסקרנית לאתר את מאמריהם בנושא, מבלי להכיר אותם תחילה? עובדות אלו יכולות להסביר את הדמנציה הדיגיטלית הכרונית שנדונה במאמריי הקודמים.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

14 תגובות

  1. אפרים סגל
    אפרים סגל יוני 20 2018, 10:26
    המאמרים שלך תמיד קשים וכועסים

    אבל טובים ומעניינים

    השב לתגובה
  2. אולגה נ.
    אולגה נ. יוני 20 2018, 13:03
    אני לא מקבלת את הדעה שמנהל צריך להבין באלגוריתמים

    ואני כן חושבת שמנהל צריך להשתמש בבינה מלאכותית ולתת הוראות לאנשיפ מתחתיו להשתמש בבינה מלאכותית ואפילו להכתיב בדיוק מה הוא רוצה לקבל מהבינה המלאכותית

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יוני 20 2018, 21:12
      תודה על דבריך, אבל

      איך המנהל ידע "בדיוק מה הוא רוצה לקבל מהבינה המלאכותית" אם הוא לא ידע את מגבלות האלגוריתמים? אם הוא לא ידע ש"הבינה המלאכותית" היא אוסף של אלגוריתמים (נסיוניים) שגלומים בתוכנות המוגשות לו כ"הבינה המלאכותית"? אם לא יבין מדוע יצרניות התוכנות השימושיות לא מצליחות להיפטר מהשגיאות שיש בהן?

      השב לתגובה
  3. גיורא נסטלבאום
    גיורא נסטלבאום יוני 22 2018, 06:59
    החלטתם לרדת באתר על הטכנולוגיה

    תראה מה כתב רופסור צינר היום. אני נהנה וככה גם כל מי שאני מכיר. אז לא כולם חושבים כמוכם. תהיו חיוביים. תחשבו על כל הדברים הטובים שיש מהטכנולוגיה. ולא כולם חייבים להיות מהנדסי מחשבים.

    השב לתגובה
  4. חיים צורף
    חיים צורף יוני 22 2018, 16:40
    למה אנשים מסרבים להבין דבר פשוט

    מחשב זה מכשיר. הוא פועל על בסיס תוכנה. המחשב עושה בדיוק מה שמורה לו התוכנה, לטוב ולרע. וככל שהתוכנה יותר מורכבת סביר שיש בה יותר באגים. הרי היתרון של המחשב שהוא יכול לבצע מיליוני שגיאות בתוך שנייה אחת.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יוני 22 2018, 22:37
      למה באמת?

      חחחח
      אתה הזכרת לי שלפני שנים רבות מישהו כתב מאמר שאין סיכוי רב לפיתוח אמתי של בינה מלאכותית מכיון שבאגים יגרמו לה לקרוס. הרי תוכנה אמתית בעלת בינה תהיה מורכבת יותר מכל התוכנות שאנו מכירים. אפילו בתוכנות "אופיס" נשארו באגים מטרידים שלא מצליחים להיפטר מהם.
      עכשיו, כשאני מנסה לאתר את המאמר ההוא, גוגל שוטף את החלון הפעיל בעשרות פריטים עם הצהרות נלהבות על שימושים כמעט מוצלחים, או ממש מוצלחים, בבינה מלאכותית לאיתור באגים.
      לא צריך להיות מהנדס מחשבים כדי לדעת שמשהו אינו תקין בהצהרות הללו. צריך לדעת מעט מדעי המחשב.

      השב לתגובה
  5. צמא לדעת
    צמא לדעת יוני 24 2018, 11:29
    לפרופסור גבעון

    אני בטוח שרוב הקוראים לא יודעים מה זה אלגוריתם. אולי אתה יכול להסביר לנו בשפה פשוטה מה הוא אלגוריתם וכיצד הוא פועל באופן מכני?
    הסבר כזה יתרום להבנת הנושא יותר מאשר ויכוחים מלומדים באתר שרק בודדים באמת מבינים אותם.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יוני 26 2018, 11:19
      כל הכבוד!!!

      לצמא לדעת!
      עלית על המוקש המתקתק של הנושא. אנו לא יודעים כיצד להסביר נכון ובשפה פשוטה מה זה אלגוריתם. מעטים אפילו, במדעי המחשב, מעיזים לחשוף את העובדה המצערת הזאת.

      לדעתי על חוקרי התחום להתמקד בהבהרת מושגי היסוד שלהם כדי לאפשר לציבור הרחב לדעת במה הם עוסקים ומה אנו מכניסים לכיתות…

      זה איננו המקרה הראשון בתולדות המחשבה האנושית שבו מושג (רעיון) חשוב היה נחוץ לפתרון בעיות ומושג זה הוגדר רק מאתיים שנה אחרי ששימושיותו התגלתה.. אני מתכוון למושג הגבול (וממנו, מושג הרציפות, הנגזרת, ועוד). מאתיים שנה לקח לאנושות כדי לפתח שפה ברורה והגדרות למושגים החשובים האלה.

      השב לתגובה
  6. יהודה עבדי
    יהודה עבדי יוני 24 2018, 21:33
    נדיר לשמוע דעות בכוון הזה

    אני חושב כמוך, אבל נדירים האנשים במחנה שלנו

    השב לתגובה
  7. יפעת שוהם
    יפעת שוהם יוני 30 2018, 13:03
    נניח שאתה צודק בטענותיך

    אבל זה לא קצת מוגזם לטעון שהבינה המלאכותית מאיימת על קיומנו?

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יולי 02 2018, 13:34
      אני מצטער, אך נדמה לי שהסתפקת בקריאת הכותרת של המאמר

      רבים מאמינים שהנה הרובוטים יעלו עלינו בתבונה שלהם. לא ציינתי זאת במאמר.

      המאמר עוסק בשגיאות ובאמונות הנפוצות ביחס לבינה המלאכותית שהציפו את הויקיפדיה וכל מיני מקורות אחרים. לא הזכרתי את הפחד מהבינה המלאכותית. להיפך, הבאתי הערות שמעידות עד כמה תחזיות העתיד של הבינה המלאכותית (הטובות ובמאיימות) הן חסרות בסיס.

      השב לתגובה
  8. איגור ס.
    איגור ס. יולי 21 2018, 13:54
    היא לא מאיימת על עתידנו

    מקסימום יש לה בעיות ומינוסים שאפשר להתמודד אתם ולפתור אותם או להרטין הבעיות. לכול טכנולוגיה יש חסרונות ומינוסים אבל אין כוונה וגם לא הגיוני לחזור אחורה.

    השב לתגובה
  9. יהושפט גבעון
    יהושפט גבעון יולי 29 2018, 09:32
    למרות שדבריך אינם מתייחסים לנאמר במאמר..

    ההיסטוריה של המכשירים (או בשפתך, של הטכנולוגיות) מעידה שלפעמים המשתמשים לוחצים על היצרנים לתקן מן השורש את התוצר שלהם בגלל לקויות חמורות ("חסרונות"). זה לא תמיד מתאפשר משום שהיצרנים מוגנים בחומה בצורה של האמונה שהם יוצרים את הקדמה וש"לא הגיוני לחזור אחורה". זה לא מתאפשר משום שהמשתמשים מתייחסים אל היצרנים כמו שליחי ההיסטוריה. פעם כך התייחסו הפועלים אל בעלי בתי החרושת.

    השב לתגובה

כתוב תגובה

הוסף תגובה:

שדות חובה מסומנים *

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!