JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin

האם תמיד יש לציית לכללים?

שביל הזהב הסמוי בין אנרכיה להתנהגות רובוטית

האם תמיד יש לציית לכללים? פרופסור יהושפט גבעון
יוני 05
09:30 2020

אנו נמצאים בתקופה של בלבול נוראי. לפעמים תקופות כאלה יכולות לשמש גם הזדמנות להתפתחות מזורזת בבירור שאלות נוקבות. מדוע רק "יכולות" לשמש? כי זה בידינו. לצאת מהקופסה או להמשיך להיות כלואים בה.

בשנות ה-80 של המאה הקודמת, אחרי ניסיונות מאכזבים רבים, חוקרי הבינה המלאכותית סברו שיש לזנוח את הרעיון שתוכנה תוכל להיות נבונה באופן כללי, ונכון יותר יהיה לעבוד על מקרים ספציפיים של תבונה, למשל כפי שהיא מתגלית בהתנהגותם של מומחים בתחומי התמחות שונים. הם האמינו שניתן ליצור, בכל תחום התמחות, מודל מתוכנת לבינה של מומחה אנושי באותו תחום, על ידי תכנות מערכת המורכבת משלושה רכיבים: (1) קבוצת עוּבדות המנוסחות בתבנית אחידה – "לנבדק פלוני יש חום של כך וכך מעלות צלזיוס"; (2) קבוצת כללים המנוסחים גם הם בתבנית די אחידה – "אם יש לנבדק כלשהו חום ברמה העולה על כך וכך מעלות צלזיוס, אז יש לבצע עליו בדיקה כזו וכזו"; ו-(3) מערכת המפעילה אלגוריתם להסקה לוגית של מסקנות מנתונים ומכללי היסק.

חשוב לציין שמסוף המאה ה-19 זו הייתה הגדרת הלוגיקנים למערכת לוגית: אקסיומות נתונות, כללי היסק ושיטות אלגוריתמיות להפעלתם. בפרט, שיטה אלגוריתמית כזו הייתה ידועה היטב מניסיונות קודמים לגילוי הוכחות במתמטיקה בעזרת אלגוריתמים. הרי כדי לגלות הוכחה במתמטיקה, צריך לדעת מה נתון ומה כבר ידוע, ומאלה ניתן, די בקלות, להרכיב שרשראות של היסקים, בתקווה שאלה יובילו אל מה-שצריך-להוכיח. מחקרים אלה הובילו ליצירת שפת תכנות מיוחדת הנקראת "פרולוג", שבה כל התכניות הן מערכות של עובדות וכללי היסק.

יישום הרעיון הזה ליצירת בינה מלאכותית הוביל לרעיון שצריך לתחקר מומחים בתחומם, כדי לדעת על סמך אילו עובדות וכללים הם פועלים. תחקור כזה מאפשר ליצור מערכת המדמה את המומחה בפעולתו. למערכת כזו קראו "מערכת מומחית" או "מערכת מומחה" ("expert system") ולשיטות התחקור קראו "הנדסת ידיעה". לפי ניתוח זה, מערכת מומחה היא תוכנה בשפת פרולוג. חוקרי הבינה המלאכותית האמינו אז בהתלהבות רבה שכך אפשר יהיה להוציא את תחום הבינה המלאכותית מהחורף הקשה שאפף אותו בסוף שנות ה-70. למרבית האכזבה, המאמץ הזה, שנקרא ונדון במאמר קודם "פרויקט הדור החמישי", נכשל לחלוטין ונשכח או הושכח. כדי להבין שהכישלון הזה יכול היה להיות צפוי מראש, צריך להבין מה מאפיין חשיבה של מומחים בביצוע פעולות מקצועיות.

מחקרים מודרניים, ממש בשנים האחרונות, כמו של פרופ' פטרישיה בנר (Patricia Benner), לפחות עד שנת 2011, חשפו שקיימות דרגות מובחנות של מומחיות, מטירון ועד למומחה. מחקרים אלה חשפו שההבדל בין טירונים לאנשי מקצוע מנוסים הוא שאנשי מקצוע שאינם טירונים, שכבר צברו ניסיון, אינם פועלים באדיקות לפי כללים. הם מסוגלים לגלות פתרונות בדרכים מפתיעות, בחריגה מהכללים הנלמדים בהכשרות המקצועיות. לתהליך החשיבה ביצירת פתרונות שלא על סמך כללים אנו קוראים "שיקול דעת" או "אינטואיציה". במילים אחרות, המערכות שקיווינו שיוכלו לפעול כאנשי מקצוע, לא יכלו להתעלות מעבר לדרגת המומחיות של עובדים הנסמכים בכל פעולותיהם על כללים. מערכות תוכנה תמיד פועלות לפי כללים מנוסחים מראש. לכן מערכות אלה יכלו להצליח כמערכות להדמיית מומחים רק במקרים סְפוּרים שבהם, במקרה, כללים היו מסוגלים לתחוֹם את תחום המוּמחיוּת בהצלחה. פירושו של דבר שהסיכוי לדלות את המוּמחיוּת של המומחים כדי לייצגה באמצעות מערכות מומחה מוצלחות, הוא קטן מאוד. ואכן, מי היום זוכר את ההתרגשות ממערכות מומחה?

מדענים כמו ריצ'רד פיינמן ואלאן סוקאל טענו במפורש כי אפילו לשיטה המדעית אין כללים מפורשים או פרוטוקולים קבועים. ליכולת המיוחדת שהייתה למדענים מומחים כמו ארכימדס, קפלר, ניוטון, מקסוול, פוסט, טיורינג, גדל, איינשטיין או פיינמן בגילוי תבניות חדשות, אין כללים. התבונה האנושית שמתבטאת בפעולתם של שחקני שחמט מצטיינים, של מבצעים מוזיקליים ושל מדענים יצירתיים, מאופיינת אפוא בחריגה מחשיבה לפי כללים.

לפי הבנתי, ואינני מחדש כאן דבר, תבונת האדם וחירותו מתגלות לא בציות עיוור לכללים אלא בזכות לשיקול דעת, כלומר בזכות לחריגה מכללים. למרבית הקושי, שום כלל אינו יכול לקבוע לנו מתי לציית לכללים ומתי להתעלם מהם. רק שיקול דעת ואינטואיציה יכולים להראות לנו מתי ראוי ונבון לשבור את הכלים.

לסוגיית החופש לשיקול דעת יש השלכות מעשיות רבות – לוגיות, חינוכיות ואפילו פוליטיות. הדרישה לפיתוח מושכל של היכולת לשיקול דעת וההכרה בזכות היישום של שיקול דעת לכול איננה קריאה לאנרכיה. מניעת הזכות לשיקול דעת היא עריצות הפוגעת בחירות האדם. כי שיקול דעת חופשי חייב להיות רקום בכל צעד שלנו, אחרת ניהפך לחברת רובוטים. אם איבדנו את האמון בשיקול הדעת שלנו, איבדנו את האמון בתבונתנו. ואם איבדנו את האמון בשיקול הדעת של עמיתינו, החברה שלנו לא תתפרק, אלא תתאבן ותסתייד.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

6 תגובות

  1. גל תדמור
    גל תדמור יוני 05 2020, 13:44
    אחד הפתרונות מהפיכתנו לרובוטים

    שבנהלים החדים ומפורטים יהיה כתוב בנקודות קריטיות שזה נתון לשיקול דעתו של המוסמך.

    השב לתגובה
  2. יהושפט גבעון
    יהושפט גבעון יוני 07 2020, 09:55
    הצעה טובה, אבל תחילה

    צריך לבסס תרבות של כיבוד שיקול הדעת, כי בתרבות של נהייה אחרי התנהגות רובוטית ושל הערצת רובוטים, כל כלל כתוב יכול להיהפך לכלל רובוטי.
    ועוד, איננו יכולים לדעת מראש לאן תתגלגל המציאות והיכן תימצאנה הנקודות הקריטיות…

    השב לתגובה
  3. עודד טל
    עודד טל יוני 08 2020, 23:07
    כאשר מגיעים לצומת החלטה ובוחרים כיוון

    אף פעם אי אפשר לדעת בביטחון אם לא היה יותר מצליח לבחור בכיוון אחר.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יוני 10 2020, 18:26
      אני תוהה

      במחקרים מדעיים ובמחקרים קליניים משתמשים במה שנקרא "קבוצת ביקורת" כדי להתמודד עם הבעייה שהעלית..

      השב לתגובה
  4. ט.
    ט. יוני 10 2020, 00:39
    השאלה המעשית היא אחרת

    האם ניתן לבנות האלגוריתם שיאפשר שיקול דעת. התשובה חיובית. 99 אחוז מהמקרים יובילו אוטומטית ע"י המערכות למה שהוכחו הפתרונות נכונים והיתר יופנו לאופציה בן בן אנוש יחליט אם להתערב.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יוני 10 2020, 18:36
      למגיב ט.: על מה אתה מסתמך בהצהרות שלך?

      אתה מצהיר (ללא הסתייגות) שניתן לבנות "האלגוריתם שיאפשר שיקול דעת" הצהרה שבלוגיקה הוכח מזמן (לפני כמעט מאה שנים!) שאין זה כך.

      ומיד הוספת הערכה סטטיסטית של הצלחה של 99 אחוזים של המערכת שאתה מאמין שניתן לבנות אותה. בינתיים אין אפילו הצלחה כזו בתוכנות נפוצות כי אין אלגוריתם לבדיקת תוכנות ובבדיקת תוכנות אנו חייבים להסתמך על שיקול דעת.

      השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בהגיגים

יתר המאמרים במדור