JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » עולם החוויות של הבינה המלאכותית

עולם החוויות של הבינה המלאכותית

ז'רון לאניר על החוויות, התודעה והעולם

עולם החוויות של הבינה המלאכותית פרופסור יהושפט גבעון
יולי 08
09:30 2018

ז'רון לאניר הוא מדען מחשבים, מתכנת, מוזיקאי וסופר. הוא, עובד כיועץ מדעי לחברות תוכנה כמו מייקרוסופט ומכיר היטב את הלוך הרוחות ב"עמק הסיליקון". מאז שנות ה-70 יזם לאניר רעיונות חדשים לעולם הדיגיטלי, למשל, רעיון המציאות המדומה. בשנים האחרונות כתב כמה ספרים ביקורתיים מאוד על תפיסת האדם בתרבות הדיגיטלית, על הכלכלה הדיגיטלית ועל גורמי ההשפעה של הרשתות החברתיות. דעותיו אינן מקובלות, אך הן בהחלט ראויות לדיון. במאמר זה אני מבקש בעיקר להציג את עמדתו הפילוסופית של לאניר לגבי השאלה "מה זאת חוויה?" כפי שהוצגה בעמודים 196-195 בספרו "Who Owns the Future?" (מי הוא בעל העתיד?).

תחילה עלינו להבין את המילים. הכוונה במילה "חוויה" היא למצב או לאירוע שבו האדם מגיב אישית וסובייקטיבית, לא רק על סביבתו, אלא גם על תגובותיו שלו. רק האדם הנוכח והמגיב יכול לומר "זאת הייתה חוויה בשבילי". לכן, בתשובה לשאלה "מה זאת חוויה?" עלינו להכיר בקיומו של עולם פרטי, אישי וסובייקטיבי שבו מתרחשות החוויות ובו התרחשויות אלה הן פועל יוצא של תודעה פעילה אישית.

לאניר לא רצה להסתפק בתשובה לשאלה הישירה "מה זאת חוויה?" אלא, כדוגמת טיורינג במאמרו המפורסם משנת 1950, הציע להחליף אותה בשאלה דרמטית יותר: "אם רוצים אנו לשאול מה זאת 'חוויה', אנו יכולים למסגר אותה כשאלה 'מה יהיה שונה אם היא תהיה נעדרת מעולמנו?'" (בעמ' 195 בספרו). זוהי אסטרטגיה מחקרית מעניינת ביותר. כאשר אתה מתעניין במצב מסוים, כדאי לבדוק גם את שלילתו. לאניר סוקר כמה תשובות אפשריות לשאלה זו. כל תשובה נסמכת על תפיסה שונה של תפקיד האדם, הזוכה לצפות או להתנסות בחוויה כלשהי.

תשובה אחת היא ששום דבר לא יהיה שונה, מכיוון שההתנסות הסובייקטיבית היא רק השליה מלכתחילה. השליה היא תהליך שכולו סובייקטיבי וחלקו, התוכן של ההשליה, מודע היטב למי שמשלה את עצמו. על כן השליה היא מקרה של חוויה. אם אני חולם, הרי שהחלום הוא חוויה. לכן, בעולם שאין בו חוויות, אין השליות וגם לא חלומות.

תשובה אחרת היא שכל התבל הייתה נעלמת מכיוון שקיומה תלוי במודעות שלנו. לפני שאתם דוחים תשובה זו כדאי לדעת שמדענים מכובדים יכולים לנקוט גישה זו. בין התפיסות השונות להבנת תפקיד הצופה במדידות הקוואנטיות, יש תפיסה הטוענת שהתופעות הקוואנטיות המוזרות, כמו יחסי אי-הוודאות של הייזנברג, הן תוצאות התפיסה של המודד ולא רק של המדידה. למען האמת, אין מדידה ללא תצפית על מכשיר המדידה. בעניין זה מתייחס לאניר לפיזיקאי ג'ון ארכיבאלד והילר (John Archibald Whiller) שבתקופה מסוימת, כאשר חקר את הקשר שבין המדידות הקוואנטיות לתורת האינפורמציה, האמין שלמודעות, שמתפקדת בצפייה במדידה הקוואנטית, יש תפקיד פעיל ביצירתם של העצמים הפיזיקליים מנתוני החושים.

הדבר מזכיר קצת את הפילוסוף ג'ורג' ברקלי שטען שהמציאות קיימת בגלל שישויות בעלות תודעה צופות בה. לדוגמה, במקרה של רעש הנפילה של עץ בלב יער, הרעש קיים במציאות כי הוא נקלט בתודעה של בורא העולם. אבל אם אנו מניחים ששום חוויה לא קיימת, אז גם חווייתו של בורא העולם כצופה בכול אינה קיימת.

תשובה נוספת היא שגרסה נטולת-מוּדעוּת של היקום שלנו הייתה דומה ליקום כפי שאנו מכירם אותו, אך לא זהה לו, מכיוון שהאנשים הצופים ביקום היו משעממים יותר. זאת הייתה יכולה להיות העמדה של כמה מדעני הקוגניציה שמציעים תפיסה שלפיה יש למודעות תפקיד ספציפי אך מוגבל במוח. לדעתם, היעדר מודעות הוא פגם במוח והיום היינו מגדירים זאת בספקטרום מסוים.

אבל אז, כך טוען לאניר, יש תשובה אחרת. אם המודעות לא הייתה קיימת, המסלולים של כל החלקיקים היו נשארים זהים, ללא שינוי. כל מדידה שהיית עורך ביקום, לו היית עורך אותה, הייתה יוצאת זהה. ואולם, לא היו קיימים שום עצמים "גסים" או יום-יומיים: לא תפוחים ולא בתים, וגם לא מוחות לצפות בהם. לא היו גם מילים או מחשבות, אף שהאלקטרונים והקשרים הכימיים המרכיבים אותן במוח היו נשארים בדיוק כפי שהיו קודם לכן.

ומוסיף לאניר, "היו קיימים רק החלקיקים שמרכיבים את הדברים, בדיוק באותם מיקומים שבהם היו קודם, אבל לא הדברים המורכבים מהם. במילים אחרות, מודעות מספקת אונטולוגיה לחלקיקים. אם לא הייתה מודעות, היקום היה מתואר באופן מספק כמאומה פרט לחלקיקים נעים. או אם אתה מעדיף מסגרת חישובית, רק הסיביות היו נשארות, אבל לא מבני הנתונים. לא הייתה לכל זה משמעות מכיוון שכל זה לא היה נתפס כחוויה."

הטענה הזו נראית מוזרה, עד ששואלים כיצד נראה העולם למחשב, לרובוט או לתוכנה כלשהי. כאן יש צורך בניסיון מושכל בתכנות כדי להבין שהמחשב אינו רואה עצמים, אלא רק סיביות. אז איך מערכת כמו "כיפת ברזל" יכולה לראות טילים? היא לא יכולה. היא רואה רק סיביות. בני-האדם הכניסו לתוכנה הגדרות של מבני נתונים מסוימים על סמך הכרתם את המציאות בשדה הקרב ובעזרתם התוכנה מזהה את הטילים, מבלי לתפוס שמדובר בעצם הנע בחלל ואשר פגיעתו רעה.

מי שלומד תכנות כראוי מבין שתוכנה יכולה לראות רק סיביות. ויותר מזה, מי שלומד מדעי המחשב יכול ללמוד שכל תוכנה יכולה לראות רק סיבית אחת במשבצת אחת (כמו במכונת טיורינג). וכל מאמץ לאפשר לתוכנה לבצע משימות מורכבות יותר, ניתן לביצוע רק אם המתכנת מגלה כיצד לתאר ולהגדיר את המשימה כמורכבת מתת-משימות (במספר סופי וקבוע) של התבוננות בסמל במשבצת, של החלפתו אם צריך ומתנועה למשבצת סמוכה בסרט. אומנם ייתכן שנצליח לתכנת תוכנות נבונות, אבל הן אף פעם לא תוכלנה לראות יותר מסמל במשבצת.

טענתו של לאניר היא, שבעולם שלנו קיימות רמות שונות של תיאור דברים. כלומר, ניתן לזהות דינמיקות ברמה הגסה שאי-אפשר לתאר אותן על ידי אינטראקציות של חלקיקים. ככל שאנו מתרחקים מרמת החלקיקים, טוען לאניר, התיאור נהיה פתוח יותר לפרשנויות ויהיו יותר ויכוחים על התופעות. במדידות של החלקיקים "[…] יהיו פחות ויכוחים לגבי התופעות. אבל ככל שהתהליך גס יותר, הוא נהיה פתוח יותר לפרשנויות שונות. […] אילו אינדיקטורים כלכליים הם מהותיים? אין הסכמה".

לאניר מסיים את הפרק הדן ב"מה זאת חוויה" בדברים הבאים: "זאת הסיבה מדוע אינני חושב שתבונה יכולה לפתור לגמרי מחלוקות לגבי ה'מיוחדות' של בני-אדם. טיעונים כאלה מזכירים את הניסיונות הקאנטיאניים להשתמש בתבונה כדי להוכיח או להפריך את הקיום של אלוהים. אם הטיעון הוא על בני-אדם או על אלוהים, הצעדים הם בערך אותם צעדים. אז אינני יכול להוכיח שבני-אדם הם מיוחדים, ואף אחד אינו יכול להוכיח את ההיפך, אבל באותה מידה אני יכול לטעון שזהו הימור טוב יותר להניח שאנו מיוחדים, כי מעט נפסיד והרבה נרוויח אם נעשה זאת"

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

10 תגובות

  1. נועה פלד
    נועה פלד יולי 09 2018, 01:19
    העסוק במחשבים ואלגוריתמים

    בשילוב עם שאלות פילוסופיות הנו מעניין מאוד כי לכאורה מדובר בשני תחומים נפרדים ורחוקים האחד מהשני

    השב לתגובה
  2. אלישע
    אלישע יולי 09 2018, 11:42
    חוויה תלויה בין היתר במצב רוח

    וזה לא ניתן לבטא בבינה מלאכותית

    השב לתגובה
  3. ת.
    ת. יולי 09 2018, 18:39
    קשה להבין את עמדתך בויכוח

    אתה נמנה על הרוב?

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יולי 12 2018, 22:00
      עמדתי בויכוח

      אינני חושב שבהבנת הטכנולוגיה הרוב קובע. בשיווק שלה, כמובן שהרוב קובע.
      אני מאמין שהעולם האישי של האדם איננו תוצר של תהליכים הניתנים לביצוע על ידי מכונות.

      השב לתגובה
  4. מני ארכוני
    מני ארכוני יולי 12 2018, 10:28
    לבינה מלאכותית ולרגשות

    ולחוויות רוחניות
    אין קשר

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון יולי 12 2018, 22:09
      לבינה מחאכותית ולרגשות...

      למני, נכון. ראה את תגובתי הקודמת.
      במאמר ייצגתי את מה שלאניר כתב ללא פרשנות מיותרת.
      יש לי בעיה עם השימוש במונח ״רוחני״. אבל, למיטב הבנתי, המאמר מציג את דעתו של לאניר שאפשר לסכם אותה שחוויה היא תופעה רוחנית ולכן מחוץ לטווח ההשגה של מכשירים.

      השב לתגובה
  5. עדי לוריא
    עדי לוריא יולי 17 2018, 13:25
    בינה מלאכותית לא באה במקום בינה אנושית

    אלה באה לחזק ואותה ולהקל עליה ולשרת אותה

    השב לתגובה
  6. יהושפט גבעון
    יהושפט גבעון יולי 19 2018, 13:58
    בונה מלאכותית לא באה ולא הולכת :)

    "הבינה המלאכותית" היא יצירה אנושית מתעתעת. כל התוכנות הן בינה מלאכותית. ונכון, התוכנות אמורות לסעוד אותנו. אבל, זה לא מספק לתוכנות חוויות. והתוכנות לפעמים רויות שגיאות. אז הן לא משרתות אותנו היטב. לפעמים יוצרי התוכנות ממשים בהן מטרות מרושעות ואפלות.

    וכמעט כל יום אני מקבל "עדכונים" לתוכנות שבנייד שלי, ומוצהר עליהם שהם (העדכונים)כוללים תיקוני שגיאה ("bug fixes"). מתי זה ייפסק????

    השב לתגובה
  7. יהונתן שקד
    יהונתן שקד אוגוסט 16 2018, 17:39
    אח המאמרים הטובים שקראתי

    אבל יש כן קצת סתירה בין התובנות שאתה מוביל במאמרים שלך כאן באתר. מצד אחד אתה טוען שמה שקובע זאת הידיעה וההכרה של פרטי הטכנולוגיה. מצד שני אתה כותב מאמר שמאחוריו מסתתרת התובנה כי ההבנה של מגבלות הטכנולוגיה והיכולת האנושית היא הקובעת.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון אוגוסט 16 2018, 22:21
      אשמח אם תמצא סתירות בדברי!!!

      תודה על הערכתך!

      אינני רואה סתירה בין טענותי. עד כמה שזכור לי מעולם לא השתמשתי בביטוי "פרטי הטכנולוגיה" שאינני מבין את משמעותו.

      אני טוען, וחוזר וטוען, שמה שקובע הוא הידיעה, ההכרה והבנה של תכונות הטכנולוגיה. וזה כולל את מגבלות הטכנלוגיה ושימושיה וגם את זיהוי רמת היכולת האנושית בכל רגע נתון ליצור אלגוריתמים לביצוע משימות חשובות.

      פרטי הטכנולוגיה (כמו פרטי החומרה שלה) אינם מעניינים כל כך אלא ברגע שמדובר בתכונות המהותיות שלה. לצערי, לא מלמדים תכונות אלה באופן ברור…

      השב לתגובה

כתוב תגובה

הוסף תגובה:

שדות חובה מסומנים *

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!