JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » שגיאה לוגית שכיחה ומובנת

שגיאה לוגית שכיחה ומובנת

האם התקדמות מתמדת מעידה על התקדמות ללא מגבלות?

שגיאה לוגית שכיחה ומובנת פרופסור יהושפט גבעון
ינואר 30
09:30 2020

אחת התגובות הנפוצות ביותר של קוראים שנתקלו במאמרים שלי שבהם תיארתי מגבלות של הבינה המלאכותית, מעידה על כשל לוגי. בשנים האחרונות כתבתי כמה מאמרים על מגבלות הבינה המלאכותית והטכנולוגיה הדיגיטלית. כמעט בכל פעם נמצא קורא שטען לעומתי שאינני צודק, משום שיש התקדמות רבה בפיתוח תוכנות בכלל ובבינה מלאכותית בפרט, משום שהתקדמות זו תימשך בלי הרף ומשום שלדעתו זה מעיד שאין לתוצרי ההתקדמות הזאת מגבלות עקרוניות.

כדי להבין שמופיעה כאן שגיאה לוגית, צריך להבין כמה דברים שכל תלמידי המתמטיקה והמדעים לומדים: כאשר טוענים טענה ללא הסתייגות, מספיקה דוגמה אחת שסותרת אותה כדי להפריך את הטענה כולה. במקרה שלנו, אם טוענים שתהליך מסוים מתפתח ללא גבול משום שהוא מתפתח ללא הפסקה, כדי להפריך את הטענה מספיק להביא דוגמה אחת של תהליך כלשהו שגדל בלי הפסקה ושיש לו גבול מוחלט. לדוגמה כזו קוראים בלוגיקה ובכל יישומיה "דוגמה נגדית". אם כן במקרה שלנו לא מספיק לטעון "אבל בטכנולוגיה יש התפתחות כל הזמן" או "אבל הבינה המלאכותית מתקדמת ללא הפסקה" כדי להסיק שלטכנולוגיה אין מגבלות ושהבינה המלאכותית תתפתח ללא הגבלה כלשהי, כי קיימות דוגמאות רבות של תהליכים המתפתחים בלי הרף אבל ככלל נשארים מוגבלים.

על פניו הטיעון "אם משהו גדל בלי הפסקה אז הוא יגדל בלי שום הגבלה" נראה תקף בהחלט, אך להלן אביא דוגמאות המפריכות אותו – דוגמה חשבונית אחת, דוגמה היסטורית דמיונית אחת ולפחות דוגמה אחת מתולדות הבינה המלאכותית עצמה.

אפשר להגדיר סדרה של מספרים שעולה בלי הפסק, ובכל זאת היא נשארת מוגבלת לחלוטין. נתחיל במספר 1. נוסיף לו את המספר חצי (1/2). נוסיף לסכום את המספר רבע (1/4). נוכל להמשיך בדרך זו ללא הפסקה. האם נגיע למספר שיהיה גדול מ-2? ודאי שלא. הסדרה שתתקבל היא:

1/1, 3/2, 7/4, 15/8, 31/16, 63/32….

כל מספר נוסף בסדרה גדול מקודמו (ב-1 חלקי שתי פעמים המכנה של הקודם), כלומר הסדרה גדלה ללא הפסקה, ובכל זאת כל מספר המופיע בה קטן מ-2 (בדיוק ב-1 חלקי המכנה שלו). אף שהמספרים בסדרה גדלים וגדלים בלי סוף, הם לעולם לא יהיו גדולים מ-2. הדוגמה הזאת מוכיחה שגידול מתמיד אינו בהכרח גידול בלי הגבלה.

הפרכת הטיעון בנוגע להתפתחות הבינה המלאכותית דורשת דוגמאות נגדיות מתוחכמות יותר. כאשר אין רקע וניסיון מספיקים בלוגיקה, יש צורך במגוון של דוגמאות נגדיות כדי להשתכנע שהעובדה שאיכות הבינה המלאכותית מתפתחת בלי הפסק אינה בהכרח מובילה למסקנה שהיא תגיע לכל רמה של איכות ואף תעבור אותה. גם מושג ההתפתחות איננו ברור כל כך, ולכן דרושות כמה דוגמאות נגדיות כדי להשתכנע בכשל הלוגי בחשיבה שאם ההתפתחות אין-סופית, אז ממילא היא אינה מוגבלת.

הדוגמה ההיסטורית (הדמיונית) היא לקח ידוע בכימיה. תארו לכם שהאלכימאים הצליחו להרכיב תרכובות כימיות מורכבות יותר ויותר ממספר גדל והולך של רכיבים. אף שהמורכבות של תוצריהם גדלה בדוגמה הזאת בלי הפסקה, ואף שתוצריהם היו בעלי שימוש נרחב יותר ויותר, המטרה של האלכימיה לא הושגה בדרך זו. גם אם ערך השימושים בתרכובות הלך וגדל, הם מעולם לא הצליחו להרכיב זהב מרכיבים זולים יותר בתהליכים שבהם השתמשו. הם לא רק לא הצליחו, הם גם לא יכלו להצליח.

הדוגמה הנגדית הבאה מוכרת למי שבקי בתולדות הבינה המלאכותית. תארו לכם מצב שבו בניסיונות הראשונים לפתח תוכנות תרגום, הייתה מקובלת התפיסה שפעולת התרגום היא ביסודה פעולה של החלפת מילים. לפי תפיסה זו, מילה מקורית בשפה הרוסית צריכה להיות מוחלפת במילה או בביטוי באנגלית בעלי משמעות קרובה למשמעות המילה המקורית ברוסית. הכלי שמאפשר לנו ביצוע הולם של החלפה זו נקרא מילון. המנחה שלי בלימודי הפוסט-דוקטורט, פרופ' אנתוני אוטינג'ר מאוניברסיטת הרווארד, היה מראשוני המפתחים של מילון ממוחשב. אין ספק שתהליך מתמיד של שיפור המילון הממוחשב יביא לשיפור ניכר מתמיד בתוכנות התרגום. אך מובן שתפיסת המילון הממוחשב כגורם מרכזי בתוכנות תרגום מתעלמת מהסתמכות על המבנים הדקדוקיים האופייניים לכל שפה המעורבת בתהליך התרגום. תהליך מתמיד של שיפור המילון הממוחשב לעולם לא יביא להתפתחות תוכנות תרגום המשתוות לתרגום אנושי מקצועי. הדוגמאות שהצגתי במאמר קודם שלי, על בעיות בתרגום מאנגלית לעברית תומכות בטענה שתרגום איכותי אינו יכול להסתמך רק על מילון המספק משמעויות למילים.

כמובן כל "הטכנולוגיות הדיגיטליות" נשארות טקסטואליות ולוקליות בכל פיתוח שלהן. שום התפתחות שלהן לא מוציאה אותן ממגבלות אלה. ומצד שני, כמובן קיימים תהליכים של פיתוח תוכנות מתקדמות, יותר ויותר, בלי סוף. הדוגמאות שהבאתי מוכיחות רק שאי אפשר להסתמך על התפתחות אין-סופית כדי להפריך טענות על מגבלות. כדי לטעון נגד המגבלות העקרוניות שיש לבינה דיגיטלית, יש להצדיק את הטענה ביותר מאשר בהצהרה, "אבל הבינה המלאכותית מתקדמת ומתפתחת ללא הרף". האם לבינה הדיגיטלית יש תכונות מיוחדות ההופכות כל תהליך התקדמות שלה לתהליך שתוצריו יהיו בלתי מוגבלים? מה הן תכונות אלה? ייתכן שיש, אבל לא נמצא להן זכר בכל המחקרים שנעשו בחקר המנגנונים הדיגיטליים משנות ה-30 של המאה הקודמת ועד עצם היום הזה.

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

4 תגובות

  1. דוד ברגמן
    דוד ברגמן ינואר 31 2020, 11:15
    בוא ניקח דוגמא

    היום בזכות הבינה המלאכותית יכולים שני אנשים משני צידי העולם לנהל שיחה באמצאות הטלפון הסלולרי שיש בו אפליקצית תרגום. אחד דובר רק סינית והשני רק צרפתית. יכולת אדירה שמעולם לא היתה קיימת והכל בזכות הטכנולוגה. נכון לפעמים יש שגיאות, אי הבנות, וכו. אבל הרמה הרבה יותר טובה מאשר לפני שנתיים, והרבה פחות טובה מאשר בעוד שלוש שנים. בסופו של דבר בזכות הבינה המלאכותית התרגומים אף יעלו על היכולת האנושית בהרבה. נכון שמשורר מסוים בננורבגיה יוכל לתרגם משפט מסוים טוב יותר לנורבגית, אבל איך זה עוזר לנו בחיי היום יום.

    השב לתגובה
  2. יצחק דגני
    יצחק דגני ינואר 31 2020, 19:31
    למר דוד ברגמן הנכבד

    כתבת: "בסופו של דבר בזכות הבינה המלאכותית התרגומים אף יעלו על היכולת האנושית". אז זהו שלא. כל התשומות של הבינה המלאכותית נהגו בתוך מוח אנושי. אם בעתיד הבינה המלאכותית תתפתח עוד יותר – הרי שתשומות פיתוח היתר חייבות לבוא מתוך מוח אנושי. אין מקור אחר לתשומות הללו. מכאן תבין שבינה מלאכותית אף פעם לא תוכל להתעלות מעל המניפולציות של בן אנוש.
    מה זה עוזר לנו בחיי יום יום? זו בעיה מסוג אחר. אולי נכון יותר לשאול על ה"קוסט אפקטיבנס" של פיתוח בינות מלאכותיות.

    השב לתגובה
  3. ראובן טנא
    ראובן טנא פברואר 03 2020, 15:17
    שאלה

    האם לא ברור לנו שהיכולת האנושית של האדם ללא הסתייעות בטכנולוגיה היא מוגבלת?
    האם לא ברור נו שהיכולת של מכשירים מטכנולוגית המידע הולכים ומשתכללים?
    ומי ממציא את המכשירים המסייעים? האדם!
    מכאן שרק בעזרת הטכנולוגיה שהאדם מפתח האדם יכול בכלל ךחשוב להגיע להישגים

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון פברואר 04 2020, 10:59
      לראובן תודה על שאלותייך

      אתייחס אליהן, אחת, אחת.

      התשובה לשאלה הראשונה היא: "לא ולא". "ההסתייעות בטכנולוגיה" מוגבלת על-ידי "הטכנולוגיה". בעזרת מכשירים אנו יכולים לצלול עמוק, אבל זה לא מגביל את יכולת הדמיון שלנו בתחומים אחרים.
      התשובה לשאלה השנייה: זה בדיוק ביטוי לשגיאה הלוגית שנדונה במאמר. "הולכים ומשתכללים" איננה עדות לכך שההשתכללות היא ללא מגבלות. לטכנולוגיית "המידע" יש מגבלות לוגיות שנחשפו והוכחו עוד על-ידי אלה שניסו להגדיר אותה (בשנות ה-30!!!) ושום השתכללות לא תפרוץ מגבלות אלו. להיפך, עם הגדלת סיבוך האמצעים הדיגיטליים, שכיחות הפגמים בהם הולכת וגוברת.
      ולשאלתך השלישית: יפה שהזכרת את האדם. בדרך כלל מתעלמים ממנו. אבל זה לא פוטר אותך מאחריות להסקת מסקנות לוגית.

      המשפט האחרון שלך איננו מסקנה הגיונית של טענותיך. "רק בעזרת הטכנולוגיה" היכן הוכחת שכל מה שכתבת (נכון או לא נכון) זה רק בעזרת הטכנולוגיה? להצהיר שמשהו הוא בעזרת הטכנולוגיה איננו מוכיח שזה רק בעזרתה. ועוד, "האדם יכול בכלל לחשוב להגיע להישגים"????? רק בעזרת יכולת הדמיון שיש לאדם הוא יכול לחשוב בכלל!!!!

      השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור