JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » מגבלות הידיעה של גילדת יוצרי הכלים

מגבלות הידיעה של גילדת יוצרי הכלים

מעודדים אותנו לא לרצות לדעת

מגבלות הידיעה של גילדת יוצרי הכלים פרופסור יהושפט גבעון
מרץ 11
09:30 2018

פיתוח הידע שלנו במדעי המחשב הוביל לתגליות חשובות, אך יש בהן פרדוקס. במאמרי האם טיורינג טעה? תיארתי תגלית אחת בפרוטרוט ובמאמר הזה אמקד את הדיון בהשלכות של תגלית כזו על מגבלות ידיעתנו.

המחשב הוא אמצעי מלאכותי. אנו מרבים להמציא ולייצר אמצעים וחומרים מלאכותיים ומשתמשים בהם כמעט ללא הבחנה, עד אשר אנו מגלים שלשימוש בתוצרים אלה יש תוצאות מסכנות חיים שלא צפינו מראש. דוגמה מצערת אחת: בשנות ה-80 של המאה הקודמת, שישה חולים שטופלו בקרינה בעזרת מערכת ממוחשבת מתו בגלל שגיאת תכנות (חפשו ברשת: "Therac-25").

כאשר מדובר ביצירת מולקולות מלאכותיות להרכבת תרופה חדשה, הזהירות והחשש מסכנה מתקבלים על הדעת מלכתחילה. אף על פי שאנו יודעים בדיוק ממה מורכבת המולקולה החדשה, איננו סומכים על ידיעתנו בנוגע להתנהגות החומרים בסביבות שונות ובתנאים שונים, ומתארים לעצמנו שאנו יכולים להיתקל בהפתעות ובאפקטים שלא יכולנו לשערם מראש. אנו יכולים לדעת היטב את חוקי הטבע החומרי, הידועים לנו מן הפיזיקה ומן הכימיה, ובכל זאת אנו מבינים היטב שעלינו לחשוש מפני תוצאות בלתי צפויות של שימוש בחומרים החדשים שאנו מייצרים. אנו עורכים ניסויים כדי להכיר את החומרים הללו טוב יותר. כאשר בונים תרופה חדשה, עורכים ניסויים זהירים כדי להעריך את תופעות הלוואי שלה. אבל בכל רגע נתון איננו יכולים להיות בטוחים לגמרי שמיצינו את כל הבדיקות האפשריות.

מראשית ימיה של השיטה המדעית אנו יודעים כי האמת המדעית "אינה דבר קבוע, נחלת העבר, אלא עליה להוסיף ולהיחשף בפעילות האנושית התבונית" – כך מצוטט בספרו של יוסף שורץ "מהמנזר אל האוניברסיטה" (1999) מדבריו של פייר אבלר, מייסד האסכולה הלמדנית בימי הביניים שחי בשנים 1079 עד 1142. מאה שנים קודם לכן התריע ממציא האופטיקה המודרנית, איבן אל-הית'ם, כי המדענים והמדע אינם מחוסנים משגיאות. בכך הם סללו את הדרך לביקורתיות, וזו הפריחה את המחקר המדעי וממשיכה להפריח אותו גם בימינו, על ידי חיפוש מתמיד אחר הפרכת אמתות.

פעם חשבנו שחלקיקי החומר אינם ניתנים לחלוקה, קראנו להם "א-טומים", וכך צמחה הכימיה כחקר המולקולות שהן תִּרְכובות של האטומים. שנים אחרי-כן, בסוף המאה ה-19, גילו מארי קירי ואנדרה בקרל את הקרינה הרדיואקטיבית וידעו להסביר אותה כהתפרקות של אטומים. כך נולדה הפיזיקה הגרעינית ואחריה התפתחה הפיזיקה הקוואנטית. היום אנו נמצאים במרוץ בלתי פוסק אחר גילוי החלקיקים שמרכיבים את עשרות החלקיקים הידועים לנו. אנו מחפשים אחרי החלקיקים הבסיסיים של כל החלקיקים וכאשר מתארים את החיפוש אחר "התיאוריה של הכול", שוכחים לציין שמדובר רק בתיאוריה של כל התיאוריות הידועות ולא באריזתן הסופית ולא בסיום המחקר בפיזיקה. למשל ייתכן שנגלה באופן מבוסס (ולא באמצעות פטפוטים דמיוניים) חלקיקים מסוג חדש לגמרי שיאפשרו הסברים מקיפים יותר, לא רק של התנהגות החומר הרגיל אלא גם של פעולת המוח האנושי. במדע הכול פתוח.

עלינו להבדיל בין המצאת חומרים וכלים חדשים, במציאות של עידן התעשייה, ובין המצאת כלים בעולם הספרתי, במציאות של ימינו. בניגוד לכלי עידן התעשייה, כמו המנועים למיניהם, הכלים הספרתיים – המחשבים, התוכנות, האלגוריתמים ותהליכי החישוב וכל מה שביניהם – נבנים ברמת פירוט מוחלטת. הם מפורטים באופן מפורש לחלוטין ומתנהגים לפי כללים מחייבים ללא אפשרות של חריגה. ודווקא כאשר הם הוגדרו במלואם (בשנות ה-30 של המאה הקודמת) התגלו אפשרויות של קיום של חישובים שאיננו יודעים מה הם עושים. במאמרי "האם טיורינג טעה?" הצבעתי כבר על נקודות אלה, ובמאמר הנוכחי ארחיב מעט את היריעה.

מה שלא הוסבר עדיין הוא כיצד ייתכן שאיננו יודעים דבר-מה במידה מספקת אף שידיעתנו אותו מפורטת לגמרי. זה פרדוקס של אי-שלמות. מגמת הפורמליזציה במתמטיקה במאות הקודמות נתמכה כדי להבטיח את אמינות השימוש בה, והנה, גדל הוכיח לפני כ-100 שנים שתורות מתמטיות המפורטות עד לתו האחרון, יכולות להכיל סתירות וטענות בלתי-מוכחות. טיורינג ועמיתיו, בהגדרת מושג החישוב כעשר שנים אחרי התגליות של גדל, רצו לבסס שיטות אמינות ויעילות לבניית פתרון של בעיות המוגדרות מלכתחילה בצורה המפורשת ביותר. גם הם הוכיחו שתהליכים חישוביים (קרי מתוכנתים) יכולים להיות מפורטים עד לתו האחרון ובכל זאת איננו יודעים עליהם פרטים חשובים, כמו: האם נפלה בהם שגיאה? האם הם זהים לתהליכים אחרים? האם הם מספקים, במספר סופי של צעדים, תשובה כלשהי? האם במהלך ביצועם נקבל בפלט תו מסוים?

גילוי התוכנות שאיננו יודעים מה הן עושות מחייב אותנו להבדיל בין כמה רמות ידיעה: רמת הידיעה הפרוצדורלית, הנמוכה ביותר, מוגבלת לידיעת חוקי המשחק מעצם בנייתם והגדרתם, לעומת רמות ידיעה מקיפות יותר. ומכיוון שמדובר בעולם מלאכותי, של הכלים הספרתיים, אפשר להגדיר היטב את הרמה הבאה של הידיעה: ידיעת התשובות לכל השאלות בדבר כל ההתנהגויות האפשריות של כלי נתון. רמת ידיעה גבוהה עוד יותר תהיה ידיעת התשובות לכל השאלות בדבר כלל השימושים האפשריים בכלי הנתון, בכל הסביבות האפשריות. רמת הידיעה הפרוצדורלית מוגבלת אפוא ואיננה מספקת את ידיעת "הפוטנציאל" של השימוש בכלי נתון כלשהו.

מגבלות הידיעה הפרוצדורלית מוכיחות גם שהשימושים בתהליכי בנייה למטרות למידה הם כבר בעלי מגבלות שעלולות לפגוע באפשרויות הידיעה של הלומדים. ההתלהבות השכיחה בקרב אנשי חינוך מ"למידה על-ידי עשייה", כמו ההתלהבות מכלים ספרתיים שנבנים על-ידי תלמידי בית הספר, לא יכולה לעקוף את המגבלות האלה. עד שלא נתמודד היטב עם התכונות של הכלים שאנו בונים, לא רק שיימסרו לידינו ולידי ילדינו כלים מבלי לדעת את מלוא היקף פעולתם, ילדינו יעסקו בפעילויות שלא יתרמו לידיעתם. בקורסים הרבים להוראת הנושאים הקשורים לכלים החדשים ולשימושים בהם, לא נמצא זכר לתיאור התכונות של הכלים שאנו מתפעמים מהם.

העוסקים בייצור הכלים מתייחסים אל עיסוקם כאל גילדה מקצועית, המגינה בחירוף נפש על סודות המקצוע שלה, והתייחסות זו מובילה אותנו להכרה שהתרבות האופפת את השימוש בכלים החדשים היא תרבות של אנטי-ידיעה ואנטי-הבנה. מספיק לעיין בשיח המלווה את נושא הבינה המלאכותית כדי לחשוף עד כמה רחוקים אנו משאיפה להבין את מעשי ידינו. מקלוהן ציין במרירות נפש, עוד ב-1962 בספרו על המצאת מכונת הדפוס של גוטנברג, כי "האדם, החיה הבונה כלים … היה מעורב בהרחבה של חוש זה או אחר שלו באופן שיפריע לכל שאר חושיו וכשריו. אבל, לאחר שערך את הניסויים האלה, באופן עקבי בני האדם נמנעו מלעקוב אחריהם באמצעות תצפיות."

 

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

9 תגובות

  1. הלן מירק
    הלן מירק מרץ 11 2018, 13:41
    מה האינטרס של הממציאים שלא נדע

    הם מפחדים שיעתיקו אותם?

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון מרץ 12 2018, 00:26
      האינטרס של הממציאים והצל האפל בעמק הסיליקון...

      רוב הממציאים, בעולם הספרתי, בתחילת דרכם היו אידיאליסטים, ממש בני הדור של "נוער הפרחים" ודומיהם. הם האמינו בכל ליבם בשיתוף רעיונות, בתרבות פתוחה וכדומה. כאשר נשאבו אל המעמד של המשרות המפתות ב"עמק הסיליקון", הם שינו מגמה (כמו ממציא הגוגל) והפכו לרעבים כרוניים. לא כולם, זה נכון לגבי רובם.

      השב לתגובה
  2. ט.
    ט. מרץ 12 2018, 11:53
    גם אתה הולך בשיטה שעליה אתה מתלונן

    אתה כותב מאמרים מאוד חשובים אבל עושה הכל שלא נבין …..
    זה נאמר ברוח טובה

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון מרץ 14 2018, 14:24
      כדי להבין, כדאי לשאול או להתייעץ במילון...

      חבל שאינך מצביע/ה על מה בדיוק אינך מבין/נה. אני אשמח להסביר. לדוגמה, אם משמעות המלה "גילדה" אינה ידועה לך, יש להשתמש במילון. עליך לעשות הכול כדי להבין.

      השב לתגובה
  3. דניאל שרמן
    דניאל שרמן מרץ 12 2018, 20:53
    מאמר רציני כמו שצריך להיות

    את זבלי האקטואליה לא צריך באתרים רציניים

    השב לתגובה
  4. ט.
    ט. מרץ 13 2018, 12:02
    אבל אנשים עובדים בחברות הפיתוח

    והם עוברים ממקום למקום בקצב מהיר ויש להם לפעמים אינטרסים מנוגדים אז איך מצליחים לשמור הסודות איך גורמים לציבור לא לדעת? ויש גם עתונות ויש גם תחקירים ….

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון מרץ 14 2018, 14:19
      אל תהיה תמים...

      ענקי הרשת מסתירים את הנתונים עליהם ושלהם בזמן שהם הצליחו לשכנע אותך לפתוח את כל הנתונים עליך. הם יפרסמו את האתרים שלך מבלי לחשוף את האלגוריתמים שלהם שבנויים מנתונים שאתה סיפקת להם. לדוגמה, המתרגם של גוגל מבוסס על עבודות של מיליוני בני-אדם שנשאבו אל המתרגם מבלי אפילו להכיר במקורות שלהם, שלא לדבר על חלוקת תמלוגים צודקת. ועוד, ועוד….

      השב לתגובה
  5. מיכל איל
    מיכל איל מרץ 15 2018, 17:00
    לא ברור לי

    אם מישהו ממציא משהו מתקדם, למה שיגלה לי את כל הנוסחאות והמבנה וכדומה. הרי אז כל אחד יוכל להעתיק אותו אחרי שהשקיע הרבה כסף במחקר ובפיתוח.

    השב לתגובה
  6. יהושפט גבעון
    יהושפט גבעון מרץ 16 2018, 08:42
    טענתך, מיכל, ראוייה להתייחסות

    ברור שנוסחאות מתוחכמות הן נכס (למרות שהקידמה שלנו מבוססת על מדע ונוסחאות שהומצאו על-ידי גאונים שלא השאירו אותם בכיסם..) אבל במקרה הנדון, הנתונים הם משאב שערכו עולה בהרבה על ערך הנוסחאות והפיתוח. והנתונים נלקחים מהמשתמשים והמשתמשות – כלומר, ממך ומהחברים ומהחברות שלך- מבלי להחזיר לך תמורה הולמת התואמת באופן הוגן את ההכנסות של בעלי השרתים הגדולים מהשימוש בנתונים.
    אולי במאה ה-22 יבינו שזה היה הניצול המחפיר שבוצע במאה ה-21 מתחת לעיני כל…

    השב לתגובה

כתוב תגובה

הוסף תגובה:

שדות חובה מסומנים *

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור
Do NOT follow this link or you will be banned from the site!