JOKOPOST | עיתון המאמרים והבלוגים המוביל בישראל

facebook twitter linkedin
  • ראשי » 
  • IT
  •  » שגיאות מי יבין…

שגיאות מי יבין…

על מה, לדעת חברת מייקרוסופט, מעידות שגיאות?

שגיאות מי יבין… פרופסור יהושפט גבעון
אוקטובר 07
09:30 2020

מי מכם לא קיבל לאחרונה את ההודעה מטעם מייקרוסופט: "ניסית להיכנס פעמים רבות מדי באמצעות חשבון שגוי או סיסמה שגויה. ברצוננו לוודא שאינך רובוט"? למשל, אם החלפתם מכשיר ונאלצתם להתקין מחדש אפליקציות רבות שהיו על המכשיר הקודם שלכם ונכשלתם מספר רב מדי של פעמים ב"כניסה" אל תוכנה מבית מייקרוסופט, התעורר החשד שפעולתכם אינה פעולה של יצור אנושי אלא של תוכנה הבנויה להתחזות לאדם כדי לפרוץ למכשיר. חברת מייקרוסופט מנסה לכאורה למנוע חדירה של "רובוטים" למכשיר שלכם, אך תוך כדי כך היא מגלה כמה עובדות מעניינות.

למעשה מוצגת לפנינו גרסה מיוחדת של מבחן טיורינג – מערכת מייקרוסופט צריכה להחליט אם הנבחן הוא אדם או מכונה, ובמקרה הזה היא עושה זאת בשני שלבים. תחילה המערכת מבקשת סיסמה, ואם הסיסמה מוקלדת ללא שגיאה, היא קובעת שהנבחן הוא אדם. אבל אם הסיסמה מוקלדת כמה פעמים בשגיאות, היא חושדת שהמבקש "להיכנס לתוכנה" הוא תוכנה ולא אדם. ואז יש לבצע בדיקת זיהוי אותיות, והצלחה בבדיקה קובעת שהנבחן הוא אדם. הדמיון למבחן טיורינג ברור למדי.

מתי, לדעתם של מומחי מייקרוסופט, יש לחשוד בפעולתך שהיא פעולה של תוכנה זדונית המנסה לחשוף את פרטיך האישיים, כאשר הקלדת שגיאות או כאשר דייקת בהזנת הנתונים למכשיר? וכיצד הבדיקה מתבצעת? באמצעות זיהוי של אותיות ברורות או של אותיות מעוכות ומעוותות? נחשפות כאן כמה הנחות בדבר יכולת הפעולה של תוכנות יחסית ליכולת הפעולה של בני אדם, כדלקמן:

  • לפי מייקרוסופט, שגיאות תכופות הן עדות מספקת לחשד לפעולה של מתווך דיגיטלי, של תוכנה המנסה להתחזות כאדם ולפרוץ אל התוכנות השמורות שלך.
  • המבחן הפשוט ביותר לזיהוי תבונה אנושית הוא בזיהוי אותיות המוצגות כקשקוש, כי רק אדם אמור להיות מסוגל לבצע את הזיהוי נכונה.

כלומר מערכת ההגנה של מייקרוסופט פועלת על סמך ההבנה שתוכנות נוטות לשגות ומתאפיינות בכך, ואילו בני אדם מזוהים בפעולות חסרות שגיאה. ויתרה מזו, בני אדם מתאפיינים ביכולתם לזהות אותיות המוסתרות ברקע מקושקש או המעוותות עד כדי קשקוש. מובן שמאחורי ההתנהגות של מערכת ההגנה של מייקרוסופט מסתתרות שתי הצהרות על רמת ההצלחה של הבינה המלאכותית כפתרון נבון לבעיית הבוטים הזדוניים:

  • הדרך הקיימת לחדור באמצעות תוכנה אל תוכנה המוגנת על ידי חשבון וסיסמה היא בהצעת חשבונות וסיסמאות, ואלה נכשלים זה אחר זה. ולכן אם "ניסית להיכנס פעמים רבות מדי באמצעות חשבון שגוי או סיסמה שגויה" מתעורר החשד שהמצב נוצר על ידי פעולה של תוכנה המנסה לנחש את החשבון והסיסמה שלך. החשד הזה יישאר מוצדק כל עוד הדרך לפרוץ מערכות תוכנה לא תשתנה.
  • אין סיכוי שתימצא דרך (אלגוריתם) לזיהוי צורות שאפשר לסמוך על הצלחתה אפילו בטווח זיהוי תווים (אותיות וספרות).

לאמיתו של דבר מתעוררים כאן כמה חשדות:

  • חברת מייקרוסופט, כפי הנראה, מתייחסת אל התנהגות הרצופה בשגיאות כמאפיין התנהגות של תוכנות ולא של בני אדם. בכך היא מבטאת את הרעיון שלשגות זה דיגיטלי ולא כל כך אנושי.
  • חברת מייקרוסופט, כפי הנראה, סוברת שהפריצה למערכות תוכנה תהיה מבוססת, לפחות בעתיד הנראה לעין, על ניסויים ושגיאות, והפורצים לא יצליחו למצוא דרכים חדשות לגילוי החשבונות והסיסמאות שלנו.
  • לדעת מומחי התוכנה של מייקרוסופט, הסיכוי שנצליח לפתח תוכנות לזיהוי תבניות גרפיות פשוטות הוא אפסי.

והחשד המטריד ביותר הוא שאולי חברת מייקרוסופט מעוניינת יותר ביצירת רושם שהיא מעוניינת בהגנה על הנתונים שלנו מאשר בהשקעת מאמצים כנים בהגנה על הנתונים שלנו. במלים אחרות, אולי מטרת ההודעה "ניסית להיכנס פעמים רבות מדי באמצעות חשבון שגוי או סיסמה שגויה. ברצוננו לוודא שאינך רובוט" והדרישות הנלוות אליה, היא להונות אותנו?

על המחבר / המחברת

יהושפט (שפי) גבעון

יהושפט (שפי) גבעון

פרופסור. לימודי פיסיקה, פסיכולוגיה ניסויית, ופילוסופיה לתואר ראשון ולימודי מתמטיקה לתואר שני (האונ' העברית). תואר שני ושלישי במדעי התקשורת והמחשבים (אונ' מישיגן).

6 תגובות

  1. ח.
    ח. אוקטובר 07 2020, 12:19
    כאשר מנהיגי מדינות דואגים לעצמם

    ולא לאינטרס של הציבור, למה אתה מצפה דוקא מחברות ההיי טק?

    השב לתגובה
  2. חנוך זהבי
    חנוך זהבי אוקטובר 08 2020, 18:45
    אני לא מבין מה פסול בהתנהגות חברות אלה

    מי שמנסה להשתלט על חשבון מקליד כל מיני סיסמאות וככל שהוא מנסה יותר פעמים הסיכוי שלו להצליח גדל. אבל המערכת לא נותנת לו להמשיך, אם הוא מכונה הוא הרי יכול להמשיך ללא סוף. לכן מבקשים בשלב השני לבצע מכונה שקלה לאדם ומאוד מורכבת לנכונה.

    השב לתגובה
  3. ד.
    ד. אוקטובר 09 2020, 10:18
    לשורת הסיום אינני מסכימה

    יחסי ציבור, אולי
    הונאה, מוגזם

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון אוקטובר 09 2020, 19:29
      'יחסי ציבור' הוא שם מכובס לפעילות הדואגת

      לארגון או ליצרנים ולא לציבור. ולכן אולי תמיד מסתתרת מאחוריו הונאה?
      אולי זה אולי…

      השב לתגובה
  4. אביב ברקוביץ
    אביב ברקוביץ אוקטובר 11 2020, 19:11
    מנהיגי העולם הנאור כבר שמו לב

    לבעיות שיוצרות החברות הגדולות ששולטות על העולם הדיגיטלי. והן רבות מעבר לנקודות בהן דנת. אם לא היה כעת משבר קורונה זה כבר היה מתפוצץ. נחכה בסבלנות לראות את ההתפתחויות.

    השב לתגובה
    • יהושפט גבעון
      יהושפט גבעון אוקטובר 18 2020, 12:27
      הבעיות שיוצרות החברות הגדולות

      בשנים האחרונות דנתי בבעיות רבות שהחברות הגדולות יוצרות, ואני לא יכול לחזור עליהן בכל מאמרון שאני מפרסם כאן. אזכיר רק חוקרים שהצביעו על בעיות אלה ושאוזכרו במאמרי: דאגלאס ראשקוף, שושנה זובוף, יארון לאניר, שריל טרקל, ועוד. חפש ברשת (באנגלית) ותמצא מה הם כתבו ועל מה הם דברו. לצערי אינני מורשה כאן להציב קישורים שיוציאו אותך מהאתר.

      השב לתגובה

כתוב תגובה

הוסף תגובה:

<

* אני מתחייב לפעול על פי תנאי השימוש באתר


התגובות יפורסמו לפי שיקול דעת העורך

כתבות נוספות

פוסטים אחרונים בIT

יתר המאמרים במדור