שליחות לא קטלנית: התוכנה שהמציאה שפה

בסוף השבוע שעבר זעקו הכותרות פאניקה בפייסבוק: נוטרלה בינה מלאכותית שהחלה לדבר בשפה לא מוכרת!, או ניסוחים דומים לזה. התגובה הציבורית הייתה כמובן פאניקה מסוימת, עם שלל אזכורים של סרטי מדע בדיוני על בינות מלאכותיות שיצאו משליטה, כמו "המטריקס", "שליחות קטלנית", "אודיסאה בחלל" ועוד. המציאות הפעם מפחידה וצבעונית הרבה פחות ממה שעשו ממנה, אבל עדיין מעניינת.

בשורה התחתונה, מדובר כאן באירוע טכני שהתרחש לפני כמה שבועות. יש אולי מי שיטענו שעלייתו לכותרות הייתה חלק ממאבק כוחות וציוצים בין מייסד פייסבוק מרק צוקרברג לבין היזם אילון מאסק, המוביל כמה חברות טכנולוגיה.

מכונות לומדות

בשנים האחרונות הולכת וגוברת באקדמיה ובתעשייה ההתעניינות בבינה מלאכותית, ובפרט בענף הידוע בשם למידת מכונה. הרעיון הבסיסי הוא לפתח תוכנת מחשב שתוכל לקבל החלטות באופן עצמאי, ללא התערבות חיצונית. לשם כך עליה להתחשב במכלול הגורמים הסביבתיים המשתנים בזמן אמת, ולא להיות תלויה רק במקבץ הפרמטרים שתוכנתו בה מלכתחילה.

נושא הבינה המלאכותית, ומחשבים שיחקו אדם, הצית את הדמיון עוד בשחר העידן הטכנולוגי, עם רובוט השחמט "הטורקי" מהמאה ה-18 שהיה למעשה תרמית מתוחכמת. מאוחר יותר הכרנו את תוכנת המחשב אלייזה, שדימתה שיחה עם פסיכולוג באמצעות עץ מבנה בסיסי ביותר, וכמובן את אפוקליפסות המדע הבדיוני שבהן רובוטים ומחשבים השתלטו על העולם ושיעבדו את האנושות.

בשנות ה-50 הגה אלן טיורינג, שהיה אחד מאבות מדעי המחשב, את "מבחן טיורינג" שבאמצעותו ניסה להגדיר מהי מכונה אינטליגנטית. המבחן קבע שאפשר לומר שלמכונה יש בינה אם בשיחה בינה לבין אדם אי אפשר יהיה להבחין מי הוא מי. כיום פועלים באינטרנט אינספור "צ'ט-בוטים" מתוחכמים יותר ופחות, שנועדו לספק ממשק כמו-אנושי ולהחליף שלבים מסוימים בשירות הלקוחות. ברוב המקרים קל מאוד לזהות שמדובר בתוכנת מחשב לא מתוחכמת במיוחד.

שפת מכירות מעוותת

מה שעשו המהנדסים בפייסבוק היה דומה. הם ניסו ללמד את תוכנת המחשב להתמקח בשפה טבעית, כדי שיוכלו למקסם את הרווח מהמכירה או הקנייה. מיומנות כזאת תהיה כמובן יעילה במיוחד עבור מפעילי אתרי מכירות, בפייסבוק ובמערכות ממוחשבות אחרות.

בעזרת שיטה של למידת חיזוק קיבלו הרובוטים קיבלו מקבץ של תמלולי התמקחות של משתתפים אנושיים, ואלגוריתם היה אמור להוביל אותם לפתח שיטת מיקוח יעילה עם קונים ומוכרים עתידיים. במסגרת תהליך הלמידה, שני עותקים של התוכנה התמקחו ביניהם, תוך מתן "ערך" לכל תוצאה עתידית של ההתמקחות. כך יכלה התוכנה לייעץ על הדרך שתוביל לתוצאה עתידית מוצלחת יותר.

מה שהמהנדסים שכחו לעשות היה להגביל את התוכנה לשימוש בשפה נכונה תחבירית. לאחר כמה חזרות, שבמהלכן קיבלה התוכנה שרשרת של החלטות כדאיוּת, נוצר מצב שבו שני הצדדים השתמשו בשברי משפטים שאינם מרכיבים משפט נכון תחבירית, אך עדיין מאפשרים להעביר מידע ולסיים את המיקוח בהצלחה.

המילים באנגלית, אבל בלי כללי תחביר מקובלים. שיחת רובוטים | טקסט מתוך: The Next Web tech site

לאחר שתוקנה הטעות, הרובוטים הגיעו לתוצאות מרשימות למדי, כפי שהתפרסם במאמר אקדמי שפרסמו, וברשומה בבלוג של פייסבוק.

בעניין דומה, התפרסם בעבר כי מנוע התרגום של גוגל משתמש ב"שפה נייטרלית" שהמציא כדי לתווך תרגומים בין זוגות של שפות. גם במקרה הזה אומנם מדובר בצעד טכני מעניין, שממיר משפטים בשפת הקלט לייצוג ביניים לפני תרגומם לשפת הפלט, אך בניגוד לכותרות המרעישות בהחלט לא מדובר בשפה חדשה שמתיימרת להחליף את כל השפות בעולם.

תחום הבינה המלאכותית והלמידה החישובית אכן מתקדמים בקצב מעורר התפעלות, אך גם הפעם כמו במקרים רבים, הנסיון ליצור הד תקשורתי, גרם לכותרות להשמע מאיימות הרבה יותר מהמציאות.