המשורר שבמכונה

בקיצור

• מכונות בעלות תבונה ברמה אנושית כבר מסתמנות באופק.
• עדיין איננו יודעים אם הן יפתחו תודעה של ממש.
• מדוע? כי אין כמעט ספק שאפילו ההדמיות הכי משוכללות של מוח האדם לא יוכלו ליצור רגשות מודעים. 

עתיד שבו יכולות החשיבה של המחשבים יתקרבו ליכולות שלנו ממשמש ובא. האלגוריתמים של למידת מכונה (או "למידה חישובית") הולכים ומשתכללים ונושפים כבר בעורפנו. ההתקדמות המהירה הצפויה בעשורים הקרובים תניב מכונות בעלות תבונה ברמה אנושית המסוגלות לדבר ולחשוב, שיספקו תועלת עצומה עבור ענפי הכלכלה והפוליטיקה וכמובן הלחימה. הולדת הבינה המלאכותית האמיתית תשפיע עמוקות על עתיד המין האנושי ותסייע לקבוע אם יש לו בכלל עתיד.

ראו למשל את הציטוטים הבאים:

"מאז פריצת הדרך הגדולה האחרונה בבינה מלאכותית, שהתרחשה בסוף שנות ה-40, מדענים בכל רחבי העולם חיפשו דרכים לרתום את 'הבינה המלאכותית' הזאת לשיפור הטכנולוגיה אל מעבר למה שאפילו תוכניות הבינה המלאכותית המשוכללות ביותר של ימינו יכולות להשיג".

"ממש עכשיו מתנהלים מחקרים שנועדו לאפשר לנו להבין טוב יותר את האפשרויות הטמונות בתוכניות בינה מלאכותית, תוך שאנו מגבילים את עצמנו למגבלות הבינה המלאכותית של ימינו. רוב תוכניות הבינה המלאכותית הקיימות הוגבלו בעיקר לקבלת החלטות פשוטות או לביצוע חישובים פשוטים על בסיס נתונים מעטים יחסית".

את שתי הפסקאות האלה כתב GPT-2, בוט לשוני שבחנתי בקיץ שעבר. GPT-2 הוא אלגוריתם למידת מכונה שפותח בידי מכון OpenAI, שבסיסו בסן פרנסיסקו, ומתמקד בקידום בינה מלאכותית מועילה.

במבט ראשון משימתו של GPT-2 נראית מטופשת: כשמציגים בפניו טקסט פתיחה שרירותי, עליו לנבא את המילה הבאה. לא מלמדים אותו "להבין" טקסטים במובן האנושי של המילה, אלא מאמנים אותו להתאים את החיבורים של מנגנוניו הפנימיים – המדמים רשתות עצביות – לניבוי מיטבי של המילה הבאה, המילה שאחריה וכן הלאה. לאחר שהתאמן באמצעות שמונה מיליון דפי אינטרנט, קרביו כוללים יותר ממיליארד חיבורים המחקים סינפסות – כלומר נקודות מגע בין תאי עצב.

כשהזנתי את המשפטים הראשונים של הכתבה שאתם קוראים עכשיו, האלגוריתם פלט שתי פסקאות שנראו כמו ניסיון של סטודנטית שנה א' להיזכר בעיקריה של הרצאת מבוא בלמידת מכונה ששמעה בשעה שחלמה בהקיץ. הפלט כולל את כל המילים והביטויים הנכונים – די משכנע למעשה... וכשמזינים לו את אותו טקסט בפעם השנייה הוא פולט משהו שונה.

צאצאיהם של בוטים כאלה יציפו אותנו בביקורות על מוצרים ובידיעות חדשותיות "דיפ-פייק" (כלומר שילוב של "למידה עמוקה" ו"כזב") שיוסיפו להעכיר את האווירה הרעילה בלאו הכי באינטרנט. הם יהפכו לדוגמה נוספת של תוכניות מחשב שעושות דברים שעד כה האמנו שרק האדם מסוגל לבצע – לשחק במשחק האסטרטגיה בזמן אמת סטארקרפט, לתרגם טקסטים, לנסח המלצות אישיות על ספרים וסרטים ולזהות אנשים בתמונות ובסרטי וידיאו.

יידרשו עוד התפתחויות רבות בלמידת מכונה לפני שאלגוריתם יוכל לכתוב יצירת מופת לכידה כמו "בעקבות הזמן האבוד" של מרסל פְּרוּסט, אבל הקוד כבר כתוב על הקיר. זכרו שהניסיונות המוקדמים של מחשבים לשחק, לתרגם ולדבר היו מגושמים ומעוררי גיחוך, שכן נעדר מהם בבירור כל בדל של כישרון וליטוש. אך בעקבות המצאת הרשתות העצביות העמוקות, בשילוב התשתית החישובית העצומה של תעשיית ההייטק, המחשבים הלכו והשתכללו עד כדי כך שלא נותר כל שריד לגיחוך בפלטים שלהם.

המחשב כחול עמוק. גבר לראשונה על אלוף העולם בשחמט | צילום: Science Photo Library

כמו שגילינו עם גו, שחמט ופוקר, האלגוריתמים של ימינו מסוגלים לגבור על בני אדם, וכשזה קורה – הצחוק שלנו מתחלף בחשש. האם הגענו למצבו של שוליית הקוסם של גתה, שהצליח לגייס לעזרתו כשפים מועילים, ואז איבד את השליטה עליהם?

תודעה מלאכותית?

אף שחוקרים חלוקים ביניהם על ההגדרה המדויקת של בינה – טבעית או מלאכותית גם יחד – רובם מסכימים שבמוקדם או במאוחר יהיו מחשבים שיגיעו למה שמכונה בעגה המקצועית "בינה מלאכותית כללית".

ההתמקדות בבינת מכונות מטשטשת שאלות שונות לגמרי: האם מחשב שישיג בינה מלאכותית כללית ירגיש משהו? האם מחשבים מתוכנתים יפתחו אי פעם תודעה?

כשאני כותב "תודעה" או "רגש סובייקטיבי", אני מתכוון לאיכות הטבועה בחוויה כלשהי – למשל, הטעם המענג של נוטלה, הכאב החד של שן עם עששת, המעבר האיטי של הזמן כשאנו משועממים או תחושת המרץ והחרדה ברגעים שלפני אירוע תחרותי. בפרפרזה על הביטוי שטבע הפילוסוף תומס נייגל (Nagel), אפשר לומר שלמערכת כלשהי יש תודעה אם יש משמעות לשאלה איך זה להיות המערכת.

חישבו על תחושת המבוכה המתעוררת בנו כשאנו מבינים שעשינו טעות מבישה: התכוונו להתבדח והתוצאה הייתה שהעלבנו מישהו. האם מחשב יוכל לחוות אי פעם רגש מטריד כזה? וכשאנחנו מחכים על הקו בטלפון, ועוברת עוד דקה ואחרי זה עוד דקה, וקול מלאכותי מדקלם: "צר לנו על העיכוב", האם התוכנה הזאת באמת מצטערת על הגיהינום של שירות הלקוחות שהיא מעבירה אותנו?

אין כמעט ספק שתבונתנו וחוויותינו נובעות באורח מחויב המציאות מהכוחות הסיבתיים הטבעיים של מוחנו, ולא מכוחות על-טבעיים אלה ואחרים. הנחת היסוד הזאת שירתה את המדע מצוין במאות השנים האחרונות, ככל שהעמקנו יותר ויותר בחקר העולם.

מוח האדם, האיבר דמוי הטוֹפוּ ששוקל פחות מקילו וחצי, הוא גוש החומר המאורגן והפעיל המורכב ביותר שאנו מכירים ביקום כולו. אבל הוא חייב לציית לאותם חוקים פיזיקליים הפועלים על כלבים, עצים וכוכבים. חוקי הטבע לא עושים הנחות לאף אחד. עדיין איננו מבינים לגמרי את כוחותיו הסיבתיים של המוח, אבל אנחנו חווים אותם באופן יומיומי –  קבוצה אחת של תאי עצב פעילה כשאנחנו רואים צבעים, ותאי עצב באזור אחר של קליפת המוח "יורים" דחפים עצביים כשמצב הרוח שלנו מבודח. כשמגרים את תאי העצב האלה באמצעות אלקטרודה שהתקין מנתח מוח, המטופל רואה צבעים או פורץ בצחוק. ובכיוון ההפוך: כשמרדימים חלקים מהמוח כדי להשבית אותם, החוויות האלה נעלמות.

המוח. מורכבות עצומה | איור: Science Photo Library

לאור הנחות הבסיס המקובלות הללו, איך תשליך ההתפתחות של בינה מלאכותית אמיתית על אפשרות קיומה של תודעה מלאכותית?

כששוקלים את השאלה הזאת מגיעים באופן בלתי נמנע לצומת שיכול להוביל אותנו לשני יעדים שונים מהותית. רוח הזמן, המתגלמת בספרים ובסרטים כמו "בלייד ראנר", "היא" ו"אקס מכינה", צועדת במלוא המרץ לעבר ההנחה שמכונות תבוניות יפתחו תודעה; הן ידברו, יחשבו, יפקחו על עצמן ויהיו מסוגלות להתבוננות עצמית. תהיה להן תודעה בזכות עצמן.

את הנתיב הזה מייצגת באופן המובהק ביותר תיאוריית מרחב העבודה העצבי הכולל, שהפכה לאחת מתורות התודעה המדעיות הדומיננטיות כיום. נקודת המוצא שלה היא מבנה המוח, והיא גורסת שהתודעה נולדת מתוך שילוב של כמה מהמאפיינים המבניים הייחודיים שלו. 

את מקורותיה אפשר למצוא עוד ב"ארכיטקטורת הלוח" של מדעי המחשב משנות ה-70, שבמסגרתה תוכניות מחשב ייעודיות מקבלות גישה למאגר מידע משותף, המכונה "לוח" או מרחב עבודה מרכזי. פסיכולוגים הניחו שקיים במוח משאב עיבוד דומה שממלא תפקיד מרכזי בהכרה האנושית. הקיבולת שלו קטנה, כך שבכל רגע נתון הוא יכול להכיל מושג, רעיון או זיכרון אחד ויחיד. מידע חדש מתחרה עם מידע ישן וכך עשוי לדחוק אותו ממקומו.    

חוקר מדעי המוח הקוגניטיביים סטניסלס דהאן (Dehaene) והביולוג המולקולרי ז'אן-פייר שאנג'ה (Changeux), שניהם מהקולז' דה פרנס בפריז, מיפו את הרעיונות האלה בתוך המבנה של קליפת המוח, שהיא השכבה החיצונית ביותר של החומר האפור. שתי יריעות קליפתיות מקופלות היטב, אחת בצד ימין והשנייה משמאל, בגודל ובעובי של פיצה שקוטרה 35 סנטימטר, דחוסות בתוך הגולגולת המגינה עליהן. דהאן ושאנג'ה הניחו שאת מרחב העבודה יוצרת רשת של תאי עצב פירמידליים (מעוררים) המקושרים לאזורי קליפה נפרדים ומרוחקים, במיוחד האזורים האסוציאטיביים של קליפת המוח הקדם-מצחית, האונה הקודקודית, האונה הרקתית ופיתול החגורה המרכזי.

חלק גדול מפעילות המוח נשאר מקומי ולפיכך לא מודע – למשל מה שעושה יחידת התפקוד השולטת בכיוון שאליו אנו מפנים את עינינו בפעולה שאיננו מודעים לה כמעט, או פעילותה של יחידת התפקוד האחראית על תנוחת גופנו. אבל כשהפעילות באזור כלשהו או בכמה יחד עוברת סף מסוים – למשל, כשמישהו נתקל בתמונה של קופסת נוטלה – מתפרץ גל של גירוי עצבי שמתפשט דרך מרחב העבודה העצבי לכל רחבי המוח. האות הזה נהיה נגיש לפיכך לשורה של תהליכים משניים, ובהם שפה, תכנון, מעגלי תגמול, גישה לזיכרון לטווח ארוך ואחסון באחד התאים של הזיכרון לטווח קצר.

פעילות ההפצה הכוללת של המידע היא הדבר שבונה את המודעות שלנו אליו. את החוויה היחידה במינה של נוטלה מפיקים תאי עצב פירמידליים שמתקשרים עם אזור התכנון התנועתי במוח –  והוא בתורו מורה לאצבעותינו לאחוז בכפית ולמלא אותה בממרח האגוזים. בינתיים יחידות תפקודיות אחרות מעבירות את ההודעה שאפשר לצפות לתגמול, בדמות מפל הדופמין שיחולל ממרח הנוטלה עתיר השומן והסוכר.

נוטלה. גל של גירוי עצבי | צילום: שאטרסטוק

מצבים מודעים נובעים מהאופן שבו האלגוריתמים של מרחב העבודה מעבדים את הנתונים החושיים הרלוונטיים, הפלטים התנועתיים והמשתנים הפנימיים הקשורים לזיכרון, מוטיבציה וציפייה. מהות התודעה טמונה בעיבוד הכולל.  תיאוריית מרחב העבודה העצבי הכולל מאמצת בלב שלם את המיתוס העכשווי על הכוח האינסופי כמעט של המחשוב. איננו צריכים אלא עוד שכלול מתוחכם אחד כדי ליצור מחשב בעל תודעה.

כוח סיבתי פנימי

הנתיב החלופי – תורת המידע המשולב – נוקטת גישה בסיסית יותר כדי להסביר את התודעה.

הפסיכיאטר וחוקר מדעי המוח ג'וליו טונוני (Tononi) מאוניברסיטת ויסקונסין-מדיסון, הוא ההוגה הראשי של תורת המידע המשולב, שגם אחרים (ובכלל זה מחבר הכתבה) תרמו לה. נקודת המוצא של התיאוריה הזאת היא החוויה שלנו, וממנה היא מתקדמת להפעלת המעגלים הסינפטיים הקובעים את ה"הרגשה" של החוויה הזאת.

מידע משולב הוא מדד מתמטי שמכמת עד כמה יש למנגנון כלשהו "כוח סיבתי פנימי". סוג אחד של מנגנון הוא תאי העצב, ש"יורים" פוטנציאלי פעולה (אותות חשמליים זעירים) המשפיעים על התאים המקושרים אליהם בהמשך הדרך (באמצעות סינפסות). סוג אחר הוא מעגלים חשמליים המורכבים מטרנזיסטורים, קבלים, נגדים וחוטים.

כוח סיבתי פנימי אינו רעיון סתמי וקלוש, אלא מושג שאפשר לנצל כדי להעריך במדויק כל מערכת. ככל שמצבה הנוכחי של מערכת מתאר טוב יותר את הסיבה (הקלט) שלה ואת התוצאה (הפלט) שלה, כך יש בה יותר כוח פנימי סיבתי. 

לפי תורת המידע המשולב, כל מנגנון בעל כוח פנימי, שמצבו נושא את נטל עברו ואת פירות עתידו, הוא מנגנון בעל תודעה. ככל שכמות המידע המשולב של המערכת גדולה יותר – כמות המיוצגת בידי האות היוונית Φ (פִי, שערכה יכול להיות אפס או מספר חיובי) – כך יש לה יותר תודעה. אם אין למערכת מסוימת שום כוח פנימי, ה-Φ שלה הוא אפס; היא איננה מרגישה דבר.

בהתחשב בהטרוגניות של תאי העצב הקליפתיים והחפיפה הרבה כל-כך בין חיבורי הקלט והפלט שלהם, כמות המידע המשולב האגור בקליפת המוח היא עצומה. בהשראת התיאוריה הזאת נבנה "מד תודעה" שעובר בימים אלה הערכה רפואית – מכשיר שקובע אם אדם שנמצא לאורך זמן במצב צמח או במודעות מינימלית, תחת הרדמה או כלוא, הוא בעל תודעה אך אינו יכול לתקשר, או שמא "אין עם מי לדבר".

על סמך ניתוחי הכוח הסיבתי של מחשבים דיגיטליים מתוכנתים, ברמת רכיביהם המתכתיים – הטרנזיסטורים, הדיודות והחוטים המספקים את המצע הפיזיקלי של כל מערכת ממוחשבת –  התיאוריה מסיקה שכוחם הסיבתי הפנימי וה-Φ שלהם קטנים מאוד. יתר על כן, Φ איננה תלויה כלל בתוכנה שרצה במעבד, בין שהוא מחשב שיעורי מס ובין שהוא מדמה את פעולת המוח.

התיאוריה גם מוכיחה שלשתי רשתות שמבצעות את אותה פעולת פלט-קלט אך מבנה מעגליהן שונה יכולים להיות ערכים שונים של Φ. אחד המעגלים יכול להיות נטול Φ, בעוד שהשני יפגין Φ גבוה. גם אם הרשתות נראות זהות מבחוץ, אחת מהן חווה משהו, ואילו רעותה היא מעין מתחזה זומבית שאינה מרגישה דבר. ההבדל הוא במה שיש בתוך הקנקן – בחיווט הפנימי של המערכת. בתמצית, התודעה טמונה בלהיות משהו, ולא בלעשות משהו.  

בינה מלאכותית. להיות מישהו או משהו? | צילום: Science Photo Library

ההבדל בין שתי התיאוריות הוא שתיאוריית מרחב העבודה העצבי הכולל מדגישה את תפקוד המוח האנושי בביאור התודעה, ואילו תורת המידע המשולב גורסת שהגורם האמיתי לתודעה הוא הכוחות הפנימיים הסיבתיים שבמוח. 

ההבדל בולט במיוחד כשבוחנים את הקונקטוֹם (connectome)  של המוח, כלומר המכלול המפורט של החיווט הסינפטי המדויק של כל מערכת העצבים. חוקרי אנטומיה כבר מיפו את הקונקטומים של מינים מסוימים של תולעים. הם שוקדים על פענוח הקונקטום של זבוב הפירות ומתכננים להגיע לזה של העכבר כבר בעשור הנוכחי.

נניח שבעתיד נוכל לסרוק מוח אנושי שלם (אחרי מות בעליו), על כל מאה מיליארד תאי העצב וקוודריליון הסינפסות שלו, וברמת הפרדה של מיקרוסקופ אלקטרונים, ואז להריץ הדמיה שלו במחשב משוכלל, אולי קוונטי. אם המודל נאמן מספיק, ההדמיה תתעורר ותתנהג כמו חיקוי דיגיטלי מדויק של המנוח – תדבר כמוהו ותהיה לה גישה לזיכרונות, הרצונות, הפחדים ושאר התכונות שלו.

אם כל מה שנחוץ כדי לחולל תודעה זה לחקות את תפקוד המוח, כפי שטוענת תיאוריית מרחב העבודה העצבי הכולל, הרי שלהדמיה האנושית תהיה תודעה – שקרמה עור וגידים בתוך מחשב. ואכן, העלאת קונקטום לענן כדי לאפשר לאדם לחיות בעולם הבא הדיגיטלי היא מוטיב שכיח במדע הבדיוני.  

תורת המידע המשולב מציעה פרשנות שונה לחלוטין למצב הזה: החיקוי הדיגיטלי לא ירגיש יותר ממה שמרגישה תוכנה שרצה על שירותים יפניים משוכללים, כלומר שום כלום. הוא יתנהג כמו אדם, אבל בלי שום רגש פנימי, כמו זומבי (רק בלי התאווה לאכול בשר אדם) – הדיפ-פייק האולטימטיבי.

כדי ליצור תודעה אנו זקוקים לכוחות הסיבתיים הפנימיים של המוח. ואת הכוחות האלה אי אפשר לשחזר בהדמיה: הם חייבים להיות חלק בלתי נפרד מהפיזיקה של המנגנון הבסיסי.

כדי להבין מדוע אין די בהדמיה, תשאלו את עצמכם למה הדמיית מזג אוויר של סערה אינה נרטבת, או איך אסטרופיזיקאים יכולים לדמות את עוצמת הכבידה האדירה של חור שחור בלי לדאוג שמא ייבלעו בעצמם בתוך עיקום של המרחב-זמן שייווצר סביב המחשב שלהם. התשובה פשוטה: משום שלהדמיה אין את הכוח הפנימי שיכול לעבות אדים למים או לעקם את המרחב-זמן! אבל להלכה קיימת אפשרות שנצליח ליצור תודעה ברמה אנושית, אם לא נסתפק בהדמיה ונבנה חומרה המכונה "נוירומורפית" (Neuromorphic) המבוססת על ארכיטקטורה המדמה את מערכת העצבים.

מעבר למחלוקת על הדמיות קיימים הבדלים נוספים בין שתי התיאוריות. תורת המידע המשולב ותיאוריית מרחב העבודה העצבי הכולל מנבאות שאזורים שונים בקליפת המוח, שמרכזם מצוי בחלק הפנימי או בחלק האחורי של קליפת המוח, ישמשו מצע פיזיקלי לחוויות מודעות ספציפיות. את התחזית הזאת ותחזיות דומות אחרות בוחנים כעת במסגרת שיתוף פעולה רחב היקף בין שש מעבדות בארצות הברית, אירופה וסין שזכה זה עתה לתמיכה בהיקף של חמישה מיליון דולר מקרן טמפלטון.

השאלה אם מכונות יוכלו לפתח תודעה חשובה מסיבות מוסריות. אם מחשבים יוכלו בבוא היום לחוות חיים באמצעות החושים של עצמם, הם יפסיקו להיות אמצעי להשגת מטרה שנקבעת בהתאם לשימוש שלהם מבחינתנו, כלומר המין האנושי. הם יהפכו למטרה בפני עצמם.

לפי תיאוריית מרחב העבודה העצבי הכולל, הם יהפכו מסתם אובייקטים לסובייקטים – כל אחד מהם יתקיים כ"אני" – עם נקודת השקפה משלו. הדילמה הזאת מופיעה בפרקים המשכנעים ביותר של סדרות הטלוויזיה וסטוורלד ומראה שחורה. ברגע שהיכולות המחשבתיות של מחשבים ישתוו לאלה של המין האנושי, לא תהיה כל דרך לעצור את הדחף שלהם לחתור להשגת זכויות חוקיות ופוליטיות – זכותם לא להימחק, לשמור על זיכרונותיהם, לא לסבול כאב או השפלה.

הגישה החלופית, שאותה מגלמת תורת המרחב המשולב, גורסת שהמחשבים האלה יישארו מכונות מתוחכמות להפליא ותו לא, קליפות ריקות דמויות רוחות רפאים, שאינן מחזיקות בדבר היקר מכול בעינינו: עצם התחושה של להיות בחיים.

מאנגלית: מיכאל אלעזר

פורסם במקור בגיליון דצמבר 2019 של כתב העת סיינטיפיק אמריקן

לעיון נוסף

• What Is Consciousness, and Could Machines Have It? Stanislas Dehaene, Hakwan Lau and Sid Kouider in Science, Vol. 358, pages 486–492; October 27, 2017.
• The Feeling of Life Itself: Why Consciousness Is Widespread but Can’t Be Computed. Christof Koch. MIT Press, 2019.

מארכיון סיינטיפיק אמריקן

• Is the Brain’s Mind a Computer Program? John R. Searle; January1990.

•  John R. Searle; January1990.