בינה מלאכותית אנושית יותר

בקיצור

• איך ילדים קטנים יודעים מה שהם יודעים? השאלה הזאת העסיקה במשך שנים רבות פילוסופים ופסיכולוגים – וכעת גם מדעני מחשבים.
• מומחים בתחום הבינה המלאכותית חוקרים את יכולת הסקת המסקנות של פעוטות כדי לפתח דרכים חדשות ללמד מכונות על העולם.
• שתי אסטרטגיות מתחרות של למידת מכונה, המגששות בניסיון לחקות את מה שילדים עושים באופן טבעי, החלו לשנות את פני הבינה המלאכותית כתחום ידע.

אם אתם מבלים זמן רב עם ילדים, אתם בוודאי תוהים איך בני אדם צעירים מסוגלים ללמוד הרבה כל כך, במהירות כה רבה. גם פילוסופים התחבטו בשאלה זו, מאז אפלטון ועד ימינו, אבל הם מעולם לא מצאו תשובה משביעת רצון. אוגי, הנכד שלי בן החמש, כבר למד על צמחים, בעלי חיים ושעונים, וכמובן דינוזאורים וחלליות. הוא גם מסוגל להבין מה אנשים אחרים רוצים, ואיך הם חושבים ומרגישים. הוא מסוגל להשתמש בידע הזה כדי לסווג את הדברים שהוא רואה ושומע וכדי ליצור תחזיות חדשות. למשל, לא מזמן הוא הצהיר שסוג של טיטנוזאור שהתגלה לאחרונה, ומוצג במוזיאון הטבע האמריקני בניו יורק, הוא אוכל עשב – ומכאן שהוא לא באמת כזה מפחיד.

עם זאת, כל מה שמגיע לאוגי מן הסביבה הוא זרם של פוטונים שפוגעים ברשתית שלו, ותנודות באוויר שפוגעות בעור התוף שלו. המחשב העצבי שמאחורי עיניו הכחולות מצליח באופן כלשהו להתחיל מן המידע המוגבל של החושים ולהגיע עד תחזיות בנושא טיטנוזאורים אוכלי עשב. השאלה הנצחית היא: האם מחשבים יכולים לעשות את אותו הדבר?

בחמש־עשרה השנים האחרונות, לערך, מדעני מחשבים ופסיכולוגים ניסו למצוא תשובה. ילדים מפיקים ידע רב מאוד מן הקלט המועט שמגיע ממורים והורים. על אף ההתקדמות העצומה בתחום הבינה המלאכותית, אפילו המחשבים רבי העוצמה ביותר עדיין אינם מסוגלים ללמוד באותה רמה כמו ילדים בני חמש.

על אף ההתפתחויות המהירות בבינה מלאכותית, ילדים לומדים הרבה יותר מהר ויעיל ממחשבים.
(איור: סיימון פריידס)

למדעני המחשבים יידרשו עוד עשרות שנים כדי להבין איך בדיוק עובד המוח של ילדים, וכדי ליצור גרסה דיגיטלית שתהיה מסוגלת לפעול באותה יעילות. בינתיים הם מתחילים לפתח בינה מלאכותית, שמשלבת כמה דברים שאנחנו כן יודעים על האופן שבו בני אדם לומדים.

הצד הזה למעלה

בתום גל ההתלהבות הראשוני, בשנות ה-50 וה-60 של המאה ה-20, נעצר הניסיון ליצור בינה מלאכותית למשך עשרות שנים. עם זאת, בשנים האחרונות הושגה התקדמות מדהימה, בייחוד בתחום של למידת מכונה, והבינה המלאכותית הייתה לאחת מן ההתפתחויות הלוהטות ביותר בתחומי הטכנולוגיה. במקביל צצו נבואות רבות, אוטופיות או אפוקליפטיות, באשר למשמעות של ההישגים האלה. הם הוצגו כהקדמה לחיי נצח או לסוף העולם, פשוטם כמשמעם, והרבה מילים נכתבו על שתי האפשרויות האלה.

אני סבורה שההתקדמות בבינה המלאכותית יוצרת רגשות עזים כאלה בגלל הפחד העמוק שלנו מפני הכמעט־אנושי. הרעיון שמשהו יוכל לגשר על הפער בין האנושי למלאכותי הטריד אותנו מאז ומעולם, מן הגולם של ימי הביניים, דרך המפלצת של פרנקנשטיין, ועד אווה, הרובוטית-פטאל הסקסית מן הסרט "אקס מאכינה".

אך האם מחשבים באמת לומדים טוב כמו בני אדם? באיזו מידה הדיונים הסוערים מורים על שינוי מהפכני, או שהם אינם אלא דיבורים בעלמא? קשה לעקוב אחרי הפרטים המדויקים של האופן שבו מחשבים לומדים לזהות, נניח, חתול, מילה מדוברת או אות יפנית, אך בבחינה מדוקדקת יותר, הרעיונות הבסיסיים של למידת המכונה אינם מסתוריים כפי שנדמה במבט ראשון.

גישה אחת מנסה לפתור את הבעיה בכך שהיא מתחילה באותו זרם פוטונים ותנודות אוויר שאוגי, וכולנו, קולטים. אלה מגיעים למחשב כפיקסלים בתמונה דיגיטלית וכדגימות צלילים מוקלטות. המחשב מנסה לחלץ סדרה של דפוסים בנתונים הדיגיטליים, שיכולים לאתר ולזהות אובייקטים שלמים בעולם. גישה זו, הקרויה "מלמטה למעלה", מקורה ברעיונותיהם של פילוסופים כמו דייוויד יוּם וג'ון סטיוארט מיל, ופסיכולוגים כדוגמת איוואן פבלוב וב' פ' סקינר, בין השאר.

בשנות ה-80, המציאו מדענים דרך מחוכמת ואטרקטיבית ליישם שיטות "מלמטה למעלה" כך שמחשבים יוכלו לחפש דפוסים בעלי משמעות בנתונים. מערכות "קישוריות", או "רשתות נוירונים", לוקחות השראה מן הדרך שבה תאי עצב ממירים את דפוסי האור הנקלטים ברשתית שלנו לייצוגים של העולם סביבנו. רשת נוירונים ממוחשבת מבצעת פעולה דומה: היא משתמשת ביחידות עיבוד מקושרות זו לזו, בדומה לתאים ביולוגיים, כדי להמיר פיקסלים בשכבה אחת של הרשת לייצוגים מופשטים יותר ויותר, כגון אף או פרצוף שלם, באמצעות עיבוד של הנתונים בשכבות יותר ויותר גבוהות.

הרעיון של רשתות נוירונים זכה לעדנה מחודשת לאחרונה, בזכות טכניקה חדשה הקרויה "למידה עמוקה", טכנולוגיה שגוגל, פייסבוק וענקי טכנולוגיה אחרים הפכו למסחרית. העוצמה המתגברת של המחשבים, הצמיחה המעריכית במשאבי המחשוב המתוארת על ידי "חוק מור", ממלאת גם היא תפקיד בהצלחה של המערכות האלה. מגמה נוספת התורמת להתפתחות המהירה היא היווצרותם של אוספי נתונים אדירים. כשיכולות העיבוד משופרות ויש יותר מידע לעבד, המערכות הקישוריות מסוגלות ללמוד באופן הרבה יותר יעיל מכפי שאולי שיערנו בעבר.

בעיות שילד טיפוסי בן חמש מסוגל לפתור בקלות מציבות קושי אפילו למחשבים החזקים ביותר. הבינה המלאכותית זכתה לעדנה מחודשת בשנים האחרונות, כשמחשבים למדו איך ללמוד על העולם באופן דומה לזה שבו ילדים לומדים. המכונה מזהה את האות "A" על סמך מידע חושי גולמי – גישת "מלמטה למעלה" – או על ידי ניחוש המבוסס על ידע קודם בגישת "מלמעלה למטה".
(מקור: המאמר השני בקריאה נוספת; איור: ג'ן כריסטיינסן)

במשך השנים, ההעדפה של קהילת הבינה המלאכותית ללמידת מכונה התנדנדה בין פתרונות "מלמטה למעלה" לבין גישות "מלמעלה למטה" חלופיות. גישות "מלמעלה למטה" ממנפות את מה שהמערכת כבר יודעת לסיוע בלמידה של דברים חדשים. אפלטון, ופילוסופים רציונליסטיים אחרים כגון רנה דקארט, סברו שלמידה מתבצעת "מלמעלה למטה", והדבר השפיע מאוד על הבינה המלאכותית בראשיתה. בעשור הראשון של המאה ה-21 נולדו מחדש גם שיטות כאלה בצורה של מודלים הסתברותיים, או בייסיאניים.

בדומה לצורת העבודה של מדענים, גם מערכות "מלמעלה למטה" מתחילות את הלמידה ביצירה של השערות מופשטות ורחבות לגבי העולם. המערכת חוזה איך ייראו הנתונים אם ההשערות שלה נכונות, ומתקנת אותן בהתאם להתגשמות התחזיות או כישלונן.

ניגריה, ויאגרה וספאם

קל יותר להבין גישות "מלמטה למעלה", אז נתחיל בהן. דמיינו שאתם מנסים לגרום למחשב שלכם להפריד בין הודעות חשובות המגיעות לתיבת הדואר האלקטרוני שלכם לבין ספאם. אתם עשויים להבחין שלרוב הודעות הספאם יש מאפיינים ברורים: רשימה ארוכה של נמענים, כתובת מקור בניגריה או בבולגריה, התייחסויות לפרסים של מיליוני דולרים, או אולי אזכור של ויאגרה. עם זאת, הודעות שימושיות באמת עשויות להיות דומות זו לזו, ואינכם רוצים להחמיץ הודעה על כך שקודמתם בעבודה או שזכיתם בפרס אקדמי.

אם תשוו מספר גדול דיו של הודעות ספאם לסוגי דואר אלקטרוני אחרים, אולי תבחינו בכך שרק בספאם יש שילובים מזהים מסוימים של תכונות: אם ההודעה הגיעה מניגריה וגם מבטיחה פרס של מיליון דולר, היא שקרית. ייתכנו גם דפוסים ברמה וברזולוציה גבוהות יותר, המבדילים בין ספאם ובין הודעות שימושיות: למשל שגיאות כתיב או כתובות IP שאינן מובנות מאליהן. אם תצליחו לזהות את הדפוסים האלה תוכלו לסנן בהצלחה את הספאם בלי לחשוש שמא תחמיצו הודעה אמיתית על כך שהוויאגרה שהזמנתם נשלחה אליכם.

למידת מכונה "מלמטה למעלה" מסוגלת לחלץ את הרמזים הרלוונטיים לביצוע משימות כאלה. לשם כך, רשת הנוירונים צריכה לעבור שלב למידה משל עצמה. היא בוחנת מיליוני דוגמאות ממאגרי נתונים עצומים, כשכל דוגמה כזו מתויגת מראש כספאם או כדואר אלקטרוני לגיטימי. המחשב מחלץ אוסף של מאפיינים מזהים שמפרידים את הספאם מכל השאר.

באופן דומה, רשת הנוירונים עשויה לבחור תמונות באינטרנט עם התוויות "חתול", "בית", "סטגוזאור" ועוד. על ידי חילוץ של מאפיינים משותפים לכל סוג תמונה, כגון הדפוס המבדיל בין כל החתולים לכל הכלבים, הרשת מסוגלת לזהות תמונות חדשות של חתולים, אפילו אם לא נחשפה לתמונות המסוימות האלה קודם לכן.

אחת מן השיטות הפועלת "מלמטה למעלה", הקרויה בשם "למידה לא מפוקחת", מצויה עדיין בחיתוליה אך מסוגלת לזהות דפוסים בנתונים שאין להם שום תוויות. היא פשוט מחפשת צבירים של מאפיינים המזהים אובייקט כלשהו – לדוגמה, אפים ועיניים תמיד מתקשרים לפרצופים, ומבדילים בינם לבין עצים והרים ברקע. זיהוי של אובייקט ברשתות למידה עמוקה מתקדמות כאלה מתבצע באמצעות חלוקת עבודה, שבה מטלת הזיהוי מתחלקת בין שכבות שונות של הרשת.

מאמר בכתב העת נייצ'ר מ-2015 הראה עד כמה רחוק הגיעו שיטות "מלמטה למעלה". חוקרים ב-DeepMind חברה בבעלות גוגל, השתמשו בשילוב של שתי גישות "מלמטה למעלה" – למידה עמוקה ולמידה בעזרת חיזוקים – באופן שאפשר למחשב לשחק בקונסולת המשחקים Atari 2600. בתחילת הדרך לא ידע המחשב דבר על המשחקים, וניחש באקראי מה יהיו המהלכים הטובים ביותר, תוך שהוא מקבל משוב בלתי פוסק על ביצועיו. הלמידה העמוקה סייעה למערכת לזהות את התוואים שעל המסך, והלמידה המחוזקת תגמלה אותה על שבירת שיאי הניקוד הקודמים. לאחר כמה משחקים ספורים הגיע המחשב לרמת הצלחה גבוהה, ובמקרים מסוימים הוא שיחק טוב יותר משחקנים אנושיים מנוסים. עם זאת, במשחקים אחרים, כאלה שבני אדם לומדים באותה קלות, הוא נכשל לגמרי.

היכולת ללמד בינה מלאכותית באמצעות אוספי נתונים גדולים – מיליוני תמונות אינסטגרם, הודעות דואר אלקטרוני או הקלטות שמע – הובילה לפתרונות לבעיות שנראו בעבר קשות להפליא, כגון זיהוי תמונות וזיהוי דיבור. ואף על פי כן, כדאי לזכור שהנכד שלי אינו מתקשה כלל לזהות בעל חיים או להשיב למשהו שנאמר לו, על סמך נתונים ואימונים מוגבלים הרבה יותר. בעיות שאדם בן חמש פותר בקלות הן עדיין מאתגרות מאוד למחשבים, ומסובכות הרבה יותר מאשר ללמוד לשחק שחמט.

מחשבים שלומדים לזהות פרצוף פרוותי משופם נזקקים לעיתים קרובות למיליוני דוגמאות כדי לקטלג אובייקטים שאנחנו מסוגלים לסווגם רק על סמך כמה דוגמאות יחידות. המחשב, אחרי אימון רציני, עשוי להצליח לזהות תמונה של חתול שהוא לא ראה מעולם, אך הדרך שבה הוא עושה זאת שונה למדי מהכללות אנושיות. צורת החשיבה השונה של התוכנה גורמת לשגיאות. תמונות מסוימות של חתולים לא יסווגו ככאלה, ואילו כתמים מטושטשים, שלא יבלבלו אף צופה אנושי, עלולים להיחשב חתולים.

כל הדרך למטה

הגישה השנייה ללמידת מכונה, המשנה את פני הבינה המלאכותית בשנים האחרונות פועלת בכיוון ההפוך: מלמעלה למטה. גישה זו מניחה שאנחנו יכולים לקלוט מידע מופשט מנתונים מוחשיים מכיוון שאנחנו כבר יודעים המון, ובייחוד מפני שהמוח כבר מסוגל להבין מושגים מופשטים בסיסיים. כמו מדענים, אנחנו יכולים להשתמש במושגים האלה כדי לנסח השערות בנוגע לעולם ולחזות איך נתונים (אירועים) אמורים להיראות אם ההשערות האלה נכונות. זוהי פעולה הפוכה לניסיון לחלץ דפוסים מן הנתונים הגולמיים, כפי שנעשה בבינה מלאכותית "מלמטה למעלה".

ההדגמה הטובה ביותר לרעיון הזה היא הסתכלות על מגפת הספאם, מפרספקטיבה של מקרה אמיתי שהייתי מעורבת בו. קיבלתי דואר אלקטרוני מעורך של כתב עת בעל שם מוזר. הוא התייחס באופן ספציפי לאחד מן המאמרים שלי והציע שאכתוב מאמר לכתב העת שלו. בלי ניגריה, בלי ויאגרה, בלי מיליוני דולרים – להודעה הזו לא היה אף אחד מן המאפיינים הנפוצים של ספאם. אך בזכות מה שכבר ידעתי, ומחשבה מופשטת על תהליך הפקת ספאם, הצלחתי להבין שההודעה חשודה.

בתור התחלה, ידעתי שספאמרים מנסים להוציא כסף מאנשים על ידי פנייה לחמדנות האנושית – ואקדמאים יכולים לחמוד פרסום כפי שאנשים מן השורה עשויים לחמוד פרס של מיליון דולר או ביצועים משופרים בחדר המיטות. ידעתי גם שכתבי עת "פתוחים" לגיטימיים החלו לכסות את העלויות שלהם באמצעות חיוב המחברים במקום המנויים. בנוסף, למאמר שלי לא היה כל קשר לשם של כתב העת. בהסתמך על כל המידע הזה העליתי השערה הגיונית, ולפיה ההודעה נועדה לפתות אקדמאים לשלם בעבור "פרסום" של מאמר בכתב עת מזויף. יכולתי להגיע למסקנה הזו על סמך דוגמה אחת בלבד, ויכולתי גם לבדוק אותה על ידי חיפוש מידע על העורך במנוע חיפוש ברשת.

מדען מחשבים היה מכנה את תהליך החשיבה שלי בשם "מודל גנרטיבי", כזה שמסוגל לייצג מושגים מופשטים, כגון חמדנות והולכת שולל. אותו מודל יכול לתאר גם את התהליך המשמש ליצירת השערה: המחשבה שהובילה למסקנה שההודעה עשויה להיות ניסיון הונאה בדואר האלקטרוני. המודל מאפשר לי להסביר איך צורת הספאם הזו פועלת, וגם לדמיין סוגים אחרים של ספאם, ובכללם כאלה שמעולם לא ראיתי או שמעתי עליהם. כשאני מקבלת את ההודעה מכתב העת, המודל מאפשר לי לעבוד מן הסוף להתחלה ולהבין, צעד אחרי צעד, מדוע אין ספק שהיא ספאם.

מודלים גנרטיביים היו חיוניים בגל הראשון של הבינה המלאכותית ושל המדעים הקוגניטיביים בשנות ה-50 וה-60. עם זאת, יש להם גם מגבלות. ראשית, את רוב הדפוסים בנתונים אפשר להסביר, בעיקרון, בעזרת הרבה השערות שונות. במקרה שלי, ייתכן שההודעה הייתה לגיטימית, גם אם זה לא נראה סביר. לכן, מודלים גנרטיביים חייבים לכלול תפיסות של הסתברות, וזו אחת ההתפתחויות החשובות שהתחוללו לאחרונה בתחום. שנית, לעיתים קרובות לא ברור מנין מגיעים המושגים הבסיסיים שמהם מורכבים המודלים. הוגים כדוגמת דקארט או נועם חומסקי טענו שאנחנו נולדים איתם כשהם כבר קבועים במקומם, אבל האם אנחנו באמת באים לעולם עם הידיעה כיצד חמדנות והולכת שולל מובילות להונאות?

מודלים בייסיאניים – דוגמה מצוינת לגישת "מלמעלה למטה" מודרנית – מנסים לתת מענה לשתי השאלות. מודלים אלה, הקרויים על שם הסטטיסטיקאי והפילוסוף בן המאה ה-18 תומס בייס, משלבים מודלים גנרטיביים עם תורת ההסתברות בטכניקה הקרויה "הסקה בייסיאנית". מודל גנרטיבי הסתברותי יכול לומר לנו מה הסיכוי שנראה דפוס מסוים בנתונים אם השערה מסוימת נכונה. אם הודעת הדואר האלקטרוני היא הונאה, סביר להניח שהיא פונה לחמדנות של הקוראים. אך כמובן, הודעה יכולה לפנות לחמדנות גם אם היא לא ספאם. מודל בייסיאני משלב את הידע שכבר יש לנו על השערות פוטנציאליות עם הנתונים שמול העיניים, כדי שנוכל לחשב, בדיוק גבוה, מה הסבירות שההודעה היא לגיטימית או ספאם.

גישת "מלמעלה למטה" זו תואמת יותר את מה שידוע לנו על אופן הלמידה של ילדים מאשר גישת "מלמטה למעלה". לכן, ב-15 השנים האחרונות, עמיתיי ואני השתמשנו במודלים בייסיאניים בעבודתנו בנושא התפתחות ילדים. המעבדות שלנו ושל אחרים השתמשו בטכניקות האלה כדי להבין איך ילדים לומדים קשרי סיבה ותוצאה, לחזות איך ומתי הצעירים יפתחו אמונות חדשות בנוגע לעולם, ומתי הם ישנו את האמונות שכבר יש להם.

מודלים בייסיאניים משמשים גם דרך מצוינת ללמד מכונות ללמוד כמו בני אדם. ג'ושוע ב' טננבאום מן המכון הטכנולוגי של מסצ'וסטס (שאיתו אני עובדת לפעמים), ברנדן מ' לייק מאוניברסיטת ניו יורק ועמיתיהם פרסמו ב- 2015 מחקר בכתב העת סיינס, שבו תכננו מערכת בינה מלאכותית שהייתה מסוגלת לזהות תווים לא מוכרים בכתב יד, פעולה קלה לבני אדם אך קשה במיוחד למחשבים.

חִשבו על כישורי הזיהוי שלכם. אפילו אם מעולם לא ראיתם תו במגילה יפנית, סביר להניח שתוכלו לומר אם הוא זהה או שונה מתו במגילה אחרת. תוכלו גם לצייר אותו, ואפילו לעצב תו יפני מזויף, ולהבין, בנוסף, שהוא שונה מתווים בקוריאנית או ברוסית. זה בדיוק מה שטננבאום וצוותו הצליחו לגרום לתוכנה לעשות.

בגישת "מלמטה למעלה", המחשב מקבל אלפי דוגמאות ונעזר בדפוסים שהוא מוצא בהן כדי לזהות תווים חדשים. לעומת זאת, התוכנית הבייסיאנית העניקה למכונה מודל כללי של ציור תו. לדוגמה, קווים יכולים להימתח לימין או לשמאל. ואחרי שהתוכנה סיימה תו אחד, היא עוברת לבא בתור.

כשהתוכנה ראתה תו מסוים, היא הצליחה להסיק את רצף הקווים הדרושים כדי ליצור אותו, ולאחר מכן יצרה אוסף דומה של קווים בעצמה. היא עשתה זאת באותו אופן שבו אני הסקתי את רצף השלבים שהובילו ליצירת הודעת הספאם שקיבלתי מכתב העת. במקום לשקול אם סביר שההודעה מקורה בהונאת שיווק, המודל של טננבאום ניחש אם סביר שהתו הרצוי מקורו ברצף מסוים של קווים. תוכנית "מלמעלה-למטה" זו עבדה הרבה יותר טוב מאשר למידה עמוקה שהוחלה על אותם נתונים בדיוק, והיא משקפת בנאמנות את הביצועים של בני אדם.

שידוך מושלם

לשתי הגישות המובילות האלה ללמידת מכונה – מלמטה למעלה ומלמעלה למטה – יש יתרונות וחסרונות משלימים. בגישת "מלמטה למעלה" המחשב לא צריך להבין מראש דבר בנושא חתולים, אך הוא כן צריך המון נתונים.

המערכת הבייסיאנית יכולה ללמוד מדוגמאות ספורות, ולהכליל בצורה טובה יותר. עם זאת, גישת "מלמעלה למטה" זו מחייבת עבודת הכנה ניכרת לניסוח של אוסף ההשערות הנכון. כמו כן, מתכננים של מערכות משני הסוגים עשויים להיתקל במכשולים דומים. שניהם פועלים רק על בעיות מצומצמות ומוגדרות היטב, כגון זיהוי תווים כתובים או חתולים, או משחק באטארי.

ילדים אינם צריכים להתמודד עם אילוצים כאלה. פסיכולוגים התפתחותיים גילו שילדים צעירים מצליחים בדרך כלשהי לשלב את היתרונות של שתי הגישות, ולקחת אותן הרבה יותר רחוק. אוגי מסוגל ללמוד מדוגמה או שתיים בלבד כמו מערכת "מלמעלה-למטה", אבל יכול גם באופן כלשהו לחלץ מושגים חדשים מן הנתונים עצמם, כמו מערכת "מלמטה למעלה". המושגים האלה לא היו בידיו מלכתחילה.

אוגי יכול, למעשה, לעשות עוד הרבה יותר. הוא מזהה חתולים מיד, מבדיל בין אותיות, אבל מצליח גם להגיע להיסקים חדשים יצירתיים ומפתיעים, הרבה מעבר לניסיון האישי או לידע הכללי שברשותו. לאחרונה, הוא הסביר שאם מבוגר רוצה לחזור להיות ילד, עליו להימנע מאכילת ירקות בריאים, כי הם גורמים לילדים לגדול ולהפוך למבוגרים. אין לנו כמעט שום מושג איך מתחוללת הסקת מסקנות יצירתית שכזו.

כשאנו שומעים טענות שלפיהן הבינה המלאכותית היא בבחינת סכנה קיומית, עלינו לזכור את הכוחות המסתוריים עדיין של השכל האנושי. בינה מלאכותית ולמידת מכונה עשויות להישמע מפחידות, ובמובנים מסוימים הן אכן מפחידות. אנשי צבא חוקרים דרכים להשתמש במערכות האלה לשליטה בכלי נשק. אבל הטיפשות הטבעית עלולה להזיק הרבה יותר מאשר הבינה המלאכותית, ואנחנו בני האדם נצטרך להיות הרבה יותר חכמים משהיינו בעבר כדי לווסת את הטכנולוגיות החדשות כמו שצריך. חוק מור הוא כוח רב השפעה: אפילו אם ההתקדמות במִחשוב תגיע מהתקדמות כמותית בנתונים ובכוח העיבוד, במקום ממהפכות בהבנה שלנו של המוח, עדיין עשויות להיות לה השלכות אדירות ומעשיות. אף על פי כן, לא צריך לחשוש מגולם טכנולוגי חדש שעומד להגיח לאוויר העולם.