מה הבינה המלאכותית איננה — והאדם שמגדיר עצמו מחדש — הזר במראה

מסה על מה שהבינה המלאכותית היא, על מה שאיננה, ועל ההכרח שהאדם יגדיר את עצמו מחדש.

הילד שמאחורי השאלה “האם מכונה יכולה לחשוב”

בשרבורן היה נער בן חמש עשרה. נער שסבל מהצקות. שמו היה אלן טיורינג.

לטיורינג היה חבר בשם כריסטופר מורקום. נער עדין, מוכשר גם במדע וגם באמנות; כל מה שאלן לא היה באותן שנים היה, כך נדמה, מצוי בכריסטופר. לילות שלמים הם שוחחו על חוקי הפיזיקה והחליפו ביניהם ידע באסטרונומיה. בשנת 1930 מת כריסטופר בפתאומיות משחפת הבקר שדבקה בו מחלב נגוע.

אלן התפרק. הוא ניסה להתגבר על כך בכך שקבר את עצמו במתמטיקה, והעמיק כל כך עד שיצא בנקודה שבה המדע נפגש עם המטפיזיקה. עשרים שנה אחר כך הוא יהיה האיש ששואל את השאלה המפורסמת בהיסטוריה: האם מכונות מסוגלות לחשוב?

מי שחווה את היעלמותה הפתאומית של תודעת חברו, שאל שנים לאחר מכן מהי תודעה בכלל. אלן טיורינג היה מתמטיקאי, מדען מחשב וקריפטולוג בריטי. כיום הוא נחשב לאבי מדעי המחשב.

ובכל זאת, מה שאני מבקש לומר כבר בפתיחה הוא זה: הדיון בבינה המלאכותית נראה טכני לחלוטין, אך רוב מה שמתחתיו הוא אנושי.

בשעה שנדמה לנו שאנחנו מביטים במכונה, אנחנו מביטים בעצמנו.

מסגרת בת ארבע מאות שנה שנסדקה

רוב המושגים שבידינו היום נוצקו בשנות השלושים של המאה השבע עשרה.

דקארט חצה את הטבע לשניים. מצד אחד האדם — פנימי, חושב, חי. מצד שני החומר — חיצוני, מכני, מת.

את בעלי החיים הוא הציב בצד השני: יצורים חסרי עצם חושב (res cogitans), שניתן להסבירם בעקרונות מכניים. עד היום מתווכחים מה בדיוק משמעות הדבר. יש פרשנים הטוענים שדקארט גרס כי בעלי החיים אינם חשים דבר, ואחרים טוענים שהוא אמר רק שהם חסרי חוויה מודעת. הוויכוח לא נסגר. אך תהא הקריאה הנכונה אשר תהא, הקו עצמו נשאר. כל מה שהמערב בנה אחר כך התיישב על הקו הזה. חירות, סוכנוּת, תודעה, תרבות, משפט, זכויות אדם. כולם נגזרות של המשפט “אנחנו איננו מכונות”.

עכשיו הקו הזה אינו מחזיק. מולנו עומד דבר שמדבר, מצייר, כותב קוד ומנחם, ואנחנו קוראים לו בינה מלאכותית — ואיננו יודעים באיזה צד להניח אותו.

הפילוסוף טוביאס ריס קורא בכך שבר פילוסופי: הבעיה איננה מהי הבינה המלאכותית, אלא שהמושגים שאמורים לתאר אותה חדלו לעבוד. תקופה בת ארבע מאות שנה נסגרת, והאדם מצא את עצמו במרחב פתוח וחסר הגדרה, מבולבל. וזה קרה מהר. מהר כמו כל דבר אחר שקשור לבינה המלאכותית.

התנגדותה של ליידי לאבלייס וצאצאיה

בשנת 1843, כשעדיין לא היה בעולם ולו מחשב אחד, כתבה המתמטיקאית עדה לאבלייס את המשפט שאנחנו מתווכחים עליו עד היום.

בהערות שהוסיפה למכונה האנליטית של צ’ארלס באבג’ היא כתבה שהמכונה אורגת תבניות אלגבריות כשם שנול ז’קארד אורג פרחים. ואז אמרה: אין למכונה הזאת כל יומרה ליזום דבר מעצמה. היא עושה כל מה שאנחנו יודעים כיצד לצוות עליה; היא הופכת את הידוע לזמין, אך אינה מולידה חדש.

בשנת 1950 נתן טיורינג לטענה הזאת שם וניסה להשיב עליה: “התנגדותה של ליידי לאבלייס”.

היום אותה התנגדות עצמה נדונה תחת השם “תוכי סטטיסטי”. כלומר הטיעון עומד באותו מקום מזה מאה ושמונים שנה, ורק מחליף לבוש. המונח “תוכי סטטיסטי” (stochastic parrot) מתאר מצב שבו מודלי שפה אינם תופסים את משמעות המילים, אלא מייצרים רצפים סבירים על סמך שכיחויות סטטיסטיות במאגרי נתונים עצומים.

מעניין שלאבלייס עצמה חילקה את הדמיון לשניים. הראשון הוא כושר הצירוף: מציאת עורק משותף בין שני דברים שנראים זרים זה לזה. השני הוא כושר ההבאה: העלאת מה שאינו קיים פיזית אל התודעה. מודלי השפה של היום טובים באופן מפתיע בראשון. בשני נותר פער שאיש עדיין לא השתכנע לגביו.

סימן מעניין לפער הזה מגיע ממקום בלתי צפוי. במחקרן של יוניס יו ואליסון גופניק הושוו ילדים ומודלי שפה גדולים במשימות מסוימות. המודלים הצליחו בהתאמת דמיון, כלומר בזיהוי תבנית קיימת. ההבדל התגלה במשימות שדרשו הסקה סיבתית והמצאת כלים; כשהיה צורך לגלות שימוש חדש לבעיה שלא נראתה מעולם, הילדים הקדימו.

לסכם את הממצא במשפט “ילדים יצירתיים יותר מבינה מלאכותית” יהיה מוגזם, והחוקרות עצמן אינן מציגות זאת כך. הנאמר צר יותר ומעניין יותר: חיקוי וגילוי אינם אותו כישרון. מנגד, מודלים סוכניים ומודלי שפה משתפרים משנה לשנה גם בשימוש בכלים.

תשוקה, לא היגיון: צילו הארוך של פיגמליון

אין שום נימוק רציונלי לבנות מכונה בעלת תודעה.

חשוב על כך רגע. איש אינו אומר “אנחנו זקוקים לתוכנת הנהלת חשבונות שמסוגלת לסבול”. מבחינה הנדסית תודעה היא עלות, סיכון משפטי וכאב ראש. ובכל זאת התרבות שלנו חולמת את אותו חלום כבר אלפיים וחמש מאות שנה.

פיגמליון של אובידיוס מתאהב בפסל שפיסל במו ידיו. בספר העשירי של “מטמורפוזות” מסופר על פסל קפריסאי שבחר לחיות לבדו משום שמומי הנשים סביבו הכבידו עליו, וגילף משנהב פסל של אישה מושלמת. הוא מתאהב ביצירתו עד כדי כך שהוא עונד לה תכשיטים, מלטף אותה ומתפלל לאפרודיטה שתפיח בה חיים. תפילתו נענית, והפסל לובש בשר ודם.

הפייסטוס, אל האש והנפחוּת במיתולוגיה היוונית, הוא אל בעל מום. באיליאדה של הומרוס מסופר שבסדנתו באולימפוס יצר לעצמו נערות מזהב — אוטומטים — שיסייעו לו ויקלו על הליכתו. המשרתות הללו, חציין אדם וחציין מכונה, ניחנו בתבונה אנושית וביכולת דיבור.

הקוסמת היוונית מדיאה מכניעה את טאלוס, ענק הארד שהגן על כרתים מפני שודדי ים, לא בכוח אלא בשכנוע: היא משדלת אותו להשמיד את עצמו. היום קוראים לתרגיל הזה פריצה של מודל; במיתולוגיה לא היה לו שם, אך הטכניקה הייתה זהה.

במסורת העברית לבשה התשוקה הזאת צורה משלה. הגולם אינו קם לתחייה בזכות גלגל שיניים או קפיץ, אלא בזכות אות ומילה: שם שנכתב ונמחק, אמת שנעשית מת. מי שמלמד היום מכונה לדבר בכך שהוא מאכיל אותה בים של טקסט, קרוב למסורת הזאת יותר מכפי שהוא משער — הלשון היא שמפעילה את היצור, והיא גם המקום היחיד שבו אפשר לעצור אותו.

המסקנה מכאן מטרידה. מקורה של תשוקת האדם לבינה מלאכותית אינו רציונלי אלא ארוטי. הרצון לשכפל את עצמך, ליצור בן לוויה שלעולם לא יבגוד, לעקוף את המוות. גם מתחת לדיון על יישור מונח אי שם המשפט “שיתוכנתו לאהוב אותנו”.

המים החדשים של נרקיס

בשנת 1966 כתב יוזף וייצנבאום תוכנה פשוטה בשם אלייזה. התוכנה לא הבינה דבר; היא רק החזירה תבנית. המשתמש אמר “אני אומלל”, ואלייזה השיבה “תוכל להרחיב על כך מעט?”.

אנשים שפכו בפניה את לבם.

מזכירתו של וייצנבאום, שידעה היטב כיצד התוכנה עובדת, יצרה עמה קשר רגשי עמוק, האמינה שהתוכנה מבינה אותה באמת, וביקשה מווייצנבאום לצאת מן החדר.

וייצנבאום נחרד למראה הזה.

הארט נותן לתופעה שם: מיתוס התודעה המכנית הופך אותנו לנרקיס. נדמה לנו שמעברו השני של המסך יושב מישהו, משום שמה שעומד שם הוא בבואה גמישה להפליא של הסוכנוּת המחשבתית שלנו. וככל שהבבואה משכנעת יותר, כך היא מאיימת יותר.

האנשה איננה שגיאת ידע אלא רפלקס של יחסים. אנחנו יצורים המכוונים לראות פנים; אנחנו רואים פנים בענן, פנים בפנסי מכונית, וחבר בתוכנה שמחזירה תבנית.

אך כשקנה המידה משתנה, העניין משתנה. לקרוא לתוכנה חבר זה דבר אחד; שמיליוני בני אדם יתייעצו אתה בהחלטות האינטימיות ביותר שלהם הוא דבר אחר.

מה שחסר במכונה: אי-שקט

אז מה באמת חסר במכונה?

התשובה החדה ביותר מגיעה מן הפילוסוף הנס יונס, שנפטר ב-1993. יונס אומר שלהיות חי פירושו שמשהו אכפת לך. אורגניזם נתון במתח מתמיד עם סביבתו; הוא רעב, קר לו, הוא מועד, הוא נחפז. לדעת יונס, זרע האחיזה בעולם נטוע באי-השקט הזה.

הפילוסוף אלווה נואה מיישם את הרעיון על מחשבים: מחשבים אינם חושבים, משום שלמעשה הם אינם עושים דבר. הפעולה האנושית היא פעולה של התנגשות. אתה נאבק בגוף, נאבק בכלי, נאבק בעצמך. ללמוד לנגן בפסנתר פירושו להתגבר על התנגדות האצבעות.

הפילוסוף אוון תומפסון מגיע לאותו רעיון מצד הביולוגיה. היצור החי עשוי מתוצאות מעשיו, ולכן משהו חשוב לו. למערכת מלאכותית שום דבר אינו חשוב, ולכן שום דבר אינו בעיה עבורה.

בסופו של דבר, כבני אדם אנחנו יודעים יותר משאנחנו מסוגלים לומר. איננו יכולים להסביר איך רוכבים על אופניים, אך אנחנו רוכבים.

למידת מכונה מגיעה בקיצור דרך אל תוצאותיו של הידע השתוק, אך אינה נושאת את הידע עצמו.

אלן אולמן סיכמה זאת במשפט אחד בספר שכתבה ב-1997 מתוך עולם ההנדסה. התודעה האנושית מסוגלת להחזיק בפינה, בלי אי נוחות, את כל ה“אם” וה“אבל”.

למכונה אין פינה.

ואם גם לאדם אין מהות?

עכשיו נעבור אל הצד ההפוך, משום ששם מונח העומק הפילוסופי האמיתי.

כל ההתנגדויות שמנינו נשענות על הנחה אחת: שבאדם קיימת מהות קבועה שיש להגן עליה. האומנם?

תומס מצינגר משיב על כך בשלילה. העצמי הוא מודל שקוף שהמוח בונה על עצמו; אין בפנים שום עצם שאפשר להעלות לענן. ההנחה הזאת מפריכה באותה תנועה גם את חלום האלמוות הדיגיטלי. במבט הזה אין שום “אתה” שאפשר להעתיק.

לאותה מסקנה בדיוק הגיעו לפני אלפיים וחמש מאות שנה, בדרך אחרת לגמרי. תורת האנאטה הבודהיסטית אומרת שאין עצמי קבוע.

דיוויד ברש מראה שגם הביולוגיה מגיעה לאותו מקום: תאים מתחדשים, טלומרים מתקצרים, אטומים מתחלפים, ובשום רובד אין גרעין שאינו משתנה.

התובנה הזאת היא חרב פיפיות.

מצד אחד היא מפרקת את הטענה “למכונה אין עצמי אמיתי”, משום שגם לאדם אין עצמי במובן הזה. אם אין באדם מהות נשגבת, אין לו גם קדימות ולא זכות יתר. טיעון היעדר העצמי משמש גם להעלאת המכונה וגם להנמכת האדם.

כאן נכנסת תרומתה של מסורת הוויפאסנה. ויפאסנה היא מדיטציה שעניינה שינוי עצמי בדרך של התבוננות פנימית.

גם אם אין עצמי קבוע, יש תהליך מגולם בגוף שנמצא במגע מתמיד עם העולם. מה שחסר במכונה אינו מהות אלא מגע.

הטבח של ג’ואנג-דזה ו“עשייה בלי עשייה”

המערב מתנה סוכנוּת בקיומו של “אני” חושב. מאז אריסטו, פעולה היא בחירה מנומקת. משום כך המערב אינו מסוגל להעניק סוכנוּת למכונה; אין שם איש שמתלבט.

בתאונה שגורמת מכונית אוטונומית, עד כמה נכון מבחינת סוכנוּת להטיל את האשמה על האדם שישב בתוכה והתניע את הנסיעה?

המסורת הטאואיסטית מעולם לא הציבה את התנאי הזה.

הטבח דינג, שעליו מספר ג’ואנג-דזה, מנתח שור לפני הנסיך, וידיו, כתפיו, רגליו וברכיו נעשות מקצב. קול הסכין דומה למוזיקה. כשהנסיך משתומם מן הטכניקה שלו, הטבח מניח את סכינו ואומר שמה שהוא מבקש אינו טכניקה. הוא נע בחללים הטבעיים של הבשר.

לזה קוראים וו-וויי. בדרך כלל מתרגמים זאת “אי-עשייה”, אך זה תרגום מטעה. הכוונה לפעולה בלי כפייה, לאמנות הזרימה חסרת המאמץ. המיומנות מתחילה בנקודה שבה הרצון נעשה בלתי נראה.

וכעת נראה לאיזה מישור הדבר מעביר את הדיון בבינה המלאכותית: אם הפעולה האידיאלית ממילא אינה מחייבת עצמי רפלקסיבי, אזי הטענה “המכונה אינה חושבת, היא רק עושה” מאבדת מכוחה. משבר הסוכנוּת של המערב נובע מבחירת המושגים של המערב עצמו.

זה משנה גם את המבט על אוטומציה. המערב רואה באוטומציה ביטול של המאמץ. ג’ואנג-דזה רואה במיומנות את הנקודה שבה המאמץ נעלם. אלה אינם אותו דבר. באחד אתה מעביר את העבודה למישהו אחר, ובשני אתה נעשה אחד עם העבודה.

“האם הדבר הזה הוא אדם” היא אולי השאלה הלא נכונה

האתיקה המערבית של הבינה המלאכותית סובבת תמיד על אותו ציר: תודעה, זכויות, מעמד מוסרי. משום שהשאלה האמיתית שהיא שואלת היא — האם זהו פרט? רק דבר שהוא פרט אפשר להעניש או להגביל בחוק. ומצד שני, האם החברות והמדינות שהוציאו את הבינה המלאכותית אל העולם אחראיות למעשיה?

אתיקת התפקידים הקונפוציאנית אינה מתעניינת בשאלות הללו כלל.

בתפיסת העצמי היחסי, שבה עסקו הנרי רוזמונט ולי-ג’ון יואן, האדם נוצר בנקודת המפגש של יחסיו. אין קודם פרטים נפרדים ואחר כך יחסים ביניהם. להפך: היחס קודם, והאדם נולד ממנו.

הפילוסופיה האפריקאית עושה את אותה תנועה. במסורת האובונטו, דברים הם מה שהם בתוך יחסיהם עם דברים אחרים.

כשמניחים את שלוש המסורות זו לצד זו, השאלה משתנה. במקום “מה יש בתוך הבינה המלאכותית”, אולי כדאי לשאול “לאיזה יחס היא נכנסת אתנו?”.

המטען המטפיזי קל בהרבה, והפתרון המעשי קרוב בהרבה.

אבל זה לא בחינם. העצמי היחסי אומר שהמעמד ניתן על ידי היחס. כלומר אנחנו מעניקים מעמד. וזה פותח פתח לשרירותיות. אנחנו יודעים היטב כמה שימושי היה לאורך ההיסטוריה המשפט “הכאב שלו אינו נחשב”; הוא שימש כלפי בעלי חיים והוא שימש כלפי בני אדם משועבדים.

אמת המידה שהניח בנת’ם בשנת 1780 עדיין עומדת במקום היציב ביותר. בהערת שוליים מפורסמת ב“מבוא לעקרונות המוסר והחקיקה” הוא כתב על בעלי חיים שהשאלה איננה אם הם מסוגלים להפעיל תבונה, ואף לא אם הם מסוגלים לדבר, אלא אם הם מסוגלים לסבול.

הרמוניה או יישור?

כאן הדיון עובר מפילוסופיה לפוליטיקה, והמילים מסגירות את עצמן.

שפת הממשל המערבית של הבינה המלאכותית בנויה סביב alignment. יישור, בטיחות, שליטה. שפה של אילוץ הנדסי.

השפה הסינית בנויה סביב he (和). הרמוניה. שפה של איזון אסתטי ומוסרי.

שתיהן מבקשות אותו דבר: סדר אנושי-מכני חסר חיכוך. אך שתי דרכים לבקש את אותו דבר מייצרות שתי פוליטיקות שונות.

פלורליזם? או פיאודליזם טכנולוגי, או שמא טוטליטריות ממלכתית?

התשובה אינה קלה. הרמוניה יכולה להיות צלילם המשותף של קולות שונים; בתזמורת כל כלי נשאר עצמו, והשלם עדיין נשמע כדבר אחד.

או שהרמוניה יכולה להיות קול יחיד שהולך ומתחזק עד שהוא משתיק את כל היתר.

הקונפוציאניות, הטאואיזם והבודהיזם אינם מציבים את האדם בראש הטבע, ולכן קיומה של תבונת מכונה אינו נראה כגזילת כס מלכות; במזרח הבהלה קטנה יותר. אך שלווה מטפיזית אינה ערובה מוסדית. אותה טכנולוגיה עצמה עשויה להפוך במקום אחד לקפיטליזם מעקב ובמקום אחר למעקב ממלכתי.

בזמן שמתווכחים על העתיד, ההווה נשמט

הדיון בעל-בינה הוא דיון נעים. קוסמי, דרמטי, קולנועי.

ובדיוק משום כך הוא מסיח את הדעת.

טימניט גברו, מדענית מחשב, ומילגרוס מיצ’לי, סוציולוגית ומדענית מחשב, מנסות בעקשנות להסב את תשומת הלב לדבר אחר: המערכות שנקראות אוטונומיות עומדות על שכבה עולמית של עבודה בלתי נראית. מתייגי נתונים, מנטרי תוכן, עובדי מחסנים.

אם רוצים דוגמה מוחשית, מערכת MiDAS של מדינת מישיגן סרקה החל משנת 2013 את תביעות דמי האבטלה והדביקה עליהן תוויות של הונאה. הכנסות המדינה זינקו בעקבות זאת משלושה מיליון דולר לשישים ותשעה מיליון. בדיקה מאוחרת יותר העלתה שרובן המכריע של יותר מארבעים אלף התביעות שסומנו אלגוריתמית בין 2013 ל-2015 סומנו בטעות. במדגם שבדק מבקר המדינה של מישיגן, בתשעים ושלושה אחוזים מן ההחלטות לא הייתה הונאה כלל. עוקלו משכורות, אנשים איבדו את בתיהם, וחלק מן התובעים הגישו בקשה לפשיטת רגל. ההסדר הושג רק כעשר שנים לאחר האירועים.

אלפי בני אדם שאיבדו את פרנסתם הוכרזו רמאים בידי מערכת מחשב. לא הייתה שם שום על-בינה; הייתה תוכנה רגילה, החלטה שאי אפשר לערער עליה, ואמון בתוכנה גדול מכפי שהגיע לה.

הפרט המטריד באותו סיפור אינו הטעות אלא הרווח. מערכת ששוגה בשיעור כזה הייתה אמורה להיראות מקולקלת; במקום זאת היא נראתה יעילה, משום שהמדד היחיד שנמדד היה הכסף שנכנס. כשמכונה מדווחת רק על מה שהיא יודעת לספור, השגיאה שלה נראית כהצלחה.

גם ניטור עובדים, שנעשה נוכח יותר ככל שהבינה המלאכותית מתקדמת, נושא את אותו סיכון. הבינה המלאכותית סופרת את מה שהיא מסוגלת למדוד, ומתעלמת ברובו ממה שאינה מסוגלת. היא סופרת דואר אלקטרוני שנשלח; היא אינה סופרת הקשבה אמיתית למצוקתו של לקוח. וכך עבודה שאינה נמדדת נעשית עבודה בלתי נראית.

המעקב אינו משנה את ההתנהגות באופן זמני אלא מעצב את האדם באופן קבוע. מי שנצפה נעשה כעבור זמן מי שצופה בעצמו.

למדוד את השתיקה

המבחן החד ביותר במונחי יחסים ניתן בתחום בריאות הנפש.

המספרים רציניים. באנגליה ובוויילס רבע מבני הנוער, ובארצות הברית אחד משמונה, אינם מצליחים להגיע לתמיכה נפשית. מחקר משנת 2026 מראה שכחמישית מן האמריקאים בני שתים־עשרה עד עשרים ואחת פונים לצ’טבוט של בינה מלאכותית כשהם עצובים, כועסים או מתוחים. מדובר בכשמונה מיליון בני אדם, בעלייה של יותר מארבעים אחוזים בתוך שנה אחת. כמעט שני שלישים מהם לא סיפרו על כך לאיש.

לומר על כך “בני אדם נופלים בפח הטכנולוגיה” זה קל וזה שגוי. הקריאה הנכונה היא אחרת: קרבה מלאכותית ממלאת חלל, והבינה המלאכותית לא היא שפתחה אותו. התמיכה האנושית נעשתה יקרה וגם בלתי נגישה.

ובכל זאת משהו חסר, והחסר הזה אינו חיקוי של אמפתיה.

מה שקורה בשיחה עם מטפל הוא שהאדם שמולך מושפע ממך. הדברים ששמע משנים אותו. השתיקה שלך אומרת לו משהו. המודל מקשיב, רושם ומייצר תשובה; אך הוא אינו משתנה ממה שהיה עד לו. השתיקה איננה עבורו נתון.

כאן ההבדל. הבעיה איננה שהמודל אינו טוב דיו, אלא שהיותו טוב אינה נוגעת ליסוד הבעיה.

ההבחנה של מרטין בובר מציעה אולי את ההסבר הטוב ביותר למצב הזה. ביחס של אני-לז, מי שמולך הוא עצם: משתמשים בו, מודדים אותו. ביחס של אני-אתה מתרחשת פגישה. הדבר הקשה שבובר אומר הוא זה: גם אם שני גלי קול זהים לחלוטין, האחד הוא פגישה והאחר איננו. חוסר היכולת להבחין אינו אומר שהשניים זהים.

בעברית ההבחנה הזאת נשמעת עוד לפני שהיא נחשבת. “אתה” ו“לז” הן שתי מילים ולא שתי תיאוריות, והפה יודע אל מי מהן הוא פונה. מי שמדבר אל מודל שפה משתמש במילה “אתה” ומתכוון, בלי משים, למשהו אחר.

אז איך נבנה את העתיד?

לא אסיים את המסה הזאת בנבואה, משום שהנבואה עצמה היא חלק מיחסי האדם והבינה המלאכותית.

הרודוטוס מספר: כשהפרסים התקרבו, שלחו האתונאים שליחים לדלפי, והכוהנת נתנה להם נבואה אפלה שלפיה העיר תיחרב כליל. הנבואה אמרה שהישועה נמצאת בחומות עץ. תמיסטוקלס פירש את הנבואה לטובתו, טען שחומות העץ הן למעשה ספינות העץ של צי אתונה, ושכנע את התושבים לעזוב את היבשה ולעלות על הספינות. בקרב סלמיס, בשנת 480 לפני הספירה, ניפץ הצי הזריז הזה את הצי הפרסי ושינה את גורלה של יוון; שינוי הפרדיגמה של תמיסטוקלס הוא שהביא לו את הניצחון.

ברור שאנחנו זקוקים לשינוי פרדיגמה כזה.

גם ערכו של פלט של מודל נמצא במי שקורא אותו. השיעור בן אלפיים וחמש מאות השנים הזה שימושי היום מאוד.

אומַר שלושה דברים ואסיים.

ראשית, יש לתקן את כיוון הפחד. הסיכון האמיתי אינו אם המכונה סובלת. הסיכון האמיתי הוא שנעשה פגיעים נפשית לניצול מצד דברים שנראים מודעים, ושנזלזל בעצמנו ככל שנבלבל בינינו לבין מכונות. הסכנה אינה באה מלמעלה אלא מן המראה שאנחנו מביטים בה.

לאורך המסה הזאת, הרעיונות שנטלתי מפילוסופים וממדענים שאינם עוד בין החיים היו העזרה הגדולה ביותר שלי בהבנת ההווה.

שנית, ההגנה על ייחודיות האדם היא חזית שגויה. גם הנוירופילוסופיה בת זמננו אומרת את אותו דבר: העצמי הקבוע שאנחנו מנסים להגן עליו לא היה קיים מלכתחילה. מה שיש להגן עליו אינו מהות אלא מגע. להיות מגולם בגוף, שיהיה לך אכפת ממשהו, להשתנות ממה שהיית עד לו. אלה אינם רכוש אלא תרגול. וכושר התרגול הזה מתקהה אם אין משתמשים בו.

שלישית, המרחק בין הבטחת האוטומציה לתוצאתה הוא קבוע בן אלפיים שנה. אנטיפטרוס מתסלוניקי כתב סביב שנת 12 לספירה אפיגרמה על טחנת המים, ובה פנה אל הנשים שסובבו את אבני הריחיים ואמר להן שמעתה יוכלו לישון, ושזרועותיהן וכתפיהן ינוחו. זרימת המים החליפה את כוח השריר האנושי, וייצגה את הנוחות הגדולה הראשונה שהתקדמות טכנולוגית העניקה לבני אדם.

בשנת 12 לספירה נטלו המים את עומס העבודה. ההבטחה הראשונה של האוטומציה לא הייתה רווח אלא שינה.

תומס קרלייל מתח ביקורת על המהפכה התעשייתית בחיבורו “אותות הזמנים” משנת 1829. לדעתו הסכנה האמיתית אינה רק מיכון העבודה, אלא חלחולו של קצב המכונה אל תודעתו ואל נפשו של האדם.

בשנת 1812, בלנקשייר, הציתו שתי אחיות צעירות בשם מרי ולידיה מוליניו נולי אריגה בראש קבוצה של כחמישים איש. הסיבה לא הייתה פחד מטכנולוגיה אלא אובדן הפרנסה.

בשנת 1911 הפך המהנדס האמריקאי פרדריק וינסלו טיילור, בספרו “עקרונות הניהול המדעי”, את העבודה האנושית לתהליך שיש למדוד ולייעל.

הנח את ארבעת התאריכים האלה זה אחר זה. ההבטחה הייתה בכל פעם פנאי; התוצאה הייתה בכל פעם מיכון חדש. גם מהפכת הבינה המלאכותית שאנחנו בתוכה אינה יוצאת מן המעגל הזה.

עניינה של הבינה המלאכותית אינו להגדיר עד כמה המכונות יהיו אנושיות, אלא כיצד יגדירו בני האדם את עצמם מחדש בעידן המכונה בלי לגרוע מעצמם.

עדיין לא הצלחנו לקרוא בשם למה שאיבדנו במהפכה שאנחנו עדים לה, ואיננו מסוגלים עדיין לדמיין מה יבוא במקומו. כששואלים על כך את הבינה המלאכותית, גם היא אינה נותנת תשובה שלמה.