האם אפשר לתאר תמורה בצורה בריאה בעודנו נמצאים ממש בתוכה?

האם אפשר לתאר תמורה בצורה בריאה בעודנו נמצאים ממש בתוכה?

---

חומות של עץ

כשצבאות פרס התקרבו, שלחו האתונאים שליחים אל האורקל בדלפי.

הכוהנת השיבה להם בנבואה אפלה: העיר תיחרב מן היסוד, והישועה תבוא רק מחומות של עץ.

באתונה פרץ ויכוח. אחדים הבינו שמדובר בגדר העץ שהקיפה את האקרופוליס. זו הייתה קריאה סבירה, שהרי זה הדבר הראשון שעולה בדעת אדם השומע “חומת עץ”. המצביא תמיסטוקלס קרא את הדברים אחרת: חומות העץ הן ספינות הצי. הוא שכנע את העם לנטוש את היבשה ולעלות על הסיפונים.

בשנת 480 לפני הספירה, במיצרי סלמיס, פיזר אותו צי עץ זריז את ספינות פרס.

מה שהיה מדויק שם לא היה הנבואה אלא פירושה.

וכך גם היום. יש בידינו מידע, אבל מידע לבדו אינו מורה כיוון. מאותו משפט עצמו נגזרים שני עתידים שונים, ואיננו יודעים בוודאות איזה מהם נכון.

זהו בדיוק מצבנו ביחס לבינה המלאכותית. יש מספרים, יש דוחות, יש תחזיות. מה שחסר הוא הפירוש שיביא אותנו אל הצד הנכון של הקרב.

איננו יכולים למדוד מבפנים

הבעיה הראשונה בהיותנו בתוך מהפכה איננה רגשית אלא בעיה של מדידה. הדג הוא האחרון לגלות את המים, ואנחנו איננו מבחינים בדבר שאנחנו שרויים בתוכו.

בשנת 2025 ערכה קבוצת מחקר בשם METR ניסוי שנראה פשוט. הם נתנו למפתחי קוד פתוח מנוסים משימות אמיתיות במאגרים שהם עצמם מכירים היטב. בחלק מהמשימות הותר להם להשתמש בכלי בינה מלאכותית, ובחלק לא.

התוצאה הייתה זו: המפתחים שהשתמשו בכלים סיימו את העבודה לאט יותר בתשעה עשר אחוזים.

אבל לא זה העיקר. העיקר הוא מה שאותם מפתחים אמרו אחרי הניסוי. בממוצע הם העריכו שהבינה המלאכותית האיצה אותם בעשרים אחוזים.

כלומר הם האטו, אבל הרגישו שהאיצו. בין המדידה לתחושה נפער פער של כארבעים נקודות.

יש לומר ביושר גם את גבולות המחקר: שישה עשר מפתחים, מאתיים ארבעים ושש משימות, וכלים מתחילת 2025. הצוות עצמו רואה בממצא דבר היסטורי ואומר שאינו מייצג את הכלים של היום. וגם אין פירושו “הבינה המלאכותית לא עובדת”.

מה שהוא כן אומר צר יותר ומטריד יותר: כשאתה נמצא בתוך טכנולוגיה, אינך יכול למדוד בתחושתך שלך מה היא עושה לך.

כדאי להחזיק את הממצא הזה ביד, משום שכל שאר הדברים כאן נשענים עליו. כל מי שמדבר על המהפכה מתאר בתחושה דבר שלא מדד. ובכלל זה גם אני, הכותב שורות אלה.

מתן השם תמיד מאחר

הצירוף “המהפכה התעשייתית” לא שימש איש בזמן שמכונות הקיטור מילאו את בתי החרושת. שמה של תקופה הוא תמיד חוכמה שלאחר מעשה. מי שחי בתוכה לא חווה מהפכה אלא צרות והזדמנויות מפוזרות שאינן מתחברות זו לזו. מחירים, הגירה, מחלות, כלכלה חדשה, ערים שמתמלאות אדם.

היסטוריון הכלכלה פול דיוויד הציע ב־1990 השוואה שהפכה למפורסמת: אחרי שהחשמל נכנס לבתי החרושת, נתוני הפריון לא זזו במשך שנים רבות. רק כעבור שלושים או ארבעים שנה הגיע השיפור האמיתי.

הסיבה לא הייתה חולשתו של החשמל. בתי החרושת החליפו את מכונת הקיטור במנוע חשמלי, אבל לא תכננו מחדש את בית החרושת. בסדר הישן היה מנוע גדול אחד, וכל המכונות היו קשורות ברצועות אל צירים שרצו לאורך התקרה. המבנה כולו נבנה סביב מקור הכוח המרכזי הזה. המתנה האמיתית של החשמל הייתה אחרת לגמרי: מנוע קטן ונפרד לכל מכונה. עד שמישהו ראה זאת ובנה את פריסת המפעל מחדש, חלף דור שלם.

כלומר הפריון לא בא מן הטכנולוגיה. הוא בא מארגון מחדש.

ואם מניחים את הדבר הזה לצד הממצא של METR, התמונה מתחדדת. המפתח מכניס כלי חדש לתוך שגרת עבודה ישנה, מרגיש שהוא מהיר יותר, והמספרים אומרים בדיוק את ההפך. בית החרושת שחיבר מנוע חשמלי אל מערכת הצירים והרצועות הישנה חי בדיוק את אותו הדבר.

המהפכה אינה מתרחשת בטכנולוגיה אלא בארגון. והארגון משתנה לאט הרבה יותר מן הטכנולוגיה.

דילמת קולינגרידג’: לתת שם לפני שיהיה מאוחר

הממד השלישי של העניין הוא הצד הפוליטי.

דיוויד קולינגרידג’ תיאר ב־1980 דילמה, והתיאור הזה נשאר מאז המשפט הכן ביותר במדיניות טכנולוגיה.

בשלב מוקדם של טכנולוגיה קל לעצב אותה, אבל אינך יודע מה יהיו השפעותיה. וכשההשפעות מתגלות, אתה כבר יודע במה מדובר, אלא שהטכנולוגיה השתרשה עד כדי כך ששינויה יקר, קשה ואיטי.

הדילמה בניסוח קצר: כשהשינוי קל, הצורך אינו ניתן לחיזוי; וכשהצורך מתברר, השינוי כבר נעשה יקר.

הדילמה הזאת מסבירה בבת אחת את שני המחנות בוויכוח על הבינה המלאכותית.

צד אחד אומר “עוד איננו יודעים, אל נמהר לחוקק”, והוא צודק, כי המידע חסר. הצד השני אומר “נתערב לפני שיהיה מאוחר”, וגם הוא צודק, כי החלון נסגר. שניהם צודקים, ובדיוק משום כך הוויכוח אינו נפתר.

הצעתו של קולינגרידג’ עצמו הייתה צנועה: לקדם חידושים בצעדים קטנים יותר, להימנע מתכנונים שאין מהם דרך חזרה, ולבנות מערכות שמאפשרות לטעות ולתקן.

בשפה של היום: השאלה אינה “האם הבינה המלאכותית טובה או רעה”. השאלה היא אחרת. האם נוכל לבטל בדיעבד את ההחלטה להגדיל אותה בלי גבול?

האדם שבתוך המהפכה

מתחת לשכבת המדידה ולשכבת הפוליטיקה מתרחש דבר שקט הרבה יותר.

המספרים רציניים. לפי סקר של מכון RAND, כאחד משמונה מבני הנוער והצעירים בארצות הברית — כחמישה מיליון וארבע מאות אלף איש — פנה אל צ’טבוט כשהרגיש עצוב, חרד או מוצף. בסקר המשך עלה השיעור לאחד מחמישה, כלומר לשמונה מיליון ומאתיים אלף. שני שלישים מהם לא סיפרו על כך לאיש.

קל לומר על כך “אנשים נופלים בפח של הטכנולוגיה”, וזו אמירה שגויה. הקריאה הנכונה היא אחרת: קרבה מלאכותית ממלאת חלל, והחלל הזה לא נפער בגלל הבינה המלאכותית. תמיכה אנושית נעשתה יקרה ורחוקה מהישג יד.

ובכל זאת משהו חסר, והחסר הזה אינו חיקוי של אמפתיה.

מה שקורה בשיחה עם מטפל הוא שהאדם שמולך מושפע ממך. מה שהוא שומע משנה אותו. השתיקה שלך אומרת לו דבר מה. המודל מקשיב, רושם ומשיב, אבל אינו משתנה מן הדבר שהיה לו עד. השתיקה איננה עבורו נתון.

כאן ההבדל. הבעיה אינה שהמודל אינו טוב דיו, אלא שאיכותו אינה נוגעת לעניין עצמו.

להבחנה הזאת יש שם קלאסי, וזו הבחנתו של מרטין בובר, שכתב את “אני ואתה” ולימים לימד בירושלים. ביחס אני–לז הזולת הוא עצם: משתמשים בו, מודדים אותו. ביחס אני–אתה מתרחשת פגישה. הדבר הקשה שבובר אומר הוא זה: גם אם שני גלי קול זהים לחלוטין זה לזה, האחד הוא פגישה והשני איננו. חוסר היכולת להבחין בין השניים אינו עושה אותם לדבר אחד.

את הסטטיסטיקה של מהפכות קל לנהל. את הסטטיסטיקה של מה שאבד אי אפשר לנהל.

ההבטחה הייתה תמיד פנאי

אנטיפטרוס מתסלוניקי כתב סביב שנת 12 לספירה אפיגרמה על טחנת המים, ובה הוא פונה אל הנשים שסובבו את אבן הריחיים: מעתה תוכלו לישון, זרועותיכן וכתפיכן ינוחו. המים לקחו על עצמם את העבודה. ההבטחה הראשונה של האוטומציה לא הייתה רווח אלא שינה.

תומס קרלייל, במאמרו מ־1829 Signs of the Times, מותח ביקורת על המהפכה התעשייתית, אבל אין הוא רואה את הסכנה העיקרית במיכון העבודה. הוא רואה אותה בכך שקצב המכונה מחלחל אל תוך הנפש האנושית.

ב־24 באפריל 1812, בעיירה וסטהוטון שבלנקשייר, עמדו שתי אחיות בראש ההמון שהצית מפעל אריגה. מרי מוליניו הייתה בת תשע עשרה ולידיה בת חמש עשרה. פרוטוקולי בית המשפט מתארים כיצד ניפצו את החלונות בקרסי פחם והסיתו את הגברים; הבניין נשרף כולו, ועמו הנולים שבתוכו. הסיבה לא הייתה פחד מטכנולוגיה אלא פרנסה שנשמטת מן הידיים. שתיהן זוכו בדין.

ב־1911 הפך פרדריק ווינסלו טיילור, בספרו עקרונות הניהול המדעי, את העבודה האנושית לתהליך שיש למדוד ולייעל.

כשמעמידים את ארבעת אלה זה לצד זה, הדפוס מתגלה. ההבטחה הייתה תמיד פנאי. והזמן שנחסך זרם בכל פעם מחדש אל עבודה נוספת, אל מדידה נוספת, אל מיכון נוסף.

מהפכת הבינה המלאכותית שאנחנו נמצאים בתוכה אינה חורגת מן המעגל הזה. ברור לגמרי שהיא לא תביא לנו הכנסה בסיסית. נעבוד אחרת ונעבוד יותר, או שנעבוד באופן שמפיק תפוקה גדולה בהרבה בעזרת הבינה המלאכותית.

אז איך נראה תיאור בריא

לא אסיים את הדברים בנבואה, משום שהנבואה עצמה היא חלק מן הסיפור הזה. במקומה אשאיר שלוש אמות מידה שאפשר להשתמש בהן מתוך המהפכה.

את המהפכה יש לחפש בארגון ולא בטכנולוגיה. כלי חדש שמונח בתוך סדר ישן אינו משנה דבר, הוא רק גורם לכולם להרגיש עסוקים יותר. מי שרוצה להבין היכן מתרחש השינוי צריך להביט לא בכלי אלא באופן שבו העבודה מחולקת.

אל תסמוך על תחושתך, מדוד. לשם כך קיים הממצא של METR. אנשים עשויים להרגיש שהם מאיצים בזמן שהם מאטים. אין זו טיפשות, אלא העובדה שתחושת הזרימה שכלי חדש מעניק אינה אותו דבר כמו מדידה. המשפט הבטוח ביותר שנאמר על המהפכה הוא בדרך כלל זה שנמדד פחות מכולם, או שאיש לא טרח למדוד אותו.

יש לבחון עד כמה החלטותינו בנוגע לבינה המלאכותית ניתנות לביטול. דילמת קולינגרידג’ אינה נפתרת, אבל אפשר לנהל אותה. השאלה “האם זה טוב או רע” אינה מובילה אותנו לשום מקום זה שנים. השאלה “האם נוכל לחזור מזה, וכמה מהר נבחין בטעות” היא שאלה שיש לה תשובה.

תמיסטוקלס ניצח לא משום שפירש את הנבואה לטובתו, אלא משום שפירש אותה נכון. ההבדל היה זה: הוא הביט לא במשפט שבידיו אלא באפשרות הממשית שבידיו. הגדר של אתונה הייתה חלשה, והצי שלה היה חזק.

המשפטים שבידינו היום מוכנים מראש: חורבן, גאולה, זינוק, איום. כולם נשמעים נכונים, ואף אחד מהם אינו נותן כיוון בפני עצמו.

השאלה שצריך לשאול היא זו: מה באמת יש בידינו, ועל מה אנחנו מוכנים לוותר כבני אדם.

וכשאנחנו שואלים זאת את הבינה המלאכותית עצמה, במצב שבו אנחנו נמצאים, גם היא אינה נותנת תשובה שלמה. גם אין לצפות ממנה לכך, משום שאת התשובה לשאלה הזאת האדם צריך למצוא בעצמו.