בינה מלאכותית שפועלת, אחריות משפטית וחלקו של האדם

על יכולתה של הבינה המלאכותית לפעול, על המשמעות המשפטית של המעשים שהיא מחוללת, ועל חלקו של האדם במשוואה הזאת…

שאלה משפטית שנשאלה בשנת 1546

בשנת 1546 נרשמה בשיחות השולחן של מרטין לותר תעודה קטנה. מסופר בה על תיק משפטי.

חמורו של טוחן בורח מן החצר ויורד אל גדת הנהר. כדי לשתות מים הוא פוסע לתוך סירת דיג שאיש לא קשר. הזרם אוחז בסירה, והחמור נסחף איתה.

הטוחן איבד את החמור. הדייג איבד את הסירה.

הטוחן טוען: הדייג הזניח את קשירת הסירה. הדייג טוען: הטוחן הזניח את שמירת החמור בבית.

באמצע הטקסט עומדת שאלה בלטינית: Nunc sequitur quid sit juris? ומה אומר הדין?

החמור לקח את הסירה, או הסירה לקחה את החמור?

פסק דינו של לותר מחזיק שתי מילים: ambo peccaverunt. שניהם אשמים.

הפסקה הזאת נכתבה לפני חמש מאות שנה, והיא עדיין יושבת בלב הבעיה המשפטית הקשה ביותר שמונחת לפנינו היום. התנועה שיצרה את הנזק התחילה מעצמה, בנקודה שבה נפגשו שתי הזנחות. אין כאן איש בעל כוונה רעה. אין כאן גם מי שפתח בפעולה במלוא מובן המילה. יש רק דבר אחד שלא נקשר, ודבר אחר שהשתחרר.

נדמה שכל דיני הבינה המלאכותית נכנסים לתמונה הזאת.

יש מושג ששמו פער האחריות

בשנת 2004 כתב הוגה בשם אנדריאס מתיאס מאמר שאיש לא התעניין בו במיוחד באותה עת, ונתן שם למושג: פער האחריות.

הטענה שלו פשוטה ומטרידה. במערכות לומדות, היצרן או המשתמש אינם יכולים לחזות את התנהגותה העתידית של המכונה — לא מבחינה מעשית, אלא מבחינה עקרונית. ולהיות אחראי מבחינה מוסרית לדבר שאינך יכול לחזות אינו הוגן. ומכאן: יש נזק, אבל אין איש שאפשר להטיל עליו אחריות בצורה הוגנת.

עשרים שנה אחר כך המשפט הזה חדל להיות תרגיל אקדמי. בינה מלאכותית דוחה היום בקשות אשראי, מגייסת עובדים, מאבחנת וממליצה על טיפול, מסובבת את ההגה במכונית שאנחנו נוסעים בה, וכורתת חוזה ברכישה שאנחנו מבצעים.

ובכל אירוע נזק נאמרים אותם שלושה משפטים, זה אחר זה.

היצרן: אנחנו בנינו את המודל, אבל אתם בחרתם כיצד להשתמש בו. המשתמש: אנחנו רק סמכנו על המערכת. המערכת: המערכת אינה אומרת דבר, כי היא אינה מדברת. מדברים עליה.

עכשיו הגיע הזמן לשאול את השאלה האמיתית. האם הפער הזה הוא פער מטפיזי של ממש, או שמא עמימות שימושית מאוד.

התשובה של הכתוב כאן היא השנייה. וההוכחה לתשובה הזאת מונחת בתוך ההיסטוריה של המשפט עצמו.

פתרון המשפט הרומי: פועל בלי אישיות משפטית

המשפט נתקל בבעיה של יצור שאינו אדם ובכל זאת פועל מעצמו הרבה לפני הבינה המלאכותית. לפני אלפיים שנה הוא חי בתוך הבעיה הזאת.

במשפט הרומי העבד לא היה אדם. מבחינה משפטית הוא היה נכס. קונים אותו ומוכרים אותו, והוא עצמו קונה ומוכר בשם אדונו, כורת חוזים, יוצר חובות ומנהל עסק. כלומר יצור שאין לו אישיות משפטית ביצע פעולות שהולידו תוצאות משפטיות.

אני מניח שגם לך, לפני תחילת הקריאה, לא נראה סביר במיוחד להתיך באותו כור את הבינה המלאכותית ואת מושג העבדות.

רומא לא פתרה את הסתירה הזאת במטפיזיקה. היא פתרה אותה במנגנון.

מה שכונה שם peculium היה מסת נכסים נפרדת שהעבד ניהל בפועל. העבד עשה את עסקיו בתוך הכיס ההוא. כשנוצר נזק, אחריותו של האדון הוגבלה ככלל לגודלו של אותו כיס. כלומר האחריות לא הוטלה כולה על האדון, וגם לא הושארה תלויה באוויר. היא נקשרה לקרן.

משפטנים חוזרים לדבר על כך היום. מחקר שהתפרסם בכתב עת משפטי של קיימברידג’ מציע לפנות ישירות אל המשפט הרומי בשאלת הפער בדין וחשבון בבינה מלאכותית. גם הצעתו של אוגו פגאלו בדבר “פקוליום דיגיטלי” באה מאותו עורק: אם אתה משחרר לשוק מערכת אוטונומית, עליך להצביע גם על מסת נכסים נפרדת שניתנה כבטוחה בשמה.

הלקח שעולה מכאן אלגנטי, ובאותה מידה גם מטריד.

האלגנטי הוא זה: מעמדו של הפועל אינו מתגלה, הוא מוקצה. המשפט הרומי לא שאל אם לעבד יש רצון, כי לא היה לו צורך לשאול. מה שהמשפט צריך אינו רצון אלא כתובת.

והמטריד הוא זה: הפתרון הזה פותח בתוך אחד המוסדות המתועבים בתולדות האנושות.

להשוות כלי לעבד יש מחיר מוסרי. ההשוואה אינה מעלה את הכלי בדרגה, היא מנרמלת את מה שנעשה לבני אדם. מה שיש לקחת מכאן אינו המוסד עצמו אלא הטכניקה שלו: המשפט יכול לקשור נזק שנגרם בידי פועל חסר אישיות, בלי להכריז על אותו פועל כאדם.

לאותה טכניקה יש היום שמות אחרים. אישיות משפטית של תאגיד. אחריות המעביד למעשי העובד. אחריות מוחלטת בפעילות מסוכנת. כל אלה מושגים משפטיים שנבנו סביב אותה מטרה. אם יש נזק, יש לקשור אותו לכיס מסוים בלי לבדוק את רצונו של איש.

מה עושים בתי המשפט: שלושה תיקים, דפוס אחד

הבינה המלאכותית חדשה מאוד בחיינו. משום כך אולי כדאי להניח לתיאוריה ולהביט בפסיקה של השנתיים האחרונות. שכן בתי המשפט כבר חדלו לשאול את השאלה שהפילוסופים עדיין מתווכחים עליה.

בפברואר 2024, בקנדה, אדם בשם ג’ייק מופאט מבקש לרכוש כרטיס טיסה באתר של אייר קנדה, לאחר שסבתו נפטרה. הוא שואל את צ’טבוט האתר אם יוכל לקבל הנחת אבל. עוזר השיחה של החברה מוסר לו שאפשר לבקש את ההנחה גם בדיעבד. זה אינו נכון. מדיניותה האמיתית של החברה שונה.

בבית המשפט טוענת החברה טענה מעניינת: הבוט הוא ישות נפרדת, והוא עצמו אחראי להצהרותיו.

בית המשפט דוחה את הטענה. הבוט הוא חלק מאתר החברה, והחברה אחראית לכל מידע שבאתר שלה, בין שהוא מגיע מעמוד סטטי ובין שהוא מגיע מחלון שיחה. הפיצוי קטן וסמלי, כשש מאות וחמישים דולר קנדי. אבל העיקרון גדול: אתה האחראי גם למה שיוצא מפיו של המבנה הארגוני שלך.

באוגוסט 2025, בפלורידה, מכונית טסלה שהטייס האוטומטי שלה פעיל אינה עוצרת בצומת, פוגעת ברכב חונה, אדם אחד נהרג ואדם אחד נפצע קשה. הנהג מודה שתשומת לבו הוסחה באותו רגע מפני שהטלפון נפל לו.

הפעם בית המשפט מחלק את האשם: הנהג 67 אחוז, היצרן 33 אחוז. סך הפיצויים עולה על מאתיים וארבעים מיליון דולר, ורובו פיצויים עונשיים. החברה מערערת על ההכרעה; ההליך נמשך ועדיין לא הסתיים.

שים לב, בית המשפט לא שאל אם הטייס האוטומטי הוא פועל בעל רצון. הוא חילק את האשם באחוזים. בדוגמה הזאת בדיוק חזר אלינו ambo peccaverunt של לותר, בלבוש דיגיטלי, חמש מאות שנה אחר כך.

הדוגמה השלישית שלנו אינה פסק דין אלא התחייבות חוזית. מרצדס הודיעה כי היא נוטלת על עצמה את האחריות המשפטית לאירועים המתרחשים בתוך מעטפת ההפעלה המוגדרת של המערכת שלה, Drive Pilot — כבישים מהירים מסוימים, מהירות מסוימת, תנאי מזג אוויר מסוימים.

מה שקורה כאן ברור לגמרי: האחריות הונחה לא כתגלית אלא כהתחייבות. היצרן נטל על עצמו את מעמד הפועל בתוך מעטפת מוגדרת.

שלושה אירועים, דפוס אחד. המשפט אינו שואל אם לדבר הזה יש רצון. הוא שואל: מי היה בעמדה שיכלה למנוע, ומי יצא מזה נשכר או ניזוק.

הפער אינו נסגר, משום שאין רצון לסגור אותו

כאן מתחיל הצד הפוליטי של העניין, והתמונה אינה יפה.

באיחוד האירופי הייתה מונחת שנים הצעה: הדירקטיבה בדבר אחריות בבינה מלאכותית. היא הביאה שני דברים.

הראשון, חזקת קשר סיבתי בנסיבות מסוימות. כלומר הניזוק לא יידרש להוכיח מה בדיוק התרחש בתוך הקופסה, ונטל ההוכחה הנגדי יוכל לעבור אל היצרן.

השני, חובת גילוי ראיות במערכות בסיכון גבוה. בית המשפט יוכל לדרוש מן החברה את הרישומים.

שני הסעיפים האלה כיוונו היישר אל לב פער האחריות. שכן שמו האמיתי של הפער הוא לרוב אי אפשרות ההוכחה. לניזוק אין את המודל, אין את נתוני האימון, אין את הרישומים ואין מומחה, ולכן גם ההוכחה אינה אפשרית עבורו.

בפברואר 2025 הודיעה הנציבות על ההחלטה למשוך את ההצעה, ומשיכת ההצעה הפכה רשמית במהלך אותה שנה. הנימוק שניתן היה היעדר הסכמה בין בעלי העניין והדרישה לפישוט בזירה הדיגיטלית.

עכשיו קרא את שני המשפטים האלה זה אחר זה.

מתיאס, 2004: במערכות לומדות, ייחוס אחריות בצורה הוגנת קשה מבחינה מבנית. בריסל, 2025: כללי ההוכחה שנועדו להקל על הקושי הזה נמשכו בשל הדרישה לפישוט בזירה הדיגיטלית.

הראשון הוא קביעה פילוסופית. השני הוא בחירה פוליטית. וכששניהם מתערבבים זה בזה, נוצר דבר שימושי מאוד: פטור שנראה כמו חוק טבע.

פער האחריות אינו תגלית. הוא דלת שהושארה פתוחה. וכמו כל דלת פתוחה, יש מי שייכנס דרכה ויפיק מכך תועלת לעצמו.

חלקו של האדם, מצב ראשון: הגרסה החדשה של “קיבלתי פקודה”

עכשיו אני מגיע אל הצד האנושי של המשוואה, כי שם נמצא העיקר.

נפנה אל משפט פשעי המלחמה הראשון בהיסטוריה. במלחמת האזרחים האמריקנית, במחנה שהוקם בארבעה עשר החודשים האחרונים של הלחימה, הוחזקו כ־45,000 שבויים מצבא האיחוד, וכ־13,000 מהם מתו מתת־תזונה, ממחלות ומתנאים קשים.

מיד עם תום המלחמה נעצר מפקד המחנה, סרן קונפדרטי יליד שווייץ בשם הנרי וירץ. במשפט כלא אנדרסונוויל, בשנת 1865, הייתה הגנתו בתמצית זו:

— קיבלתי פקודה.

הדוקטרינה שקבע אותו הליך עומדת גם היום. האדם שופט בתוכו את הפקודה שהוא מציית לה, ולכן, אם הפקודה פוגעת באנושיותו עמוק דיו, הוא רשאי לסרב. והמשפט שהוטח בנאשם היה: מי שממונה עליך מבחינה צבאית אינו ממונה עליך מבחינה מוסרית.

במשפט הישראלי קיבל הרעיון הזה מבחן מעשי. בית הדין הצבאי בפרשת כפר קאסם קבע שיש פקודות שאי־חוקיותן אינה עניין לפרשנות משפטית דקה. היא ניכרת לעין, ובלשון פסק הדין מתנוסס מעליה דגל שחור. משמעות הדבר היא שחובת הזיהוי אינה מוטלת על המומחה אלא על מי שעומד בנקודת הביצוע. שם בדיוק נעצרת ההגנה של “קיבלתי פקודה”.

הגרסה של ימינו מדברת אחרת: המערכת המליצה כך. הציון היה נמוך. המודל סימן.

והפתרון לכך כבר מוכן: נציב אדם בתוך הלולאה. המכונה תציע את ההחלטה, האדם ייתן את האישור.

זה נשמע טוב. כשמביטים בנתונים זה נשמע פחות טוב.

במערכת דמי האבטלה במישיגן התברר בדיעבד שרוב מוחלט של הסימונים שביצע האלגוריתם היה שגוי. אבל באותה תקופה עצמה, גם שיעור הטעות של מקבלי ההחלטות האנושיים שעשו את אותה עבודה לא היה נמוך. כלומר פיקוח אנושי אינו יכול לשמש כשלעצמו פתרון בטיחות.

הסיבה פסיכולוגית ומוכרת. אם מערכת מציגה לך ציון ביטחון של שמונים ותשעה אחוז, ההתנגדות לה דורשת לא רק זמן אלא גם אומץ. האישור אינו עולה דבר, ההתנגדות יקרה למדי. הפקיד שמאשר את המערכת מקודם; הפקיד שעוצר אותה נדרש לתת הסברים.

וכאן חוזרת אותה נקודה: דגל שחור אפשר לראות רק כשמותר להביט, וכשיש זמן להביט.

האדם שבלולאה אינו יכול להתמקם כגורם בטיחות אם אין לו סמכות אמיתית וזמן אמיתי. הוא רק סופג. כשהנזק מתרחש, האשמה נעצרת שם ואינה עולה גבוה יותר.

צריך לומר זאת במפורש: עבור ארגון שאינו נוטל אחריות, הפתרון האידיאלי הוא שההחלטה תהיה במערכת והאשמה תהיה באדם.

חלקו של האדם, מצב שני: הפער אינו ריק

כשאומרים פער אחריות, עולה בדמיון משהו כמו חלל ריק. מקום שאין בו איש.

יש שם אנשים. הם פשוט אינם נראים בתוך החלל הגדול.

המערכות שמכנים אותן אוטונומיות נשענות על שכבת עבודה גלובלית שמתייגת נתונים, מנהלת בקרת תוכן ומנקה פלטים. השכר בעבודות האלה נמוך, הנראות שלהן אפסית, וההגנה המשפטית עליהן חלשה.

את הפרט החד ביותר מספר נהג משלוחים. מערכת המעקב בודקת את חגורת הבטיחות, והמכסה היומית מענישה על עצירה. הנהגים קושרים את החגורה מאחורי הגב. המערכת רושמת שהחגורה חגורה, האדם נוהג בלי חגורה.

הסצנה הקטנה הזאת היא תמצית של מבנה שלם. למעלה יש מדידה, המדידה נראית תקינה, הרישום נקי. למטה יש סיכון, והסיכון אינו מועבר לאיש. הוא פשוט זורם מטה.

פרשת קצבאות הילדים בהולנד חשובה דווקא משום שהיא היוצא מן הכלל. מערכת ביקורת אוטומטית האשימה אלפי משפחות בהונאה שלא בצדק, והעניין הגיע ב־2021 עד להתפטרותה של הממשלה כולה. זו אחת הדוגמאות הנדירות שבהן נזק אלגוריתמי הוליד דין וחשבון עד לפסגה.

הנדירות שלה מלמדת מהו הכלל. כלומר, בפער האחריות אין מצב שאיש אינו עומד בקו האש. פשוט אפשר לקבל כאשם את החלש מכולם.

תשובת המזרח: הפעולה מעולם לא הייתה של אדם אחד

המשפט המערבי בנוי על ייחוד האחריות לאדם אחד. הוא מוצא פועל, מודד את רצונו, קובע את אשמתו.

הבינה המלאכותית מקשה על המנגנון הזה, משום שאין כאן פועל יחיד.

בהגות הסינית הקלאסית זו מעולם לא הייתה בעיה, משום ששם הפעולה הייתה משותפת מלכתחילה.

חשוב על רכיבה על סוס. זו אינה פעולתו של הרוכב ואינה פעולתו של הסוס. השטח, האילוף, הרתמה, המספוא, מזג האוויר. כולם משתתפים בפעולה. בטקסטים הסיניים הקלאסיים כך מתוארת הפעולה: לא התנגשות של רצון יחיד בעולם, אלא מרקם שנוצר במפגש של דברים רבים.

אתיקת התפקידים הקונפוציאנית ממשיכה מאותה נקודה. האדם נוצר בצומת של יחסים, והאחריות אינה דבקה ברצון האישי אלא בתפקיד. אחריותו של רופא נובעת מכך שהוא רופא, לא מכוונתו באותו רגע.

כשמתרגמים זאת להיום מתקבל הדבר הבא. במקום השאלה אם המודל הוא פועל בעל רצון, באה השאלה מי נטל על עצמו את התפקיד. מי הציע את ההמלצה, מי הפיץ אותה, מי מכר, מי השתמש, מי הופקד על הבקרה. אם יש תפקיד יש אחריות, ואין צורך למדוד רצון.

מכאן עולה שאלה מעשית באופן בלתי צפוי, דווקא בעניין נזק שנגרם בידי מכונה. כשמערכת גורמת נזק, מהו סופו של התהליך. עונש, תיקון, שיפור, או סגירה?

אין דבר כזה סליחה למודל. אבל יש דבר כזה טיהור שמה של חברה, ולרוב המכסה נסגר על העניין במשפט “עדכנו את המודל השגוי”.

---

שאלת קנה המידה: “הפשע הפורה” של הובס

יש להוסיף עוד דבר אחד, כי זה מה שמבדיל נזק של בינה מלאכותית מנזק רגיל.

הפילוסוף תומאס הובס, בספרו לוויתן, עשה הבחנה כשמדד את חומרתם של פשעים. מעשה שפוגע רק בהווה ומעשה שפוגע גם בעתיד בכוח הדוגמה אינם שווים במשקלם. לראשון הוא קרא עקר, לשני פורה. הפשע הפורה מתרבה ופוגע באנשים רבים.

הובס אומר גם שמעמדו של העושה משנה את משקל המעשה. אותו מעשה עצמו, כשהוא נעשה בידי בעל סמכות, חמור יותר מן המעשה של אדם מן השורה.

שתי אמות המידה האלה ישימות היום לדיני הבינה המלאכותית.

ההטיה של אדם אחד נשארת בחדר אחד. ההטיה של מודל חוזרת על עצמה במיליוני החלטות, ובכל חזרה היא מכוונת לאותו כיוון. המודל הוא, מעצם הגדרתו, מכונת הכוונה פורה. בטוב וברע כאחד.

ההיסטוריון האנגלי הנודע אדוארד גיבון, בהערכתו את יוסטיניאנוס ביצירת המופת שלו דברי ימי שקיעתה ונפילתה של האימפריה הרומית, מציין את הדבר הבא: הרומאים נמחצו בעת ובעונה אחת גם על ידי ריבוי חוקיהם וגם על ידי רצונם השרירותי של אדוניהם.

כלומר אינפלציה של כללים ושרירות אינן תרופה זו לזו. השתיים חיות יחד בנוחות רבה. מסמכי הציות, כללי האתיקה ודוחות השקיפות של ימינו עצומים במספר העמודים; היכולת המעשית שבידי הניזוק עודנה קטנה.

אז מה עושים

הטענה של הכתוב כאן נכנסת למשפט אחד: מעמדו של הפועל אינו דבר שיש לגלות, אלא דבר שיש להקצות. וכשאין מקצים אותו, הוא נופל מאליו על החוליה החלשה ביותר.

אפשר לבנות ארבעה פתרונות.

1. השאלה אם הדבר הזה הוא פועל בעל רצון נותרה בלי מענה אלפיים שנה, ולא תיענה גם בעשור הקרוב. השאלה שאפשר לענות עליה היא זו: מי היה בעמדה שיכלה למנוע, מי הרוויח, מי נשא בנזק. כל הפתרונות המוצלחים של המשפט נבנו סביב השאלה הזאת. מן הפקוליום של העבד ועד אחריות המעביד, מן האישיות המשפטית של התאגיד ועד לחלוקה של 67 ו־33 אחוז שקבע חבר המושבעים בתיק טסלה.

2. הצג בטוחה עבור הדבר שאתה משחרר לפעולה עצמאית, ויכולה להיות זו גם זרימת עבודה של סוכנים ממוחשבים. לכיס של רומא יכולים להיות היום שמות אחרים: ביטוח חובה, קרן ייעודית, ערבות בעלת תקרה ידועה, או שם אחר לגמרי. העיקרון צריך להישאר זהה: אם אתה משחרר למים סירה שאינה קשורה, צריך להיות ידוע מראש מי ישלם כשהיא תיסחף. זה אינו עוצר חדשנות, זה מתמחר אי־ודאות. ייתכן אפילו שחברות הביטוח וביטוח המשנה יבנו מכאן ענף כלכלי משלהן.

3. האדם שבלולאה אינו יכול להיות אחראי אם אינו מוסמך. פקיד שהתנגדות עלולה לעלות לו בקידום אינו יכול להיות מבקר או מכריע אחרון. פיקוח אמיתי דורש שלושה דברים: סמכות לעקוף את המערכת, זמן לעשות זאת, והגנה על מי שעקף. בלי אלה, האדם אינו בלולאה. הוא רק פגוש.

4. אין להתייחס אל הפער כאל חוק טבע. אם ניתן לכללי ההוכחה, לחובת שמירת הרישומים ולגילוי הראיות להתבטל, בכוונה או מתוך חוסר ידיעה, פער האחריות יתרחב.

בתיק החמור והסירה של מרטין לותר שני הצדדים צדקו, ובאותה נשימה שניהם היו אשמים. פסק דין שניתן ליד שולחן לפני חמש מאות שנה אמר שבאירוע שבו איש אינו אשם לגמרי, איש גם אינו חף מפשע לגמרי.

הסכנה של ימינו הפוכה לחלוטין. היא נעוצה בכך שהרבה יותר קל להגיע למסקנה שאיש אינו אשם מאשר לקבוע את האשם.

אם גם החמור וגם הסירה אינם קשורים, הנהר יעשה את שלו. ואל לנו לומר שאין טעם לכעוס על הנהר.