責任空隙：人工智慧、法律，與人的份額

關於人工智慧的行為主體性、由它引發的行為在法律上的歸屬，以及在這道方程式裡人所佔的份額……

一五四六年提出的一個法律問題

一五四六年，馬丁·路德的桌邊談話裡留下一則紀錄。談的是一樁案子。

一個磨坊主的驢子從院子裡跑掉，走到河邊。牠想喝水，一腳踏進一艘沒有繫好的漁船。船被水流帶走，連同驢子一起漂遠。

磨坊主失去了驢子。漁夫失去了船。

磨坊主說：漁夫疏於把船繫好。漁夫說：磨坊主疏於把驢子留在家裡。

文本中間立著一句拉丁文的問話：Nunc sequitur quid sit juris? 那麼，法律怎麼說？

是驢子帶走了船，還是船帶走了驢子？

路德的判斷只有兩個詞：ambo peccaverunt。兩造都有過。

這段話寫於五百年前，卻仍然站在我們今天最棘手的法律問題的正中央。造成損害的那個動作，是在兩份疏忽相遇的地方自己開始的。沒有懷著惡意的人。也沒有真正發動這個行為的人。只有一件沒被繫住的東西，和另一件掙脫出來的東西。

人工智慧法律的全部，似乎都裝得進這幅圖裡。

有一個概念叫責任空隙

二○○四年，一位名叫安德烈亞斯·馬蒂亞斯的思想者寫了一篇當時沒什麼人在意的論文，並且替一個概念命了名：責任空隙。

他的論證簡單而令人不安。在會學習的系統裡，製造者或使用者原則上無法預見機器未來的行為。而讓一個人為自己無法預見的事承擔道德責任，並不公平。於是就出現了這樣的局面：損害在那裡，但沒有任何人可以被公平地究責。

二十年後，這句話不再是學院裡的思想練習。人工智慧今天在拒絕貸款、在篩選求職者、在做診斷並建議治療、在我們坐的車上轉動方向盤、在我們的每一筆購買裡成立契約。

而每一次損害發生，同樣的三句話會依序出現。

製造者：模型是我們做的，但怎麼用是你們選的。 使用者：我們只是信任了系統。 系統：系統什麼也不說，因為系統不說話，只被談論。

現在該問真正的問題了。這個空隙是一個真實的形上學空缺，還是一種非常好用的模糊？

本文的答案是後者。而這個答案的證據，就躺在法律自己的歷史裡。

羅馬法的解法：不是主體，卻在行動

法律第一次遇到「不是人、卻能自己行動」的存在，並不是因為人工智慧。兩千年前，它就活在這個問題裡面。

羅馬法裡，奴隸不是人。法律上他是物。他被買、被賣，同時又以主人的名義買進、賣出、締約、產生債務、經營生意。也就是說：一個沒有法律人格的存在，做出了產生法律效果的行為。

把人工智慧和奴隸放進同一個熔爐裡談，聽起來大概並不舒服。

羅馬沒有用形上學解這個矛盾。它用機制解。

他們稱為 peculium 的東西，是奴隸實際掌管的一筆獨立財產。奴隸在那個錢袋裡做生意。損害發生時，主人的責任原則上以那個錢袋的大小為限。責任既沒有整個壓到主人身上，也沒有被留在半空中。它被繫到了一筆資金上。

今天的法律人重新在談這件事。劍橋的法學期刊上有一項研究，直接建議從羅馬法去找人工智慧問責空隙的解法。烏戈·帕加洛提出的「數位 peculium」也來自同一條血脈：如果你要把一個自主系統推向市場，你就得同時指出一筆為它擔保的獨立財產。

從這裡得到的教訓既優雅，也令人不安。

優雅的部分是：行為主體性不是被發現的，是被分配的。 羅馬法沒有問「奴隸有沒有意志」，因為它不需要問。法律需要的不是一個意志，而是一個對象。

令人不安的部分是：這個解法是在人類歷史上最醜惡的制度之一裡面長出來的。

把一件工具比作奴隸，是有道德代價的；這個比喻不會抬高工具，只會讓曾經加諸於人的事看起來正常。要從這裡拿走的不是制度本身，而是技術：法律可以在不宣告某個行動者為人的前提下，仍然把它造成的損害繫住。

同樣的技術今天有別的名字。公司法人格。僱用人對受僱人行為的責任。危險活動的無過失責任。它們都是繞著同一個目的設計出來的法律概念。只要有損害，就必須在不去追問任何人意志的情況下，把損害繫到某一個口袋上。

法院在做什麼：三個案子，一種模式

人工智慧在我們生活裡還很新。所以放下理論，看看最近兩年的判決，或許更有教益。因為法院早就不再問哲學家至今仍在爭論的那個問題。

二○二四年二月，加拿大一位名叫傑克·莫法特的男子因為祖母過世，想在加拿大航空的網站上訂機票。他向網站上的聊天機器人詢問能不能拿到喪親折扣。加航的聊天助理告訴他，喪親折扣事後也可以申請。這是錯的；公司真正的政策並非如此。

公司在法庭上做了一個有意思的抗辯：機器人是一個獨立的存在，要為自己的陳述負責。

法院駁回了這個抗辯。機器人是公司自己網站的一部分；公司要為自己網站上的全部資訊負責，不論那則資訊來自一個靜態頁面，還是來自一個對話視窗。賠償金額小而象徵，大約六百五十加幣。但原則很大：從你自己的組織嘴裡說出來的話，責任也在你。

二○二五年八月，佛羅里達，一輛開著 Autopilot 的特斯拉在一個路口沒有停下，撞上停放的車輛，一人死亡，一人重傷。駕駛承認自己當時因為手機掉落而分心。

這一次，法院把過失切開：駕駛百分之六十七，製造者百分之三十三。賠償總額超過兩億四千萬美元，其中大部分是懲罰性賠償。公司已提起上訴；程序仍在進行，尚未終局。

請注意，法院並沒有問「Autopilot 是不是行為主體」。它把過失換算成了百分比。 就在這個例子裡，路德的 ambo peccaverunt 以數位的樣貌，在五百年後回到我們的生活。

第三個例子不是判決，而是契約。Mercedes 宣布，在其 Drive Pilot 系統所界定的運作範圍內——特定的高速公路、特定的速度、特定的天候——所發生的事故，法律責任由公司承擔。

這裡發生的事非常清楚：責任不是被發現的，而是以承諾的方式被放置的。製造者在一個明確的信封裡承擔了行為主體性。

三件事，一種模式。法律問的不是：這個東西（人工智慧）有沒有意志。 它問的是：誰處在能夠阻止的位置上，以及誰從中獲利、誰承受了損失？

空隙沒有合上，因為沒有人想合上它

從這裡開始是事情的政治面，而畫面並不好看。

歐盟手上多年來有一份草案：人工智慧責任指令。它帶來兩件事。

第一，在特定條件下的因果推定——也就是說，受害者不必證明盒子裡究竟發生了什麼；反證的負擔可以轉移到製造者身上。

第二，高風險系統的證據揭露義務——法院可以要求公司交出紀錄。

這兩條瞄準的正是責任空隙的心臟。因為空隙真正的名字，多半是「舉證的不可能」。受害者手上沒有模型、沒有訓練資料、沒有紀錄、沒有專家，因此也就無從證明。

執委會在二○二五年二月宣布撤回該草案；撤回於年內正式生效。理由是利害關係人之間無法達成共識，以及數位領域的簡化需求。

現在把這兩句話前後放著讀。

馬蒂亞斯，二○○四：在會學習的系統裡，公平地歸屬責任在結構上是困難的。 布魯塞爾，二○二五：能夠減輕這個困難的舉證規則，因為數位領域的簡化需求而被撤回。

第一句是哲學判斷。第二句是政治選擇。而當這兩者被混在一起，就會出現一個非常好用的東西：一種看起來像自然法則的豁免。

責任空隙不是一項發現。它是一扇被留著沒關的門。 而像每一扇敞開的門一樣，有人會從那裡走進去，替自己取得好處。

人的份額，第一種：「我奉命行事」的新版本

現在我要走到方程式的人這一邊，因為真正的問題在那裡。

先看歷史上第一樁戰爭罪審判。美國內戰期間，在戰爭最後十四個月開設的一座營地裡，大約四萬五千名聯邦（北軍）士兵被關押，約一萬三千人因營養不良、疾病與惡劣條件而喪生。戰爭結束後不久，營地的指揮官、瑞士裔的邦聯上尉亨利·維爾茨被捕；在一八六五年的安德森維爾監獄案中，他的辯詞概括起來只有一句：

——我是奉命行事。

那場審判確立的原則今天依然站著。人對自己所服從的命令會做出內在的判斷；因此，如果一道命令對他的人性冒犯得夠深，他是可以不服從的。而法庭對被告說出的那句話是：軍事上的上級，不是道德上的上級。

今天的人工智慧版本則是這樣說話的：系統這樣建議的。分數太低。模型標記了。

針對這一點，現成的解法也早就有了：在迴圈裡放一個人。讓機器提議，讓人核可。

聽起來不錯。看了數據之後，聽起來就沒那麼好。

密西根州的失業給付系統後來被發現，演算法標記的申請案中，絕大多數是錯的。但同一時期，做同樣工作的人類決策者，錯誤率也不低。也就是說，「人的審查」本身無法構成一道安全解法。

原因既是心理的，也很熟悉。如果一個系統對你顯示百分之八十九的信心分數，反對它需要的不只是時間，還有勇氣。按下同意是免費的，提出異議則相當昂貴。確認系統的職員會升遷，攔下系統的職員得寫報告解釋。

迴圈裡的人，如果沒有真實的權限和真實的時間，就不能被當成一道安全機制。他只是一個吸收體。損害發生時，過錯停在他那裡，不再往上走。

這件事必須說白：對一個不打算承擔責任的組織來說，最理想的安排就是決定在系統、過錯在人。

人的份額，第二種：空隙其實不空

一講到責任空隙，腦中浮現的幾乎是外太空的真空。一個沒有人的地方。

那裡有人，只是在那片巨大的真空裡，他們不幸看不見。

所謂自主的系統，站在一層全球性的勞動之上：標註資料的人、做內容審核的人、清理輸出的人。這些工作報酬低、能見度為零、法律保護薄弱。

最刺眼的細節，出自一位送貨司機。監控系統檢查安全帶，配額卻懲罰停頓。於是司機們把安全帶從背後扣上。系統紀錄顯示安全帶已繫，人卻在沒繫安全帶的情況下開車。上有政策，下有對策——只是這一次，對策的風險由最下面的人自己扛。

這個小場景，是一整座結構的縮影。上面有量測，量測看起來是對的，紀錄乾淨。下面有風險，而風險並沒有被移交給誰，它只是往下流。

荷蘭的兒童津貼案之所以重要，正因為它是這幅圖的例外。自動稽核系統無端指控數千個家庭詐領補助，事件一路走到二○二一年政府總辭。這是演算法造成的損害少數幾次被追究到最頂層的例子。

它之所以罕見，恰恰顯示了常規是什麼。 《禮記》裡那句「刑不上大夫」講的是另一個時代的秩序，但它描述的方向今天依然成立：處罰很少往上走。所以在責任空隙裡，砲口前面並不是沒有人。被當成有罪的，往往是最沒有力量的那一個。

東方的回答：行動從來就不是一個人的事

西方法律建立在把責任單一化之上。它找出一個行為主體，量他的意志，認定他的過失。

人工智慧讓這套機制吃力，因為那裡並沒有單一的行為主體。

在古典中國思想裡，這從來不成問題，因為在那裡，行動一開始就是共同的。

想想騎馬。這既不是騎者的行為，也不是馬的行為。地形、訓練、鞍轡、草料、天氣，全都參與在那個行為裡。古典中國的文本這樣描述行動：不是單一意志撞上世界，而是許多條件相遇時形成的一種火候。

儒家的角色倫理從同一個地方往下走。人形成於各種關係的交會處；責任也不黏在個人的意志上，而是黏在角色上。一位醫者的責任來自他是醫者，而不是來自他此刻的心念。

孔子那句「名不正，則言不順」常被讀成對用詞的講究，其實它更接近一套責任的技術：名分先定住，做什麼、對誰做、由誰承擔，才有地方可掛。《論語》裡「君君，臣臣，父父，子子」說的是同一件事的另一面——每個位置各自有它必須履行的內容；不履行，那個位置就空了。而空掉的位置不會消失，它只是把重量丟給旁邊的人。

把這個翻譯到今天，得到的是：不問「模型是不是行為主體」，而問「這個角色是誰承擔的」。誰提出了建議，誰散布了它，誰把它賣出去，誰使用了它，誰的職責是監督它。有角色就有責任；不必去量意志。

這對機器造成的損害，意外地產生了一個很實際的問題。當一個系統造成損害，這個過程的終點是什麼。是處罰、是修復、是改正，還是關停？

沒有「原諒一個模型」這回事。但確實有「洗白一家公司」這回事，而它多半就用一句「我們已經更新了有問題的模型」蓋了過去。

---

規模問題：霍布斯的「多產之罪」

還得再加一件事，因為這正是把人工智慧的損害和一般損害分開來的東西。

哲學家托馬斯·霍布斯在《利維坦》裡衡量罪行輕重時做了一個區分。只傷害今天的行為，和透過示範連未來也一併傷害的行為，份量並不相同。 前者他稱為不結實的，後者稱為多產的。多產之罪會繁殖，會傷到很多人。

霍布斯還說，行為人的位置會改變行為的份量。 一個有權者做的同一件事，比一個普通人做的更重。

這兩個尺度今天可以用在人工智慧法律上。

一個人的偏見留在一個房間裡。一個模型的偏見會在數百萬個決定裡重複，而且每一次重複都把人推往同一個方向。 模型按定義就是一台多產的引導機器。在善的方向如此，在惡的方向也如此。

英國史家愛德華·吉朋在其鉅著《羅馬帝國衰亡史》中評斷查士丁尼時寫道：羅馬人同時被自己法律的繁多與主人的任意意志所壓垮。

也就是說，規則的通貨膨脹與恣意並不是彼此的解藥。兩者可以毫無困難地共存。今天的合規文件、倫理原則和透明度報告，頁數相當可觀；而受害者手上真正可用的手段，仍然很小。

那麼該怎麼做

本文的論點裝得進一句話： 行為主體性不是一件要去發現的事，而是一件要去分配的事。 而當它沒有被分配時，它會自己掉到最弱的那一環上。

可以立起四個解法。

一）「這個東西（人工智慧）是不是行為主體」這個問題，兩千年沒有答案，未來十年也不會有。 可以回答的問題是：誰處在能夠阻止的位置，誰得利，誰承擔。 法律所有成功的解法都是用這個問題建起來的；從奴隸的 peculium 到僱用人的責任，從法人格到特斯拉案陪審團百分之六十七／百分之三十三的分配。

二）你放出去的自主之物（也可以是一套 agentic workflow），要拿得出它的擔保。 羅馬的那只錢袋今天可以有別的名字：強制保險、專設基金、有上限的保證，或者別的什麼。 原則不變：如果你把一艘沒繫好的船放進水裡，那麼它漂走時由誰來付，必須事先就清清楚楚。這不會擋住創新；它只是把不確定性標上價格。保險與再保險公司說不定還能從中長出一門自己的生意。

三）迴圈裡的人如果沒有權限，就不能承擔責任。 一個提出異議可能賠上升遷的職員，不能被當成監督者或最終決策者。 真正的監督需要三件事：推翻系統的權限、做這件事的時間，以及推翻之後受到的保護。 沒有這些，人就不在迴圈裡，他只在緩衝的位置上。

四）我們不該把空隙當成自然法則。 如果我們對舉證規則、紀錄保存義務與證據揭露被有意或無意地拿掉一事視而不見，責任空隙只會變寬。

在馬丁·路德的驢與船案裡，兩造都有理，而兩造同時也都有過。五百年前在一張桌邊做出的判斷說的是：在一件沒有人完全有罪的事情裡，也沒有人完全無辜。

今天的危險，剛好相反。 它在於：得出「沒有人有過失」的結論，比認真分配過失要容易太多。

如果驢子和船都沒有繫住，河水自然會辦完剩下的事。而我們不該說，對河生氣是沒有意義的。