人工智慧是什麼、不是什麼，以及人重新定義自己的必要——鏡中陌生人

一篇關於人工智慧是什麼、不是什麼，以及人為何不得不重新定義自己的長文。

「機器能思考嗎」這個問句背後的少年

舍爾本公學裡有一個十五歲的男孩。一個被霸凌的男孩。他叫艾倫・圖靈。

圖靈有一位朋友，名叫克里斯多福・莫爾康。優雅，兼具科學與藝術的天分——那個年紀的艾倫身上所缺的一切，彷彿都長在克里斯多福身上。他們整夜談論物理定律，交換天文學的知識。一九三〇年，克里斯多福喝了受感染的牛奶，染上牛結核，忽然過世。

艾倫垮了。他把自己埋進數學裡想撐過去，埋得太深，結果從科學與形上學交界的地方鑽了出來。二十年後，他成了提出歷史上最著名那個問題的人：機器能思考嗎。

一個親身經歷過「朋友的心智突然消失」的人，多年以後開始追問心智究竟是什麼。艾倫・圖靈是英國數學家、計算機科學家與密碼學家，今天被視為計算機科學的奠基者。

不過有件事我想先說清楚：人工智慧的爭論表面上完全是技術性的，底下卻幾乎全是人的事。

我們以為自己在看機器，其實一直在看自己。

裂開的四百年框架

我們今天手上的概念，大多是在一六三〇年代成形的。

笛卡兒把自然切成兩半。一邊是內在的、思考的、活著的人。另一邊是外在的、機械的、死的物質。

他把動物放在第二邊：沒有思維實體（res cogitans）、可以用機械原理解釋的存在。這句話究竟是什麼意思，至今仍有爭論。有些詮釋者認為笛卡兒主張動物什麼都感覺不到，也有人認為他只是說動物缺乏有意識的經驗。這場討論到今天還沒關上。

但無論哪種讀法成立，那條線本身留了下來。此後西方建立的一切都坐落在這條線上。自由、能動性、意識、文化、法律、人權。全都是「我們不是機器」這句話的衍生物。

現在那條線撐不住了。眼前有一個會說話、會畫畫、會寫程式、會安慰人的東西，我們叫它人工智慧，而我們不知道該把它放在哪一邊。

哲學家托比亞斯・里斯把這讀成一次哲學上的斷裂：問題不在於人工智慧是什麼，而在於用來描述它的那些概念已經不運作了。一個四百年的時期正在收攏，人在一片沒有定義的空地上發現了自己，滿心困惑——而且這一切發生得極快。就像人工智慧的一切那樣快。

勒芙蕾絲的異議，以及她的後代

一八四三年，世上還沒有任何一台電腦，數學家愛達・勒芙蕾絲寫下了我們今天仍在爭論的那句話。

在為查爾斯・巴貝奇的分析機所作的註記中，她說這台機器編織代數的圖樣，就像賈卡織機編織花卉一樣。然後她說：這台機器沒有任何自行開創事物的資格。凡是我們懂得如何命令它去做的，它都會做；它讓我們已知的東西變得可用，但不生出新的東西。

一九五〇年，圖靈給這個問題取了名字，並試著回答它：「勒芙蕾絲夫人的異議」。

今天，同一個異議換了名字叫「隨機鸚鵡」。也就是說，這個論證一百八十年來站在同一個位置上，只是換了衣服。「隨機鸚鵡」（stochastic parrot）是一個人工智慧術語，用來描述語言模型並非在語義上理解詞語，而是依據龐大資料集中的統計頻率，產出看起來合理的字詞序列。

同一個異議能撐一百八十年而不需要新證據、只需要新詞彙，這件事本身值得留意。一個從不因新資料而改變形狀的論證，通常不是一項實證主張，而是一道我們反覆重畫的邊界。

有趣的是：勒芙蕾絲自己把想像力分成兩種。第一種是結合的能力，在兩件表面上不相干的事物之間找到共同的脈絡。第二種是帶來的能力，把物理上並不存在的東西搬進心裡。今天的語言模型在第一種上好得令人吃驚。在第二種上，則還留著一個沒人被說服的空缺。

關於這個空缺，一個有意思的線索來自意想不到的地方。姚（Eunice Yiu）與艾莉森・戈普尼克近年的研究，在特定任務上比較了孩子與大型語言模型。模型在相似性配對上，也就是辨認既有圖樣上，表現不錯。差別出現在需要因果推理與工具發明的任務裡；當一個從未見過的問題需要發現新用途時，孩子領先。

把這個發現總結成「小孩比人工智慧更有創造力」是過頭了，研究者也不是這樣呈現的。他們說的更窄，也更有意思：模仿與發現不是同一種能力。另一方面，代理型模型與大型語言模型在工具使用上，也在日復一日地進步。

是慾望，不是理性：皮格馬利翁的長影

打造一台有意識的機器，並沒有理性上的理由。

想一想這件事。沒有人說「我們需要一套會痛苦的會計軟體」。從工程角度看，意識是成本、是法律風險、是頭痛。然而我們的文化做同一個夢已經做了兩千五百年。

奧維德筆下的皮格馬利翁愛上了自己雕的像。羅馬詩人奧維德在《變形記》第十卷裡寫道：賽普勒斯的雕刻家皮格馬利翁因為受不了身邊女人的缺點而選擇獨居，並用象牙雕出一尊完美的女像。他愛他的作品愛到為她戴上珠寶、撫摸她，並向阿芙羅黛蒂祈求讓雕像獲得生命。祈禱應驗，雕像有了血肉，變成活人。

希臘神話裡，火與鍛造之神赫菲斯托斯是一位身有殘疾的神。荷馬《伊利亞德》寫到，他在奧林帕斯的工坊中造出黃金侍女（自動人偶）來協助他、讓他行走更方便。這些半人半機器的僕從，據說擁有人的智能與言語能力。

希臘女巫美狄亞制伏塔羅斯——那個守護克里特島不受海盜侵擾、以青銅打造的巨大自動人偶——靠的不是體力而是說服，她讓它同意毀掉自己。今天這件事叫做越獄；神話裡這套手法沒有名字，但技術是同一套。

由此得出的結論令人不安。人對人工智慧的渴望，其源頭不是理性的，而是情慾的。複製自己、造出一個永不背叛的伴侶、繞過死亡。就連對齊的爭論底下，某處也躺著一句「讓它們被設計成愛我們」。

人工智慧：納西瑟斯的新水面

一九六六年，約瑟夫・維森鮑姆寫了一個叫 ELIZA 的簡單程式。程式什麼都不懂，只是把句型翻轉回去。使用者說「我不快樂」，ELIZA 就說「你願意多說一點嗎」。

人們對它傾訴。

維森鮑姆的祕書明明完全清楚這個程式怎麼運作，卻在跟它對話時建立起深厚的情感連結，並且相信程式真的理解她，要求維森鮑姆離開房間。

維森鮑姆看到這一幕，感到驚駭。

哈特為這個現象取了名字：機器意識的神話把我們變成納西瑟斯。螢幕另一側彷彿有個誰，因為那裡站著的是我們自身心智能動性一個極其柔軟的倒影。而倒影越可信，就越令人發毛。

擬人化不是一種認知錯誤，而是一種關係反射。我們是一種被調校成要看見人臉的生物；我們在雲裡看見臉，在車燈裡看見臉，在一個翻轉句型的程式裡看見朋友。

但規模一變，事情就變了。把一個程式叫做朋友是一回事；幾百萬人拿最私密的決定去問它，是另一回事。

機器裡缺席的東西：不安

那麼機器真正缺的到底是什麼。

最鋒利的答案來自一九九三年過世的哲學家漢斯・約納斯。約納斯說：活著，就是有某件事讓你放不下。有機體與環境處在持續的張力中；牠會餓、會冷、會絆倒、會著急。在約納斯看來，擁有一個世界的種子，正是這份不安。

當代哲學家阿爾瓦・諾埃把這一點用到電腦上：電腦不思考，因為它們其實什麼都沒有在做。人的行動是帶著抵抗的。你跟身體角力，跟工具角力，跟自己角力。學鋼琴，就是克服手指的阻力。

同樣是當代哲學家的埃文・湯普森，從生物學那邊接住了同一個想法。生命體是由自己行動的後果所造成的；因此有些事對牠來說是重要的。對一個人工系統而言，沒有任何事重要，因此也沒有任何事構成牠的問題。

說到底，作為人，我們知道的比我們說得出來的多。我們講不出騎腳踏車是怎麼回事，但我們騎得了。

機器學習抄近路抵達了默會知識的結果，卻沒有攜帶默會知識本身。

艾倫・烏爾曼在一九九七年寫的工程手記裡，用一句話總結了這件事。人的心智可以把那些「如果」和「但是」放在一個角落裡，並不因此難受。

機器沒有角落。

那麼，如果人也沒有本質呢

現在換到反面來，因為真正的哲學縱深在那一側。

這些異議全都倚著一個假設：人身上有一個必須被保護的固定本質。那麼，有嗎。

托馬斯・梅辛格的答案是沒有。自我是大腦為自己所建的一個透明模型；裡面沒有一種可以被上傳的實體。這一擊同時也擊碎了數位永生的夢。從這個角度看：根本沒有一個「你」在那裡等著被複製。

兩千五百年前，有人循著完全不同的路走到了同一個結論。佛教的無我教義說，沒有一個恆常的自我。

大衛・巴拉什指出生物學也來到同一處：細胞更新，端粒縮短，原子被替換，任何一個層次上都沒有一個不變的核心本質。

這個發現像一把兩面都開刃的刀。

一方面它擊碎了「機器沒有真正的自我」這個異議，因為按此，人的自我在那個意義上也不成立。人若沒有一個崇高的本質，也就沒有優先性與特權。無我的論證可以用來抬高機器，同樣可以用來貶低人。

佛教內觀傳統的貢獻正是在這裡進場。內觀是一種以自我觀察與內省作為自我轉化方法的禪修。

即使沒有固定的自我，仍然有一個具身的、與世界持續接觸的歷程。機器裡缺的不是本質，而是接觸。

庖丁的刀與「無為」

西方為能動性設下一個條件：必須有一個思考的「我」。從亞里斯多德以來，行動就是經過推理的選擇。因此西方沒辦法把能動性交給機器；那裡沒有一個在權衡的人。

一輛自動駕駛的車撞了人，把責任歸給坐在車裡、啟動了駕駛程序的那個人，就能動性而言究竟有多合理。

道家傳統從來沒設過這個條件。

莊子講的庖丁，在文惠君面前解牛時，手、肩、足、膝化成一段節奏。刀的聲音幾乎是音樂。君王讚嘆他的技術，庖丁把刀放下，說他所追求的並不是技。他行走的是肉的天然縫隙——以無厚入有間。

這叫做無為。通常被譯成「不行動」，但那是錯的。它是不勉強的行動，是 Art of Effortless Flow。是技藝從意志變得不可見的那一點開始。

老子說「道常無為而無不為」。不是什麼都不做，而是不去逆著紋理硬推——結果反而沒有一件事沒被做成。

那麼這把人工智慧的爭論推到了哪個平面上：如果理想的行動本來就不需要一個反身的自我，那麼「機器不思考，只是在做」這個異議就失去了力道。西方的能動性危機，出自西方自己選的概念。

這也改變了對自動化的看法。西方把自動化算成辛勞的消除。莊子把技藝看成辛勞消失的那一點。兩者不是同一件事。前者是把活兒交給別人，後者是與活兒合而為一。

「這東西是不是一個人」也許是錯的問題

西方的人工智慧倫理總在同一個軸上打轉：意識、權利、道德地位。因為它真正在問的是——這是不是一個個體。只有身為個體的東西才能被懲罰、才能在法律上被限制。反過來說，製造出人工智慧的公司與國家，能不能為它所做的事負責。

而儒家的角色倫理完全不關心這些問題。

在亨利・羅思文（二〇一七年過世）與袁莉君所處理的關係性自我裡，人是在關係的交會處形成的。並不是先有分立的個體，然後才在他們之間建立關係。恰恰相反：關係在先，人由之而生。

「仁」這個字本身就寫著這件事：一個人，加上一個二。仁不長在單獨一個人身上，它只在兩人之間發生。

非洲哲學也做了同一個動作。在 Ubuntu 傳統裡，事物之所以是它們所是，是在與其他事物的關係之中成為的。

把這三個傳統並排放著，問題就變了。也許我們該問的不是「人工智慧裡面有什麼」，而是「它跟我們進入了什麼樣的關係」。

形上學的負擔輕得多，實務上也可解得多。

但這不是免費的。關係性自我說，地位是由關係給予的。也就是說，地位是我們給的。這就替任意性開了門。歷史上「這東西的痛不算數」這句話對剝削有多好用，我們是知道的；它用在動物身上，也用在被奴役的人身上。

邊沁一七八〇年立下的判準，至今仍站在最穩的位置。在《道德與立法原理導論》那則著名的註腳裡，他為動物寫下：

「The question is not, Can they reason? nor, Can they talk? but, Can they suffer?」

也就是說，真正的分界問題不是牠能不能推理、能不能說話；而是牠會不會受苦。

和，還是對齊

到這裡，爭論從哲學走進政治，而詞彙洩露了自己。

西方的人工智慧治理語言建立在 alignment 周圍。對齊、安全、控制。它把工程約束的語言推到前面。

中文世界的語言建立在和的周圍。和諧。一種美學與倫理的平衡語言。

兩者要的是同一件事：一種沒有摩擦的人機秩序。但要同一件事的兩種方式，會產出兩種不同的政治。

不過兩套詞彙共享一個沒說出口的前提：摩擦是缺陷。有些摩擦其實是多元的價錢——當一個系統再也不磨牙，通常不是因為分歧解決了，而是因為分歧不再被聽見。

是多元共存，還是一種技術封建、或某種極權。

答案不容易。和可以是不同的聲音一起共鳴；一支管弦樂團裡每件樂器仍是它自己，整體卻仍成為一個東西。

也可以是一個日益壯大的單一聲音把所有人都壓過去。

儒家、道家與佛教都沒有把人放在自然的頂端，所以機器智能的存在看起來不像一場篡位；東方的恐慌比較少。

但形上學的鎮定，並不等於制度上的保障。同一項技術在一個地方會變成監控資本主義，在另一個地方會變成國家監控。

談論未來的時候，當下溜走了

超級智慧的討論是件迷人的事。宇宙級的、戲劇性的、電影感的。

也正因如此，它讓人分心。

提姆尼特・格布魯（計算機科學家）與米拉格羅斯・米切利（社會學家兼計算機科學家）一直努力要人注意的是：所謂自主的系統，站在一層全球性的、看不見的勞動之上。資料標註員、內容審核員、倉儲工人……

要具體的例子，那就是密西根整合資料自動化系統（MiDAS）。它在二〇一三年掃描失業給付申請並貼上詐欺標籤。此後該州的相關收入從三百萬美元竄升到六千九百萬美元。後續調查顯示，二〇一三至二〇一五年間被演算法標記的四萬多件申請，絕大多數是誤判。州審計單位抽查的樣本裡，有百分之九十三的判定根本不存在任何詐欺事實。而傷害沒有停在紙面上：薪資被扣押，有人失去了房子，也有申請人被迫聲請破產。這件事要一直等到事發約十年之後，才終於達成和解。

數千個失去工作的人，被一套電腦系統宣告為詐欺犯。現場沒有超級智慧；有的是一套平凡的軟體、一個無法申訴的決定，以及一份對軟體過度的信任。

這個案子真正的教訓，或許不在準確率。準確率是技術問題，可申訴性是制度問題——兩者經常被混為一談。一套錯得比較少的系統，若同樣沒有申訴的門，只是讓同一種傷害發生得稀疏一些。

隨著人工智慧發展而越來越常被提起的職場監控，帶著同樣的風險。人工智慧數得出它能量的東西，量不了的則大半當作不存在。它數得出寄出去幾封電子郵件；數不出有沒有真正聽進一位客戶的難處。結果，量不了的勞動變成看不見的勞動。

監視不是暫時改變行為，而是永久地改造人。被看的人，過一陣子就變成看自己的人。

能不能量測沉默

就關係而言，最鋒利的考驗發生在心理健康領域。

數字是嚴肅的。在英格蘭與威爾斯，四分之一的年輕人得不到心理健康支持，在美國是八分之一。二〇二六年的一項研究指出，十二到二十一歲的美國人中，大約每五個人就有一個，在難過、生氣或緊張的時候會去找人工智慧聊天機器人。大約八百萬人；一年之內增加超過四成。而其中將近三分之二的人，從來沒有把這件事告訴過任何人。

把這說成「人被科技騙了」既容易又錯。正確的讀法是：人工的親密填進了一個空缺，而那個空缺不是人工智慧挖的。人的支持已經變得既昂貴又難以觸及。

即使如此，還是少了一樣東西，而少的那樣不是同理心的模仿。

跟一位治療師說話時發生的事，是對面那個人被你影響了。他聽見的東西改變了他。你的沉默對他說了些什麼。模型會聽、會記錄、會產出回應；但它不會因為自己所見證的事而改變。沉默對它來說不是資料。

差別在這裡。問題不是模型不夠好，而是它好得跟真正的問題無關。

孟子講「惻隱之心」時，指的正是這個方向：人的心是會被眼前的事牽動的。看見孩子將要跌進井裡，那一瞬間的一動，不是推理的結果，而是被觸動。

馬丁・布伯（哲學家，一九六五年過世）的區分，也許給了這個處境最好的說明。

在「我—它」的關係裡，對面是一個對象，被使用、被量測。在「我—你」的關係裡，發生的是一場相遇。布伯說了一句困難的話：即使兩道聲波完全相同，其中一道是相遇，另一道不是。分辨不出來，不代表兩者相同。

那麼，我們要怎麼建造未來

這篇文章不會以預言收尾，因為預言本身就是人與人工智慧這段關係的一部分。

希羅多德記載：波斯人逼近時，雅典人派使者去德爾菲，女祭司給了一個黑暗的神諭，宣告整座城將從頭到腳被毀。神諭說，救贖在木牆之中。地米斯托克利把神諭往對自己有利的方向解讀，主張木牆其實是雅典艦隊的木船，並說服民眾離開陸地、登上戰船。西元前四八〇年的薩拉米斯海戰中，這支靈活的木造艦隊擊潰波斯艦隊，改變了希臘的命運——地米斯托克利的典範轉移為他帶來了勝利。

我們需要一次典範轉移，這一點很清楚。

人工智慧輸出的價值，也在讀它的那個人身上。這條兩千五百年前的教訓，今天用起來意外地順手。

我要說三件事，然後結束。

第一，恐懼的方向需要修正。 真正的風險不是機器會不會受苦。真正的風險是我們在那些看起來像有意識的東西面前，變得在心理上可被剝削；以及我們越是把自己跟機器混為一談，就越是看輕自己。危險不是從上面來的，是從我們盯著的那面鏡子來的。

整篇文章裡，那些幫我最多、讓我看懂今天的想法，來自已經不在世的哲學家與科學家。

第二，捍衛人類例外論是站錯了戰線。 當代神經哲學說的是同一件事：我們試圖保護的那個固定自我，本來就不存在。要守的不是本質，而是接觸。具身、有事讓你放不下、能夠因為所見證的事而改變。這些不是財產，是實踐。這些實踐性的能力若不使用，就會鈍掉。

第三，自動化的承諾與結果之間的距離，是一個兩千年的常數。 帖撒羅尼迦的安提帕特在西元十二年前後為水磨寫下的短詩裡，向那些推動磨石的女子（不同來源也稱她們為磨坊姑娘）喊話：她們終於可以睡了，手臂與肩膀可以休息了。水的流動取代了人的肌力，代表了技術進步為人類創造的第一份巨大舒適。

西元十二年，水接手了工作量。自動化最初的承諾不是利潤，是睡眠。

托馬斯・卡萊爾在一八二九年的《時代的徵象》中批評工業革命。在他看來，真正的危險不只是工作被機械化，而是機器的運轉節奏也滲進人的心智與靈魂。

一八一二年，在蘭開夏，瑪麗與莉迪亞・莫利紐兩姊妹帶著五十來人燒掉了織布機。原因不是害怕技術，是生計被奪走。

一九一一年，美國工程師弗雷德里克・溫斯洛・泰勒以《科學管理原理》把人的勞動變成一個可量測、可最佳化的流程。

把這四個年份排在一起。承諾每一次都是閒暇；結果每一次都是一種新的機械化。我們身處的這場人工智慧革命，也不在這個循環之外。

人工智慧的課題不是去界定機器會有多像人；而是人要如何在機器的時代裡，不縮減自己地重新定義自己。

只是在這場我們正親眼見證的革命裡，我們還說不出自己失去了什麼，也還想像不出接替它的會是什麼。去問人工智慧，它也給不出一個完整的答案。