Eşek, Kayık ve Kimsenin Suçu Olmayan Kaza — Yapay Zekada Faillik, Hukuk ve İnsanın Payı

Yapay zekanın failliği, ortaya çıkan eylemlerin hukuki karşılığı ve bu denklemde insanın payı üzerine…

1546’da sorulan bir hukuk sorusu

1546 yılında Martin Luther’in masa sohbetlerine düşülmüş bir kayıt var. Bir dava anlatılıyor.

Bir değirmencinin eşeği avludan kaçar, nehir kıyısına iner. Su içmek için, bağlanmamış bir balıkçı kayığına adımını atar. Kayık akıntıya kapılır, eşekle birlikte sürüklenip gider.

Değirmenci eşeğini kaybetmiştir. Balıkçı kayığını.

Değirmenci der ki: balıkçı kayığını bağlamayı ihmal etti. Balıkçı der ki: değirmenci eşeğini evde tutmayı ihmal etti.

Metnin ortasında Latince bir soru duruyor: Nunc sequitur quid sit juris? Peki hukuk ne der?

Eşek mi kayığı götürdü, kayık mı eşeği?

Luther’in hükmü iki kelime: ambo peccaverunt. İkisi de kusurlu.

Bu paragraf beş yüz yıl önce yazıldı ve hala bugün elimizdeki en zor hukuki sorunun tam kalbinde duruyor. Zararı üreten hareket, iki ihmalin buluştuğu yerde kendiliğinden başladı. Ortada kötü niyetli kimse yok. Ortada tam anlamıyla eylemi başlatan kimse de yok. Yalnızca bağlanmamış bir şey ve serbest kalmış bir diğer şey var.

Yapay zeka hukukunun tamamı bu tabloya sığıyor gibi.

Sorumluluk boşluğu diye bir kavram var

2004’te Andreas Matthias adlı bir düşünür, o zaman kimsenin çok ilgilenmediği bir makale yazdı ve bir kavramı adlandırdı: sorumluluk boşluğu.

Argümanı basit ve rahatsız edici. Öğrenen sistemlerde üreticinin ya da kullanıcının makinenin gelecekteki davranışını öngörmesi ilkece mümkün değildir. Öngöremediğin bir şeyden ahlaken sorumlu tutulmak ise adil değildir. O halde ortada zarar vardır ama adil biçimde sorumlu tutulabilecek kimse yoktur.

Yirmi yıl sonra bu cümle akademik bir egzersiz olmaktan çıktı. Yapay zeka bugün Kredi reddediyor, işe alım yapıyor, teşhis yapıp tedavi öneriyor, bindiğimiz araba direksiyon çeviriyor, yaptığımız satınalmada sözleşme kuruyor.

Ve her zarar olayında aynı üç cümle sırayla söyleniyor.

Üretici: modeli biz yaptık ama nasıl kullanılacağını siz seçtiniz. Kullanan: biz yalnızca sisteme güvendik. Sistem: sistem hiçbir şey söylemez, çünkü sistem konuşmaz, hakkında konuşulur.

Şimdi asıl soruyu sormanın vakti geldi. Bu boşluk gerçek bir metafizik boşluk mu, yoksa çok işe yarayan bir belirsizlik mi.

Bu yazının cevabı ikincisi. Ve bu cevabın kanıtı hukukun kendi tarihinde yatıyor.

Roma Hukuku’nun çözümü: fail olmayan ama eyleyen

Hukuk, “kişi olmayan ama kendi başına eylemde bulunan” varlıklar sorununu ilk kez yapay zekayla tanımadı. İki bin yıl önce bu sorunun içinde yaşıyordu.

Roma hukukunda köle bir kişi değildi. Hukuken bir metaydı. Alıyor, satılıyor, sahibi adına satın alıyor, satıyor, sözleşme kuruyor, borç doğuruyor, işletme yönetiyordu. Yani hukuki kişiliği olmayan bir varlık, hukuki sonuç doğuran eylemler yapıyordu.

Bu makaleyi okumaya başlamadan önce yapay zeka ile köle kavramını aynı potada eritebilmek çok mümkün görünmüyordu sizin için de sanırım.

Roma bu çelişkiyi metafizikle çözmedi. Mekanizmayla çözdü.

Peculium dedikleri şey, kölenin fiilen yönettiği ayrı bir malvarlığıydı. Köle o kesenin içinde iş yapardı. Bir zarar doğduğunda efendinin sorumluluğu, kural olarak o kesenin büyüklüğüyle sınırlanırdı. Yani sorumluluk ne tamamen efendiye yıkıldı ne de havada bırakıldı. Bir fona bağlandı.

Bunu bugün hukukçular yeniden konuşuyor. Cambridge’in hukuk dergisinde çıkan bir çalışma, yapay zekanın hesap verebilirlik boşluğu için doğrudan Roma hukukuna bakmayı öneriyor. Ugo Pagallo’nun “dijital peculium” önerisi de aynı damardan geliyor: otonom bir sistemi piyasaya sürüyorsan, onun adına teminat gösterilmiş ayrı bir varlık da göstermelisin.

Buradan çıkan ders zarif ve aynı zamanda rahatsız edici de.

Zarif olan şu: Faillik keşfedilmez, tahsis edilir. Roma hukuku “kölenin iradesi var mı” diye sormadı, çünkü sormasına gerek yoktu. Hukukun ihtiyacı olan şey bir irade değil, bir muhataptı.

Rahatsız edici olan ise şu: bu çözüm insanlık tarihinin en iğrenç kurumlarından birinin içinde geliştirildi.

Bir aleti köleye benzetmenin ahlaki bir bedeli var; benzetme aleti yükseltmez, insana yapılmış olanı normalleştirir. Buradan alınacak şey kurumun kendisi değil, tekniği: hukuk, kişiliği olmayan bir eyleyicinin doğurduğu zararı, o eyleyiciyi kişi ilan etmeden de bağlayabilir.

Aynı tekniğin adı bugün başka. Kurumsal tüzel kişilik. İşverenin çalışanın fiilinden sorumluluğu. Tehlikeli faaliyette kusursuz sorumluluk. Hepsi ayn amaç çerçevesinde düzenlenmiş hukuki kavramlar. Ortada bir zarar varsa kimsenin iradesine bakmadan, zararı bir cebe bağlamak gereklidir.

Mahkemeler ne yapıyor: üç dava, tek desen

Yapay zeka hayatımızda çok yeni. Bu sebeple teoriyi bırakıp son iki yılın kararlarına bakmak öğretici olabilir. Çünkü mahkemeler, filozofların hala tartıştığı soruyu sormayı çoktan bıraktılar.

Şubat 2024’te, Kanada’da Jake Moffatt isimli bir şahıs, büyükannesi vefat ettiği için Air Canada’nın sitesinden bilet almak istiyor. Sitedeki sohbet botuna yas indirimi alıp alamayacağınıe soruyor. Air Canada’nın chat asistanı Moffatt’a yas indiriminin sonradan da talep edilebileceğini bilgisini veriyor. Bu yanlış; şirketin gerçek politikası öyle değil.

Şirket mahkemede ilginç bir savunma yapıyor: bot ayrı bir varlıktır, kendi beyanlarından kendisi sorumludur.

Mahkeme bu savunmayı reddediyor. Bot, şirketin kendi sitesinin bir parçasıdır; şirket sitesindeki bütün bilginin sorumlusudur, o bilgi ister durağan bir sayfadan ister bir sohbet penceresinden gelsin. Tazminat küçük ve temsili, yaklaşık altı yüz elli Kanada doları. Ama ilke büyük: kendi kurumsal yapının ağzından çıkanın sorumlusu da sensin.

Ağustos 2025’te , Florida’da otopilot devredeyken bir Tesla, bir kavşakta durmuyor; park halindeki araca çarpıyor, bir kişi ölüyor, bir kişi ağır yaralanıyor. Sürücü, telefonunu düşürdüğü için o anda dikkatinin dağıldığını kabul ediyor.

Mahkeme bu sefer kusuru bölüyor: sürücü yüzde 67, üretici yüzde 33. Toplam tazminat iki yüz kırk milyon doları aşıyor ve büyük kısmı cezai tazminat. Şirket kararı temyize taşıyor; süreç devam ediyor ve henüz sonuçlanmadı.

Dikkat et, mahkeme “otopilot fail miydi” diye sormadı. Kusuru yüzdeye böldü. Tam bu örnekte Luther’in ambo peccaverunt’u, dijital haliyle beşyüz yıl sonra hayatımıza geri döndü.

üçüncü örneğimiz, mahkeme değil, sözleşme örneği. Mercedes, Drive Pilot adlı sisteminin tanımlı çalışma zarfı içinde belirli otoyollar, belirli hız, belirli hava koşullarında meydana gelen olaylarda hukuki sorumluluğu üstlendiğini açıkladı.

Burada olan şey çok net: sorumluluk bir keşif değil, bir taahhüt olarak yerleştirildi. Üretici, failliği belirli bir zarf içinde üstlendi.

Üç olay, tek desen. Hukuk şunu sormuyor: bu şeyin(yapay zekanın) iradesi var mı. Şunu soruyor: Kim engelleyebilecek konumdaydı ve kim bundan kazançlı veya zararlı çıktı ?

Boşluk kapanmıyor, çünkü kapatılmak istenmiyor

Burada işin siyaset tarafı başlıyor ve manzara güzel değil.

Avrupa Birliği’nin elinde yıllardır bir tasarı vardı: Yapay Zeka Sorumluluk Direktifi. İki şey getiriyordu.

Birincisi, belirli koşullarda nedensellik karinesi — yani zarar gören kişi, kutunun içinde tam olarak ne olduğunu ispatlamak zorunda kalmayacaktı; aksini ispat yükü üreticiye geçebilecekti.

İkincisi, yüksek riskli sistemlerde delil açıklama zorunluluğu — mahkeme, şirketten kayıtları isteyebilecekti.

Bu iki madde, sorumluluk boşluğunun tam kalbine nişan alıyordu. Çünkü boşluğun gerçek adı çoğu zaman “ispat imkansızlığı”dır. Zarar görenin elinde model yok, eğitim verisi yok, kayıt yok, uzman yok bu sebeple ispatlaması da imkansız.

Komisyon tasarıyı 2025 Şubat’ında geri çekme kararını duyurdu; geri çekme yıl içinde resmileşti. Gerekçe olarak paydaşlar arasında uzlaşı sağlanamaması ve dijital alanda sadeleşme talebi gösterildi.

Şimdi bu iki cümleyi arka arkaya oku.

Matthias 2004: öğrenen sistemlerde sorumluluğu adil biçimde atfetmek yapısal olarak zordur. Brüksel 2025: bu zorluğu hafifletecek ispat kuralları dijital alanda sadeleşme talebi nedeniyle geri çekildi.

Birincisi felsefi bir tespit. İkincisi siyasi bir tercih. Ve ikisi birbirine karıştırıldığında ortaya çok kullanışlı bir şey çıkıyor: doğa yasası gibi görünen bir muafiyet.

Sorumluluk boşluğu bir keşif değil. Açık bırakılmış bir kapı. Ve her açık kapı gibi, birisi bu kapıdan girerek kendi lehine bir fayda sağlayabilir.

İnsanın payı, birinci hal: “emir aldım”ın yeni sürümü

Şimdi denklemin insan tarafına geliyorum, çünkü asıl mesele orada.

Tarihin ilk savaş suçları davasına başvuralım. Amerikan iç savaşı’nda, savaşın son 14 ayında açılan kampta, yaklaşık 45.000 Birlik (Kuzey) askeri esir tutulmuş ve yetersiz beslenme, hastalık ile kötü koşullar nedeniyle yaklaşık 13.000 esir hayatını kaybetmişti 1865’te Andersonville hapishanesi davasında bu olayla ilgili yapılan savunmada : Savaş bittikten hemen sonra, kampın komutanı olan İsviçre asıllı Konfederasyon yüzbaşısı Henry Wirz tutuklandı, savunması özetle şöyleydi:

-Emir aldım.

Duruşmanın kurduğu doktrin bugün de ayakta. İnsan, itaat ettiği emir hakkında içsel bir yargıda bulunur; dolayısıyla emir insanlığını yeterince derinden rencide ediyorsa itaatsizlik edebilir. Ve sanığa yöneltilen cümle şuydu: askeri üstün, ahlaki üstün değildir.

Bugünün yapay zeka versiyonu ise şöyle konuşuyor: sistem böyle önerdi. Skor düşüktü. Model işaretledi.

Buna karşı bulunan çözüm de hazır: döngüye bir insan koyalım. Kararı makine önersin, onayı insan versin.

Kulağa iyi geliyor. Verilere bakınca kulağa daha az iyi geliyor.

Michigan’daki işsizlik sisteminde algoritmanın işaretlediği başvuruların büyük çoğunluğunun hatalı olduğu sonradan anlaşıldı. Ama aynı dönemde, aynı işi yapan insan karar vericilerin hata oranı da düşük değildi. Yani “insan denetimi” tek başına bir güvenlik çözümü oluşturamaz.

Sebebi psikolojik ve tanıdık. Bir sistem sana yüzde seksen dokuz güven skoru gösteriyorsa, ona itiraz etmek yalnızca zaman değil, cesaret ister. Onaylamak bedava, itiraz etmek ise oldukça maliyetli. Sistemi doğrulayan memur terfi eder, sistemi durduran memur açıklama yapmak durumunda kalır.

Döngüdeki insan, gerçek yetkisi ve gerçek zamanı yoksa bir güvenlik unsuru olarak konumlanamaz. Sadece bir soğurucudur. Zarar gerçekleştiğinde suç orada durur ve daha yukarı çıkmaz.

Bunu açık söylemek gerekiyor: sorumluluğu üstlenmeyen bir organizasyon için ideal çözüm, kararın sistemde ama suçun insanda olmasıdır.

İnsanın payı, ikinci hal: boşluk boş değil

Sorumluluk boşluğu deyince akla adeta uzay boşluğu geliyor. Kimsenin olmadığı bir yer.

Orada insanlar var, sadece büyük uzay boşluğunda ne yazık ki görünmüyorlar.

Sözde otonom sistemler, veri etiketleyen, içerik moderasyonu yapan, çıktıyı temizleyen küresel bir emek katmanının üstünde duruyor. Bu işlerin ücreti düşük, görünürlüğü yok, hukuki koruması zayıf.

En çarpıcı ayrıntıyı bir dağıtım sürücüsü anlatıyor. Gözetim sistemi emniyet kemerini kontrol ediyor, kota ise duraklamayı cezalandırıyor. Sürücüler kemeri sırtlarından bağlıyor. Sistem kemerin takılı olduğunu kaydediyor, insan kemersiz sürüyor.

Bu küçük sahne, koca bir yapının özeti. Yukarıda ölçüm var, ölçüm doğru görünüyor, kayıt temiz. Aşağıda risk var ve risk kimseye devredilmiyor, sadece aşağı akıyor.

Hollanda’daki çocuk yardımı vakası bu tablonun istisnası olduğu için önemli. Otomatik denetim sistemi binlerce aileyi haksız yere dolandırıcılıkla suçladı ve olay 2021’de hükümetin topluca istifasına kadar gitti. Bu, algoritmik bir zararın en tepeye kadar hesap sorulabildiği nadir örneklerden biri.

Nadir olması, kuralın ne olduğunu gösteriyor. Yani sorumluluk boşluğunda topun ağzunda kimse yok değil. Suçlu olarak en az güçlü olan var kabul edilebiliyor.

Doğu’nun cevabı: eylem zaten hiçbir zaman tek kişilik değildi

Batı hukuku sorumluluğu tekilleştirmek üzerine kurulu. Bir fail bulur, iradesini ölçer, kusurunu tespit eder.

Yapay zeka ise bu mekanizmayı zorluyor çünkü ortada tek bir fail yok.

Klasik Çin düşüncesinde bu hiç sorun olmadı, çünkü orada eylem baştan ortaktı.

Ata binmeyi düşün. Bu ne binicinin eylemidir ne atın. Arazi, eğitim, koşum, yem, hava.Hepsi eyleme katılır. Klasik Çin metinlerinde eylem böyle tarif edilir: tek bir iradenin dünyaya çarpması değil, birçok şeyin buluştuğu bir kıvamdır.

Konfüçyüsçü rol etiği aynı yerden devam eder. Kişi ilişkilerin kesişiminde oluşur; sorumluluk da bireysel iradeye değil, role yapışır. Bir hekimin sorumluluğu hekim olmasından gelir, o anki niyetinden değil.

Bunu bugüne çevirince şu çıkıyor. “Model fail mi” sorusu yerine “bu rolü kim üstlendi” sorusu. Öneriyi kim sundu, kim dağıttı, kim sattı, kim kullandı, kim denetlemekle görevliydi. Rol varsa sorumluluk vardır; iradeyi ölçmeye gerek kalmaz.

Bu, makine zararı için beklenmedik biçimde pratik bir soru üretiyor. Bir sistem zarar verdiğinde sürecin sonu nedir. Ceza mı, onarım mı, düzeltme mi, kapatma mı ?

Bir modeli bağışlamak diye bir şey yok. Ama bir şirketi aklamak diye bir şey var, ve çoğu zaman “hatalı modeli güncelledik” cümlesiyle üstü kapanıyor.

---

Ölçek meselesi: Hobbes’un “verimli suçu”

Bir şeyi daha eklememiz lazım çünkü yapay zeka zararını sıradan zarardan ayıran şey bu.

Filozof Thomas Hobbes,eseri Leviathan’da suçların ağırlığını ölçerken bir ayrım yapmıştır. Yalnızca bugünü zedeleyen fiil ile örnek yoluyla geleceği de zedeleyen fiil aynı ağırlıkta değildir. Birincisine kısır, ikincisine verimli diyor. Verimli suç çoğalarak birçok kişiye zarar verir.

Hobbes, ayrıca failin konumunun fiilin ağırlığını değiştirdiğini söyler. Yetkili birinin aynı fiili, sıradan birinin fiilinden daha ağırdır.

Bu iki ölçüt bugün yapay zeka hukukuna uygulanabilir.

Bir insanın önyargısı bir odada kalır. Bir modelin önyargısı milyonlarca kararda tekrarlanır ve her tekrarında aynı yöne yönlendirir. Model tanım gereği verimli yönlendirme makinesidir.İyilikte de kötülükte de.

Ünlü İngiliz tarihçi Edward Gibbon, başyapıtı Roma İmparatorluğu’nun Gerileyiş ve Çöküş Tarihi (The History of the Decline and Fall of the Roman Empire) adlı eserinde Justinianus hakkındaki hükmünde şunu belirtir :
Romalılar aynı anda hem kanunlarının çokluğu hem efendilerinin keyfi iradesi tarafından ezildiler.

Yani kural enflasyonu ile keyfilik birbirinin panzehiri değil. İkisi rahatlıkla bir arada yaşar. Bugünün uyum belgeleri, etik ilkeler ve şeffaflık raporları sayfa sayısı olarak muazzam; zarar görenin elindeki fiili imkan ise hala küçük.

Peki ne yapmalı

Bu yazının tezi tek cümleye sığıyor: faillik keşfedilecek bir şey değil, tahsis edilecek bir şeydir. Ve tahsis edilmediğinde kendiliğinden en zayıf halkaya düşer.

Dört çözüm kurulabilir

1)“Bu şey (yapay zeka) fail mi” sorusu iki bin yıldır cevapsız ve önümüzdeki on yılda da cevaplanmayacak. Cevaplanabilir soru şu: kim engelleyebilecek konumdaydı, kim kazandı, kim taşıdı. Hukukun bütün başarılı çözümleri bu soruyla kuruldu; kölenin peculium’undan işverenin sorumluluğuna, tüzel kişilikten Tesla davasının jürisinin hükmü yüzde 67 / yüzde 33 paylaştırmasına kadar.

2)Otonom veya serbest bıraktığın şeyin (bir agentic workflow da olabilir ) teminatını göster. Roma’nın kesesi bugün başka adlar alabilir: zorunlu sigorta, ayrılmış fon, tavanı belli garanti veya bambaşka bir isim olabilir İlke aynı kalmalı: bağlanmamış bir kayığı suya bırakıyorsan, sürüklendiğinde kimin ödeyeceği önceden belli olmalı. Bu, yeniliği durdurmaz; belirsizliği fiyatlandırır. Belki sigorta ve reasürans firmaları kendi adlarına bundan ayrı bir ekonomi de üretebilirler.

3)Döngüdeki insana yetkili değilse sorumlu da olamaz İtiraz etmesi terfisine mal olabilecek bir memur denetimci veya son karar verici olamaz. Gerçek denetim üç şey ister: sistemi geçersiz kılma yetkisi, bunu yapacak zaman, ve geçersiz kıldığında korunma. Bunlar yoksa insan döngüde değil, sadece tampon konumundadır.

4)Boşluğu doğa yasası saymamalıyız İspat kurallarını, kayıt tutma zorunluluğunu ve delil açıklamayı ortadan kasten veya bilmeyerek kaldırılmasına göz yumarsak sorumluluk boşluğu genişler.

Martin Luther’in Eşek-Kayık davasında iki taraf da haklıydı ve ikisi de aynı zamanda kusurluydu. Beş yüz yıl önce bir masada verilen hüküm, kimsenin tamamen suçlu olmadığı bir olayda kimsenin tamamen masum da olmadığını söylüyordu.

Bugünkü tehlike, o hükmün tam tersi. Kimsenin kusurlu olmadığı sonucuna varmanın kusuru tayin etmeden çok daha kolay olmasında yatıyor.

Eşek de kayık da bağlanmamışsa, nehir işini görür. Ve nehre kızmanın bir anlamı yoktur dememeliyiz.