Sprawczość sztucznej inteligencji, prawo i udział człowieka

O sprawczości sztucznej inteligencji, o prawnej odpowiedzi na jej działania i o udziale człowieka w tym równaniu…

Pytanie prawne postawione w 1546 roku

W zapiskach rozmów stołowych Marcina Lutra z 1546 roku zachował się pewien ślad. Opowiedziana jest tam sprawa sądowa.

Osioł młynarza ucieka z podwórza i schodzi nad rzekę. Chcąc się napić wody, wchodzi do nieprzywiązanej rybackiej łodzi. Łódź porywa nurt i odpływa razem z osłem.

Młynarz stracił osła. Rybak łódź.

Młynarz mówi: rybak zaniedbał przywiązania łodzi. Rybak mówi: młynarz zaniedbał pilnowania osła w zagrodzie.

Pośrodku tekstu stoi łacińskie pytanie: Nunc sequitur quid sit juris? Co zatem mówi prawo?

Czy to osioł zabrał łódź, czy łódź zabrała osła?

Wyrok Lutra mieści się w dwóch słowach: ambo peccaverunt. Obaj zawinili.

Ten akapit napisano pięćset lat temu, a on wciąż stoi w samym sercu najtrudniejszego problemu prawnego, jaki dziś mamy na rękach. Ruch, który wywołał szkodę, zaczął się sam z siebie — w miejscu, gdzie spotkały się dwa zaniedbania. Nie ma nikogo o złych zamiarach. Nie ma też nikogo, kto w pełnym sensie zainicjowałby działanie. Jest tylko coś nieprzywiązanego i coś, co zerwało się z uwięzi.

Całe prawo sztucznej inteligencji zdaje się mieścić w tym obrazku.

Istnieje pojęcie luki odpowiedzialności

W 2004 roku myśliciel Andreas Matthias napisał artykuł, którym wtedy niewiele osób się przejęło, i nazwał pewne zjawisko: luka odpowiedzialności.

Jego argument jest prosty i niewygodny. W systemach uczących się producent ani użytkownik nie są w stanie — co do zasady — przewidzieć przyszłego zachowania maszyny. A pociąganie kogoś do moralnej odpowiedzialności za coś, czego przewidzieć nie mógł, jest niesprawiedliwe. Zatem szkoda istnieje, ale nie istnieje nikt, kogo dałoby się sprawiedliwie obciążyć.

Dwadzieścia lat później to zdanie przestało być akademickim ćwiczeniem. Sztuczna inteligencja odmawia dziś kredytu, rekrutuje, stawia diagnozy i proponuje leczenie, skręca kierownicą samochodu, którym jedziemy, zawiera umowę przy zakupie, którego dokonujemy.

I w każdej sprawie o szkodę padają po kolei te same trzy zdania.

Producent: model zbudowaliśmy my, ale to wy wybraliście, jak go użyć. Użytkownik: my tylko zaufaliśmy systemowi. System: system nie mówi nic, bo system nie mówi — o systemie się mówi.

Nadszedł moment na właściwe pytanie. Czy ta luka jest realną luką metafizyczną, czy raczej bardzo użyteczną niejasnością?

Odpowiedź tego tekstu brzmi: to drugie. A dowód na tę odpowiedź leży w samej historii prawa.

Rozwiązanie prawa rzymskiego: ten, kto działa, nie będąc sprawcą

Prawo nie poznało problemu bytów, które „nie są osobą, a działają na własną rękę“, dopiero przy sztucznej inteligencji. Dwa tysiące lat temu żyło w środku tego problemu.

W prawie rzymskim niewolnik nie był osobą. Prawnie był rzeczą. Był kupowany i sprzedawany, sam kupował i sprzedawał w imieniu właściciela, zawierał umowy, zaciągał zobowiązania, prowadził przedsiębiorstwo. Czyli: byt bez podmiotowości prawnej dokonywał czynności wywołujących skutki prawne.

Zanim ktoś zaczął czytać ten tekst, zestawienie sztucznej inteligencji z niewolnictwem w jednym tyglu raczej nie wydawało się możliwe.

Rzym nie rozwiązał tej sprzeczności metafizyką. Rozwiązał ją mechanizmem.

Peculium to był wydzielony majątek, którym niewolnik faktycznie zarządzał. W obrębie tej sakiewki prowadził interesy. Gdy powstawała szkoda, odpowiedzialność właściciela była co do zasady ograniczona wielkością tej sakiewki. Odpowiedzialności ani nie zwalono w całości na właściciela, ani nie zostawiono jej w powietrzu. Przypięto ją do funduszu.

Prawnicy wracają dziś do tej konstrukcji. Praca opublikowana w cambridge’skim czasopiśmie prawniczym proponuje, by w sprawie luki rozliczalności sztucznej inteligencji sięgnąć wprost do prawa rzymskiego. Propozycja „cyfrowego peculium“ Ugona Pagallo płynie z tej samej żyły: jeśli wypuszczasz na rynek autonomiczny system, musisz wskazać także wydzielony majątek zabezpieczający jego działanie.

Płynąca stąd lekcja jest elegancka i zarazem niewygodna.

Elegancka jest ta strona: sprawczości się nie odkrywa, sprawczość się przypisuje. Prawo rzymskie nie pytało, czy niewolnik ma wolę, bo nie musiało pytać. Prawu nie była potrzebna wola, tylko adresat.

Niewygodna jest ta strona: rozwiązanie wypracowano wewnątrz jednej z najbardziej odrażających instytucji w dziejach człowieka.

Porównywanie narzędzia do niewolnika ma swoją cenę moralną; takie porównanie nie podnosi narzędzia, tylko normalizuje to, co zrobiono człowiekowi. Brać stąd należy nie instytucję, lecz technikę: prawo potrafi przypiąć szkodę wywołaną przez działający byt bez podmiotowości, nie ogłaszając tego bytu osobą.

Ta sama technika nosi dziś inne nazwy. Osobowość prawna spółki. Odpowiedzialność pracodawcy za czyn pracownika. Odpowiedzialność na zasadzie ryzyka — ta, którą ponosi prowadzący przedsiębiorstwo wprawiane w ruch siłami przyrody, niezależnie od tego, czy komukolwiek udowodni się winę. Wszystkie te konstrukcje zbudowano wokół jednego celu. Jeśli jest szkoda, trzeba ją przypiąć do czyjejś kieszeni, nie zaglądając nikomu w wolę.

Co robią sądy: trzy sprawy, jeden wzór

Sztuczna inteligencja jest w naszym życiu bardzo świeża. Dlatego pouczające bywa odłożenie teorii i spojrzenie na orzeczenia ostatnich dwóch lat. Sądy bowiem dawno przestały zadawać pytanie, o które filozofowie wciąż się spierają.

W lutym 2024 roku w Kanadzie Jake Moffatt chce kupić bilet na stronie Air Canada, bo zmarła mu babcia. Pyta chatbota na stronie, czy przysługuje mu zniżka żałobna. Asystent Air Canada informuje go, że o zniżkę żałobną można wystąpić także później. To nieprawda; rzeczywista polityka firmy brzmi inaczej.

Przed sądem firma stawia ciekawą obronę: bot jest odrębnym bytem i sam odpowiada za własne wypowiedzi.

Sąd tę obronę odrzuca. Bot jest częścią własnej strony firmy; firma odpowiada za wszystkie informacje na swojej stronie, niezależnie od tego, czy pochodzą one ze statycznej podstrony, czy z okienka czatu. Odszkodowanie jest niewielkie i symboliczne, około sześciuset pięćdziesięciu dolarów kanadyjskich. Ale zasada jest duża: odpowiadasz za to, co wychodzi z ust twojej własnej struktury.

W sierpniu 2025 roku na Florydzie Tesla z włączonym autopilotem nie zatrzymuje się na skrzyżowaniu; uderza w zaparkowany samochód, jedna osoba ginie, jedna zostaje ciężko ranna. Kierowca przyznaje, że w tamtej chwili odwróciła jego uwagę upuszczona komórka.

Tym razem sąd dzieli winę: kierowca sześćdziesiąt siedem procent, producent trzydzieści trzy. Łączne odszkodowanie przekracza dwieście czterdzieści milionów dolarów, w większej części o charakterze karnym. Firma zaskarża wyrok; postępowanie trwa i nie zostało zakończone.

Warto zwrócić uwagę: sąd nie pytał, czy autopilot był sprawcą. Podzielił winę na procenty. Właśnie w tym przykładzie ambo peccaverunt Lutra wróciło do naszego życia po pięciuset latach — w wersji cyfrowej.

Trzeci przykład to nie sprawa sądowa, lecz zobowiązanie umowne. Mercedes ogłosił, że w zdefiniowanej kopercie działania swojego systemu Drive Pilot — wybrane autostrady, określona prędkość, określone warunki pogodowe — bierze na siebie odpowiedzialność prawną za zdarzenia.

To, co się tu dzieje, jest zupełnie jasne: odpowiedzialności nie odkryto, tylko ją zadeklarowano. Producent przejął sprawczość w granicach określonej koperty.

Trzy zdarzenia, jeden wzór. Prawo nie pyta, czy ta rzecz — sztuczna inteligencja — ma wolę. Pyta: kto był w pozycji, by temu zapobiec, i kto na tym zyskał albo stracił?

Luka się nie domyka, bo nikt jej nie chce domknąć

Tutaj zaczyna się polityczna strona sprawy i widok nie jest ładny.

Unia Europejska miała od lat w ręku projekt: dyrektywę o odpowiedzialności za sztuczną inteligencję. Wprowadzała dwie rzeczy.

Po pierwsze, w określonych warunkach domniemanie związku przyczynowego — czyli poszkodowany nie musiałby udowadniać, co dokładnie zdarzyło się wewnątrz pudełka; ciężar dowodu przeciwnego mógłby przejść na producenta.

Po drugie, obowiązek ujawnienia dowodów przy systemach wysokiego ryzyka — sąd mógłby zażądać od firmy zapisów.

Te dwa przepisy celowały w samo serce luki odpowiedzialności. Bo prawdziwe imię tej luki brzmi najczęściej „niemożność dowodu“. Poszkodowany nie ma modelu, nie ma danych treningowych, nie ma logów, nie ma biegłego — a więc nie ma też szans na udowodnienie czegokolwiek.

W lutym 2025 roku Komisja ogłosiła decyzję o wycofaniu projektu; wycofanie sformalizowano w ciągu roku. Jako uzasadnienie wskazano brak porozumienia między interesariuszami i postulat uproszczenia w obszarze cyfrowym.

Teraz warto przeczytać te dwa zdania jedno po drugim.

Matthias, 2004: w systemach uczących się sprawiedliwe przypisanie odpowiedzialności jest strukturalnie trudne. Bruksela, 2025: reguły dowodowe, które miały tę trudność złagodzić, wycofano ze względu na postulat uproszczenia w obszarze cyfrowym.

Pierwsze to konstatacja filozoficzna. Drugie to wybór polityczny. A kiedy jedno miesza się z drugim, powstaje rzecz wyjątkowo użyteczna: zwolnienie z odpowiedzialności, które wygląda jak prawo natury.

Luka odpowiedzialności nie jest odkryciem. Jest drzwiami zostawionymi otworem. A przez każde otwarte drzwi ktoś może wejść i wyciągnąć z tego korzyść dla siebie.

Udział człowieka, przypadek pierwszy: nowa wersja „wykonywałem rozkazy“

Przechodzę teraz do ludzkiej strony równania, bo tam leży sedno.

Sięgnijmy do pierwszego w historii procesu o zbrodnie wojenne. W obozie założonym podczas amerykańskiej wojny secesyjnej, w ostatnich czternastu miesiącach wojny, przetrzymywano około czterdziestu pięciu tysięcy jeńców armii Unii; około trzynastu tysięcy z nich zmarło wskutek niedożywienia, chorób i fatalnych warunków.

Tuż po zakończeniu wojny aresztowano komendanta obozu, kapitana Konfederacji szwajcarskiego pochodzenia, Henry’ego Wirza. W procesie w sprawie więzienia Andersonville w 1865 roku jego obrona sprowadzała się w skrócie do jednego:

— Wykonywałem rozkazy.

Doktryna ustanowiona w tamtym procesie stoi do dziś. Człowiek wydaje wewnętrzny sąd o rozkazie, któremu jest posłuszny; jeśli więc rozkaz wystarczająco głęboko obraża jego człowieczeństwo, może odmówić posłuszeństwa. A zdanie skierowane do oskarżonego brzmiało: przełożony wojskowy nie jest przełożonym moralnym.

Dzisiejsza wersja tej obrony, ta od sztucznej inteligencji, mówi tak: system tak zarekomendował. Wynik był niski. Model to oznaczył.

Gotowe jest też lekarstwo: wstawmy w pętlę człowieka. Niech maszyna proponuje decyzję, a człowiek ją zatwierdza.

Brzmi dobrze. Po spojrzeniu na dane brzmi już mniej dobrze.

W systemie zasiłków dla bezrobotnych w Michigan okazało się później, że przytłaczająca większość wniosków oznaczonych przez algorytm została oznaczona błędnie. Ale w tym samym czasie odsetek błędów ludzkich decydentów wykonujących tę samą pracę też nie był niski. Innymi słowy: „nadzór człowieka“ sam z siebie nie stanowi zabezpieczenia.

Powód jest psychologiczny i dobrze znany. Jeśli system pokazuje ci osiemdziesiąt dziewięć procent pewności, sprzeciw wobec niego kosztuje nie tylko czas, ale i odwagę. Zatwierdzenie jest darmowe, sprzeciw dość drogi. Urzędnik, który potwierdza system, awansuje; urzędnik, który system zatrzymuje, musi się tłumaczyć.

Człowiek w pętli, jeśli nie ma prawdziwych uprawnień i prawdziwego czasu, nie jest elementem bezpieczeństwa. Jest tylko absorberem. Kiedy szkoda się wydarzy, wina zatrzymuje się na nim i nie idzie wyżej.

Trzeba to powiedzieć wprost: dla organizacji, która nie chce brać odpowiedzialności, idealne rozwiązanie polega na tym, że decyzja siedzi w systemie, a wina w człowieku.

Udział człowieka, przypadek drugi: luka nie jest pusta

Słowo „luka“ przywodzi na myśl próżnię kosmiczną. Miejsce, w którym nie ma nikogo.

Otóż są tam ludzie — tyle że w tej wielkiej próżni po prostu ich nie widać.

Rzekomo autonomiczne systemy stoją na globalnej warstwie pracy: ktoś etykietuje dane, ktoś moderuje treści, ktoś czyści wyjście modelu. Ta praca jest nisko płatna, niewidoczna i słabo chroniona prawnie.

Najbardziej uderzający szczegół opowiada pewien kurier. System nadzoru kontroluje zapięcie pasa, a norma wydajności karze za postoje. Kierowcy zapinają pas za plecami. System notuje, że pas jest zapięty, człowiek jedzie bez pasa.

Ta drobna scena streszcza całą konstrukcję. Na górze jest pomiar, pomiar wygląda poprawnie, zapis jest czysty. Na dole jest ryzyko — i tego ryzyka nikomu się nie przekazuje, ono po prostu spływa w dół.

Holenderska sprawa zasiłków na dzieci jest ważna właśnie dlatego, że stanowi wyjątek od tego obrazu. Zautomatyzowany system kontroli niesłusznie oskarżył tysiące rodzin o wyłudzenie, a sprawa doprowadziła w 2021 roku do dymisji całego rządu. To jeden z nielicznych przykładów, w których za algorytmiczną szkodę rozliczono kogoś na samej górze.

To, że jest rzadki, pokazuje, jaka jest reguła. Czyli: w luce odpowiedzialności nie jest tak, że nikt nie stoi na linii strzału. Za winnego można uznać tego, kto ma najmniej siły.

Odpowiedź Wschodu: działanie nigdy nie było jednoosobowe

Prawo zachodnie jest zbudowane na sprowadzaniu odpowiedzialności do jednego punktu. Znajduje sprawcę, mierzy jego wolę, ustala jego winę.

Sztuczna inteligencja rozsadza ten mechanizm, bo nie ma tu jednego sprawcy.

W klasycznej myśli chińskiej nigdy nie stanowiło to problemu, ponieważ tam działanie było wspólne od samego początku.

Pomyśl o jeździe konnej. To nie jest ani działanie jeźdźca, ani działanie konia. Teren, wyszkolenie, uprząż, pasza, pogoda — wszystko to bierze udział w działaniu. W klasycznych tekstach chińskich działanie opisuje się właśnie tak: nie jako uderzenie jednej woli w świat, lecz jako konsystencję, w której spotyka się wiele rzeczy.

Konfucjańska etyka ról idzie dalej z tego samego miejsca. Osoba powstaje na przecięciu relacji; odpowiedzialność również nie przywiera do indywidualnej woli, tylko do roli. Odpowiedzialność lekarza wynika z tego, że jest lekarzem, a nie z jego intencji w danej chwili.

Przełożone na dziś daje to następującą rzecz. Zamiast pytania „czy model jest sprawcą“ — pytanie „kto podjął się tej roli“. Kto przedstawił rekomendację, kto ją rozprowadził, kto sprzedał, kto użył, kto miał obowiązek nadzoru. Jeśli jest rola, jest odpowiedzialność; woli mierzyć nie trzeba.

To z kolei rodzi zaskakująco praktyczne pytanie o szkodę wyrządzoną przez maszynę. Kiedy system wyrządza szkodę, co jest końcem procesu? Kara, naprawa, korekta, wyłączenie?

Nie istnieje coś takiego jak przebaczenie modelowi. Ale istnieje coś takiego jak oczyszczenie firmy — i najczęściej sprawę zamyka zdanie „zaktualizowaliśmy wadliwy model“.

---

Kwestia skali: „płodna zbrodnia“ Hobbesa

Trzeba dorzucić jeszcze jedno, bo właśnie to odróżnia szkodę wyrządzoną przez sztuczną inteligencję od szkody zwyczajnej.

Filozof Thomas Hobbes, ważąc w Lewiatanie ciężar przestępstw, wprowadził pewne rozróżnienie. Czyn, który rani wyłącznie teraźniejszość, nie waży tyle samo, co czyn, który przez przykład rani również przyszłość. Pierwszy nazywa jałowym, drugi płodnym. Płodne przestępstwo mnoży się i szkodzi wielu.

Hobbes mówi też, że pozycja sprawcy zmienia ciężar czynu. Ten sam czyn popełniony przez osobę u władzy waży więcej niż czyn zwykłego człowieka.

Oba te kryteria dają się dziś zastosować do prawa sztucznej inteligencji.

Uprzedzenie jednego człowieka zostaje w jednym pokoju. Uprzedzenie modelu powtarza się w milionach decyzji i za każdym powtórzeniem kieruje w tę samą stronę. Model jest z definicji płodną maszyną do kierowania. Zarówno w dobru, jak i w złu.

Słynny angielski historyk Edward Gibbon w swoim dziele Zmierzch Cesarstwa Rzymskiego (The History of the Decline and Fall of the Roman Empire), wydając sąd o Justynianie, stwierdza: Rzymian gniotły jednocześnie i mnogość ich własnych praw, i samowolna wola ich panów.

Czyli inflacja reguł i samowola nie są dla siebie odtrutką. Jedno spokojnie współistnieje z drugim. Dzisiejsze dokumenty zgodności, zasady etyczne i raporty przejrzystości są ogromne, jeśli liczyć strony; realna możliwość działania w rękach poszkodowanego pozostaje wciąż drobna.

Leszek Kołakowski pisał o etyce bez kodeksu: żaden zbiór reguł nie zdejmuje z człowieka ciężaru własnego osądu. Kodeks może ten ciężar co najwyżej przesłonić — i właśnie tę usługę świadczą dziś najgrubsze polityki zgodności.

Co zatem robić

Teza tego tekstu mieści się w jednym zdaniu: sprawczość nie jest czymś do odkrycia, tylko czymś do przypisania. A kiedy nie zostaje przypisana, sama z siebie osuwa się na najsłabsze ogniwo.

Da się zbudować cztery rozwiązania.

1. Pytanie „czy ta rzecz — sztuczna inteligencja — jest sprawcą“ pozostaje bez odpowiedzi od dwóch tysięcy lat i w najbliższej dekadzie też odpowiedzi nie dostanie. Pytanie, na które da się odpowiedzieć, brzmi: kto był w pozycji, by temu zapobiec, kto zyskał, kto poniósł. Wszystkie udane rozwiązania prawa zbudowano wokół tego pytania: od peculium niewolnika po odpowiedzialność pracodawcy, od osobowości prawnej spółki po podział sześćdziesiąt siedem na trzydzieści trzy w werdykcie ławy przysięgłych w sprawie Tesli.

2. Pokaż zabezpieczenie dla tego, co wypuszczasz jako autonomiczne albo wolne — może to być również agentowy przepływ pracy. Rzymska sakiewka może dziś nosić inne nazwy: obowiązkowe ubezpieczenie, wydzielony fundusz, gwarancja z określonym limitem albo coś zupełnie innego. Zasada musi zostać ta sama: jeśli spuszczasz na wodę nieprzywiązaną łódź, z góry musi być wiadomo, kto zapłaci, gdy ją poniesie. To nie zatrzymuje innowacji; to wycenia niepewność. Być może firmy ubezpieczeniowe i reasekuracyjne zbudują wokół tego osobną gospodarkę na własny rachunek.

3. Człowiek w pętli, jeśli nie ma uprawnień, nie może mieć też odpowiedzialności. Urzędnik, którego sprzeciw może go kosztować awans, nie jest ani kontrolerem, ani ostatecznym decydentem. Prawdziwy nadzór wymaga trzech rzeczy: uprawnienia do unieważnienia systemu, czasu, żeby to zrobić, i ochrony po tym, jak się to zrobi. Bez nich człowiek nie jest w pętli. Jest tylko zderzakiem.

4. Nie wolno nam traktować luki jak prawa natury. Jeśli przymkniemy oko na to, że reguły dowodowe, obowiązek prowadzenia zapisów i ujawnianie dowodów znikają — celowo albo z niewiedzy — luka odpowiedzialności będzie się poszerzać.

W sprawie osła i łodzi u Marcina Lutra obie strony miały rację i obie zarazem zawiniły. Wyrok wydany przy stole pięćset lat temu mówił, że w zdarzeniu, w którym nikt nie jest całkiem winny, nikt też nie jest całkiem niewinny.

Dzisiejsze niebezpieczeństwo jest dokładnym odwróceniem tego wyroku. Polega na tym, że dojście do wniosku, iż nikt nie zawinił, przychodzi o wiele łatwiej niż rozdzielenie winy.

Jeśli ani osioł, ani łódź nie są przywiązane, rzeka zrobi swoje. I nie powinniśmy mówić, że gniewanie się na rzekę nie ma sensu.