De ezel, de boot en de vraag wie aansprakelijk is

Over het handelingsvermogen van kunstmatige intelligentie, de juridische weerslag van wat zij doet en het aandeel van de mens in die vergelijking…

Een rechtsvraag uit 1546

In de tafelgesprekken van Maarten Luther staat een aantekening uit 1546. Er wordt een zaak verteld.

De ezel van een molenaar breekt uit van het erf en daalt af naar de rivier. Om te drinken zet hij een stap in een vissersboot die niet is vastgelegd. De boot vat de stroom en drijft weg, met ezel en al.

De molenaar is zijn ezel kwijt. De visser zijn boot.

De molenaar zegt: de visser heeft nagelaten zijn boot vast te leggen. De visser zegt: de molenaar heeft nagelaten zijn ezel thuis te houden.

Midden in de tekst staat een Latijnse vraag: Nunc sequitur quid sit juris? En wat zegt het recht?

Heeft de ezel de boot meegevoerd, of de boot de ezel?

Luthers oordeel beslaat twee woorden: ambo peccaverunt. Beiden hebben gefaald.

Die alinea werd vijfhonderd jaar geleden geschreven en staat nog altijd midden in het moeilijkste juridische vraagstuk dat wij vandaag in handen hebben. De beweging die de schade veroorzaakte, begon vanzelf, precies op het punt waar twee nalatigheden elkaar troffen. Er is niemand met kwade opzet. Er is ook niemand die de handeling in volle zin heeft ingezet. Er is alleen iets wat niet was vastgelegd, en iets anders dat losraakte.

Het hele recht rond kunstmatige intelligentie lijkt in dat tafereel te passen.

Er bestaat zoiets als een verantwoordelijkheidskloof

In 2004 schreef een denker met de naam Andreas Matthias een artikel waar destijds weinig aandacht voor was, en gaf hij een begrip een naam: de verantwoordelijkheidskloof.

Zijn argument is eenvoudig en ongemakkelijk. Bij lerende systemen is het voor de producent of de gebruiker principieel onmogelijk om het toekomstige gedrag van de machine te voorzien. En moreel aansprakelijk worden gehouden voor iets wat je niet kon voorzien, is niet rechtvaardig. Dus: er is schade, maar er is niemand die daarvoor op een eerlijke manier verantwoordelijk kan worden gehouden.

Twintig jaar later is die zin geen academische oefening meer. Kunstmatige intelligentie weigert vandaag kredieten, neemt mensen aan, stelt diagnoses en beveelt behandelingen aan, draait het stuur van de auto waarin we zitten, sluit contracten bij de aankopen die we doen.

En bij elk schadegeval worden dezelfde drie zinnen achter elkaar uitgesproken.

De producent: wij hebben het model gemaakt, maar u koos hoe het gebruikt werd. De gebruiker: wij hebben alleen op het systeem vertrouwd. Het systeem: het systeem zegt niets, want een systeem spreekt niet, er wordt over gesproken.

Nu is het moment gekomen om de eigenlijke vraag te stellen. Is die kloof een echte metafysische leegte, of een uiterst bruikbare onduidelijkheid?

Het antwoord van dit stuk is het tweede. En het bewijs daarvoor ligt in de geschiedenis van het recht zelf.

De oplossing van het Romeinse recht: geen dader, maar wel handelend

Het recht ontmoette het probleem van “wezens die geen persoon zijn maar zelfstandig handelen” niet voor het eerst bij kunstmatige intelligentie. Tweeduizend jaar geleden leefde het er middenin.

In het Romeinse recht was de slaaf geen persoon. Juridisch was hij een zaak. Hij werd gekocht en verkocht, en tegelijk kocht hij, verkocht hij, sloot hij contracten, schiep hij schulden en bestuurde hij bedrijven namens zijn eigenaar. Een wezen zonder rechtspersoonlijkheid verrichtte dus handelingen met rechtsgevolg.

Voordat u aan dit stuk begon, leek het waarschijnlijk ook voor u niet erg mogelijk om kunstmatige intelligentie en het begrip slavernij in één smeltkroes te leggen.

Rome loste die tegenstrijdigheid niet op met metafysica. Het loste haar op met een mechanisme.

Wat zij peculium noemden, was een afgescheiden vermogen dat de slaaf feitelijk beheerde. Binnen die beurs deed hij zaken. Ontstond er schade, dan was de aansprakelijkheid van de meester in de regel begrensd tot de omvang van die beurs. De verantwoordelijkheid werd dus niet volledig op de meester afgewenteld, en evenmin in de lucht gelaten. Zij werd aan een fonds gekoppeld.

Juristen bespreken dit vandaag opnieuw. Een studie in het rechtstijdschrift van Cambridge stelt voor om voor de accountability-kloof van kunstmatige intelligentie rechtstreeks naar het Romeinse recht te kijken. Ook het voorstel van Ugo Pagallo voor een “digitaal peculium” komt uit dezelfde ader: breng je een autonoom systeem op de markt, dan moet je namens dat systeem ook een afgescheiden, gezekerd vermogen aanwijzen.

De les die hieruit volgt is elegant en tegelijk ongemakkelijk.

Het elegante is dit: daderschap wordt niet ontdekt, het wordt toegewezen. Het Romeinse recht vroeg niet “heeft de slaaf een wil”, omdat het die vraag niet nodig had. Wat het recht nodig had was geen wil, maar een aanspreekbare partij.

Het ongemakkelijke is dit: die oplossing is ontwikkeld binnen een van de weerzinwekkendste instituties uit de menselijke geschiedenis.

Een werktuig met een slaaf vergelijken heeft een morele prijs; de vergelijking verheft het werktuig niet, zij normaliseert wat mensen is aangedaan. Wat je hier meeneemt is niet de institutie zelf, maar de techniek: het recht kan de schade van een handelende entiteit zonder persoonlijkheid ook binden zonder die entiteit tot persoon uit te roepen.

Dezelfde techniek draagt vandaag andere namen. Rechtspersoonlijkheid van ondernemingen. Aansprakelijkheid van de werkgever voor de daad van de werknemer. Risicoaansprakelijkheid bij gevaarlijke activiteiten. Het zijn allemaal rechtsfiguren die rond hetzelfde doel zijn gebouwd. Is er schade, dan moet die schade aan een portemonnee worden gekoppeld, zonder eerst iemands wil te meten.

Wat doen rechters: drie zaken, één patroon

Kunstmatige intelligentie is heel nieuw in ons leven. Daarom kan het leerzaam zijn de theorie even te laten liggen en naar de uitspraken van de laatste twee jaar te kijken. Want rechters zijn allang gestopt met de vraag waar filosofen nog over twisten.

In februari 2024 wil een man in Canada, Jake Moffatt, via de site van Air Canada een ticket kopen omdat zijn grootmoeder is overleden. Hij vraagt aan de chatbot op de site of hij in aanmerking komt voor rouwkorting. De chatassistent van Air Canada laat hem weten dat rouwkorting ook achteraf kan worden aangevraagd. Dat klopt niet; het werkelijke beleid van het bedrijf luidt anders.

Voor de geschillencommissie voert het bedrijf een opmerkelijk verweer: de bot is een aparte entiteit en is zelf verantwoordelijk voor zijn eigen uitlatingen.

Dat verweer wordt verworpen. De bot is onderdeel van de eigen website van het bedrijf; het bedrijf is verantwoordelijk voor alle informatie op die site, of die nu van een statische pagina komt of uit een chatvenster. De schadevergoeding is klein en symbolisch, ongeveer zeshonderdvijftig Canadese dollar. Maar het beginsel is groot: wat uit de mond van je eigen organisatie komt, komt voor jouw rekening.

In augustus 2025 stopt in Florida een Tesla met ingeschakelde autopilot niet bij een kruising; de auto raakt een geparkeerd voertuig, één persoon overlijdt, één raakt zwaargewond. De bestuurder erkent dat hij op dat moment was afgeleid omdat hij zijn telefoon had laten vallen.

Deze keer wordt de schuld verdeeld: de bestuurder 67 procent, de fabrikant 33 procent. De totale schadevergoeding overschrijdt de tweehonderdveertig miljoen dollar en bestaat grotendeels uit punitieve schadevergoeding. Het bedrijf gaat in beroep; de procedure loopt nog en is niet afgerond.

Let op: er werd niet gevraagd of de autopilot een dader was. De schuld werd in percentages verdeeld. Precies hier keerde Luthers ambo peccaverunt vijfhonderd jaar later in digitale vorm terug in ons leven.

Ons derde voorbeeld is geen rechtszaak maar een contract. Mercedes verklaarde de juridische aansprakelijkheid op zich te nemen voor voorvallen die zich voordoen binnen de gedefinieerde werkingsenvelop van zijn systeem Drive Pilot: bepaalde snelwegen, bepaalde snelheden, bepaalde weersomstandigheden.

Wat hier gebeurt is glashelder: aansprakelijkheid werd niet als ontdekking neergezet, maar als toezegging. De producent nam het daderschap binnen een afgebakende envelop op zich.

Drie gevallen, één patroon. Het recht vraagt niet: heeft dit ding, deze kunstmatige intelligentie, een wil? Het vraagt: wie was in de positie om het te voorkomen, en wie werd er beter of slechter van?

De kloof gaat niet dicht, omdat men haar niet dicht wil hebben

Hier begint de politieke kant, en het uitzicht is niet mooi.

De Europese Unie had jarenlang een voorstel in handen: de richtlijn inzake AI-aansprakelijkheid. Die bracht twee dingen.

Ten eerste, onder bepaalde voorwaarden een vermoeden van causaliteit. De benadeelde zou niet hoeven bewijzen wat er precies binnen in de doos gebeurde; de bewijslast van het tegendeel kon naar de producent verschuiven.

Ten tweede, een plicht tot openbaarmaking van bewijs bij systemen met een hoog risico. De rechter zou de logbestanden bij het bedrijf kunnen opvragen.

Die twee bepalingen richtten zich op het hart van de verantwoordelijkheidskloof. Want de werkelijke naam van die kloof is meestal “onmogelijkheid van bewijs”. De benadeelde heeft geen model, geen trainingsdata, geen logs en geen expert, en kan daarom niets bewijzen.

De Commissie kondigde in februari 2025 haar besluit aan het voorstel in te trekken; die intrekking werd in de loop van dat jaar formeel. Als reden werden aangevoerd: gebrek aan overeenstemming tussen belanghebbenden en de vraag om vereenvoudiging in het digitale domein.

Lees deze twee zinnen nu achter elkaar.

Matthias 2004: bij lerende systemen is het structureel moeilijk om verantwoordelijkheid eerlijk toe te rekenen. Brussel 2025: de bewijsregels die deze moeilijkheid zouden verlichten, zijn ingetrokken wegens de vraag om vereenvoudiging in het digitale domein.

De eerste is een filosofische vaststelling. De tweede is een politieke keuze. En wanneer je die twee door elkaar haalt, ontstaat er iets bijzonder bruikbaars: een vrijstelling die eruitziet als een natuurwet.

De verantwoordelijkheidskloof is geen ontdekking. Het is een opengelaten deur. En zoals bij elke open deur kan iemand daar binnenlopen en er voordeel uit halen.

Het aandeel van de mens, eerste vorm: de nieuwe versie van “ik kreeg bevel”

Nu kom ik bij de menselijke kant van de vergelijking, want daar zit de kern.

Laten we het eerste oorlogsmisdadenproces uit de geschiedenis erbij halen. In de Amerikaanse Burgeroorlog werden in een kamp dat in de laatste veertien maanden van de oorlog werd geopend ongeveer 45.000 soldaten van de Unie gevangen gehouden; door ondervoeding, ziekte en slechte omstandigheden kwamen ongeveer 13.000 van hen om het leven. In 1865, in het proces rond de gevangenis van Andersonville, luidde het verweer over deze gebeurtenissen als volgt. Direct na het einde van de oorlog werd de commandant van het kamp, de in Zwitserland geboren Confederale kapitein Henry Wirz, gearresteerd. Zijn verdediging kwam kort gezegd hierop neer:

— Ik kreeg bevel.

De doctrine die dat proces vestigde staat vandaag nog overeind. Een mens vormt een innerlijk oordeel over het bevel dat hij opvolgt; kwetst dat bevel zijn menselijkheid diep genoeg, dan kan hij ongehoorzaam zijn. En de zin die de beklaagde voor de voeten werd geworpen luidde: een militaire meerdere is geen morele meerdere.

De hedendaagse AI-versie klinkt zo: het systeem stelde het zo voor. De score was laag. Het model gaf een signaal.

Ook de oplossing die daartegen is bedacht ligt klaar: zet een mens in de lus. Laat de machine het besluit voorstellen en de mens het goedkeuren.

Dat klinkt goed. Kijk je naar de cijfers, dan klinkt het minder goed.

In het werkloosheidssysteem van Michigan bleek achteraf dat het overgrote deel van de aanvragen die het algoritme had gemarkeerd, onterecht gemarkeerd was. Maar in diezelfde periode was het foutpercentage van de menselijke beslissers die hetzelfde werk deden evenmin laag. “Menselijk toezicht” vormt op zichzelf dus geen veiligheidsoplossing.

De reden daarvoor is psychologisch en vertrouwd. Toont een systeem je een betrouwbaarheidsscore van negenentachtig procent, dan kost het niet alleen tijd om ertegenin te gaan, maar ook moed. Goedkeuren is gratis, bezwaar maken is duur. De ambtenaar die het systeem bevestigt wordt bevorderd; de ambtenaar die het systeem stopzet moet zich verantwoorden.

Daar komt iets bij dat in het bestuursrecht vertrouwd klinkt. Een ambtenaar kan alleen afwijken als de regeling hem ruimte laat om af te wijken. Is een stelsel volgens het principe alles of niets ontworpen, dan is de mens achter het loket formeel wel de beslisser, maar praktisch de doorgever van een uitkomst die al eerder is vastgelegd. Discretionaire ruimte is geen luxe; het is de voorwaarde waaronder toezicht überhaupt iets betekent.

De mens in de lus kan zonder werkelijke bevoegdheid en werkelijke tijd niet als veiligheidselement worden neergezet. Hij is enkel een absorber. Doet de schade zich voor, dan blijft de schuld daar staan en klimt niet hoger.

Dat moet hardop worden gezegd: voor een organisatie die geen verantwoordelijkheid wil dragen, is de ideale inrichting die waarin het besluit in het systeem zit en de schuld bij de mens.

Het aandeel van de mens, tweede vorm: de kloof is niet leeg

Bij het woord verantwoordelijkheidskloof denk je bijna aan de leegte van de ruimte. Een plek waar niemand is.

Daar zijn wel degelijk mensen. Ze zijn in die grote leegte alleen helaas niet zichtbaar.

Zogenaamd autonome systemen rusten op een wereldwijde arbeidslaag die data labelt, content modereert en de output opschoont. Dat werk is slecht betaald, onzichtbaar en juridisch zwak beschermd.

Het meest treffende detail komt van een pakketbezorger. Het cameratoezicht controleert de veiligheidsgordel, terwijl het quotum elke stilstand bestraft. Chauffeurs gespen de gordel achter hun rug om. Het systeem registreert dat de gordel om is; de mens rijdt zonder gordel.

Dat kleine tafereel vat een heel bouwwerk samen. Bovenin wordt gemeten, de meting ziet er juist uit, de registratie is schoon. Onderin zit het risico, en dat risico wordt aan niemand overgedragen; het stroomt alleen naar beneden.

De Nederlandse toeslagenaffaire is juist belangrijk omdat zij de uitzondering op dit beeld vormt. Een geautomatiseerd controlesysteem beschuldigde duizenden gezinnen ten onrechte van fraude, en de zaak liep uit op het collectieve aftreden van de regering in 2021. Dit is een van de zeldzame voorbeelden waarin voor algoritmische schade tot aan de top verantwoording is afgelegd.

Toch loont het de moeite nauwkeurig te zijn over wat er precies is afgelegd. Het parlementaire onderzoek vatte de zaak samen onder de titel Ongekend onrecht; een eerdere adviescommissie sprak over institutionele vooringenomenheid. Ouders werden weggezet als fraudeur om een ontbrekende handtekening of een te laat ingeleverd papier, moesten tienduizenden euro’s ineens terugbetalen en verloren jaren van hun leven aan een dossier dat zij zelf niet konden inzien. Het aftreden was echt, maar het was politiek. Persoonlijk werd vrijwel niemand aangesproken, en de hersteloperatie duurde daarna nog jaren. Er is dus wel degelijk verantwoording afgelegd, alleen op het niveau waar dat het minst pijn deed.

Dat het zeldzaam is, laat zien wat de regel is. In de verantwoordelijkheidskloof staat dus niet niemand voor de loop. Als schuldige wordt degene met de minste macht aanvaardbaar geacht.

Het antwoord van het Oosten: handelen was nooit een zaak van één persoon

Het westerse recht is gebouwd op het individualiseren van verantwoordelijkheid. Het zoekt één dader, meet zijn wil, stelt zijn schuld vast.

Kunstmatige intelligentie zet dat mechanisme onder druk, want er is geen enkele dader.

In het klassieke Chinese denken was dat nooit een probleem, want daar was handelen van meet af aan gedeeld.

Denk aan paardrijden. Dat is niet de handeling van de ruiter en evenmin die van het paard. Het terrein, de training, het tuig, het voer, het weer. Alles doet mee aan de handeling. In klassieke Chinese teksten wordt handelen zo beschreven: niet één wil die op de wereld botst, maar een samenkomen van vele dingen tot de juiste consistentie.

De confuciaanse rolethiek zet vanaf datzelfde punt door. De persoon ontstaat op het kruispunt van relaties; ook verantwoordelijkheid hecht zich niet aan de individuele wil, maar aan de rol. De verantwoordelijkheid van een arts komt voort uit het feit dat hij arts is, niet uit zijn intentie op dat moment.

Vertaald naar vandaag levert dat het volgende op. In plaats van “is het model een dader” de vraag “wie heeft deze rol op zich genomen”. Wie deed het voorstel, wie distribueerde het, wie verkocht het, wie gebruikte het, wie had de taak toezicht te houden. Waar een rol is, is verantwoordelijkheid; de wil hoeft niet gemeten te worden.

Dat levert voor machineschade een onverwacht praktische vraag op. Wat is het einde van het proces wanneer een systeem schade heeft aangericht? Straf, herstel, correctie, of afsluiten?

Een model vergeven bestaat niet. Maar een bedrijf schoonwassen bestaat wel, en meestal wordt dat afgedekt met de zin “we hebben het foutieve model geüpdatet”.

---

De kwestie van schaal: het “vruchtbare misdrijf” van Hobbes

Er moet nog iets bij, want dit is wat schade door kunstmatige intelligentie onderscheidt van gewone schade.

De filosoof Thomas Hobbes maakt in zijn werk Leviathan, bij het wegen van de zwaarte van misdrijven, een onderscheid. Een daad die alleen het heden beschadigt weegt niet even zwaar als een daad die door het voorbeeld dat zij stelt ook de toekomst beschadigt. De eerste noemt hij onvruchtbaar, de tweede vruchtbaar. Een vruchtbaar misdrijf vermeerdert zich en schaadt vele mensen.

Hobbes zegt bovendien dat de positie van de dader het gewicht van de daad verandert. Dezelfde daad weegt zwaarder bij iemand met gezag dan bij een gewoon persoon.

Die twee maatstaven zijn vandaag toepasbaar op het recht rond kunstmatige intelligentie.

Het vooroordeel van één mens blijft in één kamer. Het vooroordeel van een model herhaalt zich in miljoenen besluiten en stuurt bij elke herhaling dezelfde kant op. Een model is per definitie een vruchtbare stuurmachine. In het goede zowel als in het kwade.

Het verschil zit in de vermenigvuldiging. Neemt een risicomodel een kenmerk mee dat met de zaak zelf niets te maken heeft, bijvoorbeeld een tweede nationaliteit, dan wordt één vooroordeel geen incident maar een productielijn. De privacytoezichthouder oordeelde in het Nederlandse geval dat die verwerking onrechtmatig en discriminerend was. Het vooroordeel zelf was niet nieuw; nieuw was de snelheid waarmee het zich kon herhalen.

De beroemde Engelse historicus Edward Gibbon merkt in zijn hoofdwerk The History of the Decline and Fall of the Roman Empire, in zijn oordeel over Justinianus, het volgende op: de Romeinen werden tegelijkertijd verpletterd door de veelheid van hun wetten en door de willekeurige wil van hun meesters.

Regelinflatie en willekeur zijn dus geen tegengif voor elkaar. Ze leven moeiteloos samen. De nalevingsdocumenten, ethische beginselen en transparantierapporten van vandaag zijn qua paginatal enorm; de feitelijke mogelijkheid in handen van de benadeelde is nog altijd klein.

En wat moeten we dan doen

De stelling van dit stuk past in één zin: daderschap is niet iets wat ontdekt moet worden, maar iets wat toegewezen moet worden. En wordt het niet toegewezen, dan valt het vanzelf op de zwakste schakel.

Er zijn vier oplossingen te bouwen.

1. De vraag “is dit ding, deze kunstmatige intelligentie, een dader” is al tweeduizend jaar onbeantwoord en zal ook het komende decennium niet worden beantwoord. De beantwoordbare vraag is: wie was in de positie om het te voorkomen, wie won erbij, wie droeg de last. Alle geslaagde oplossingen van het recht zijn met die vraag gebouwd; van het peculium van de slaaf tot de aansprakelijkheid van de werkgever, van de rechtspersoon tot de verdeling van 67 tegen 33 procent in het oordeel van de jury in de Tesla-zaak.

2. Toon zekerheid voor wat je autonoom maakt of loslaat, en dat kan ook een agentic workflow zijn. De beurs van Rome kan vandaag andere namen dragen: een verplichte verzekering, een afgescheiden fonds, een garantie met een bekend plafond, of een heel andere naam. Het beginsel moet hetzelfde blijven: laat je een boot te water die niet is vastgelegd, dan moet vooraf duidelijk zijn wie betaalt als hij wegdrijft. Dat stopt innovatie niet; het beprijst onzekerheid. Misschien kunnen verzekeraars en herverzekeraars daar voor zichzelf zelfs een aparte economie uit laten groeien.

3. Wie in de lus geen bevoegdheid heeft, kan ook niet verantwoordelijk zijn. Een ambtenaar voor wie bezwaar maken zijn promotie kan kosten, kan geen toezichthouder of eindbeslisser zijn. Echt toezicht vraagt drie dingen: de bevoegdheid om het systeem te overrulen, de tijd om dat te doen, en bescherming wanneer je het doet. Ontbreken die, dan staat de mens niet in de lus maar enkel in de bumper.

4. We moeten de kloof niet voor een natuurwet houden. Laten we toe dat bewijsregels, bewaarplichten en de openbaarmaking van bewijs opzettelijk of uit onwetendheid uit het midden verdwijnen, dan wordt de verantwoordelijkheidskloof groter.

In de ezel-en-bootzaak van Maarten Luther hadden beide partijen gelijk en waren zij beiden tegelijk in gebreke. Het oordeel dat vijfhonderd jaar geleden aan een tafel werd geveld, zei dat in een voorval waarin niemand volledig schuldig is, ook niemand volledig onschuldig is.

Het gevaar van vandaag is precies het omgekeerde van dat oordeel. Het schuilt erin dat de conclusie “niemand is in gebreke” veel makkelijker te bereiken is dan het aanwijzen van gebrek.

Zijn zowel de ezel als de boot niet vastgelegd, dan doet de rivier het werk. En we moeten niet zeggen dat het geen zin heeft boos te worden op de rivier.