Quem responde quando a IA causa dano? A lacuna de responsabilidade

Sobre a agência da inteligência artificial, o valor jurídico dos atos que dela nascem e a parte que cabe ao humano nessa equação…

Uma pergunta jurídica feita em 1546

Existe um registro anotado em 1546, nas conversas de mesa de Martinho Lutero. Um caso é narrado ali.

O burro de um moleiro escapa do pátio e desce até a margem do rio. Para beber água, pisa dentro de um barco de pescador que ninguém havia amarrado. O barco é levado pela correnteza e some rio abaixo, com o burro em cima.

O moleiro perdeu o burro. O pescador perdeu o barco.

O moleiro diz: o pescador foi negligente, não amarrou o barco. O pescador diz: o moleiro foi negligente, não segurou o burro em casa.

No meio do texto há uma pergunta em latim: Nunc sequitur quid sit juris? E então, o que diz o direito?

Foi o burro que levou o barco ou o barco que levou o burro?

A sentença de Lutero cabe em duas palavras: ambo peccaverunt. Os dois erraram.

Esse parágrafo foi escrito há quinhentos anos e continua parado bem no centro do problema jurídico mais difícil que temos hoje. O movimento que produziu o dano começou sozinho, no ponto em que duas negligências se encontraram. Não há ninguém mal-intencionado na cena. Também não há ninguém que tenha, em sentido estrito, iniciado a ação. Há apenas uma coisa que não foi amarrada e outra coisa que ficou solta.

Todo o direito da inteligência artificial parece caber nesse quadro.

Existe um conceito chamado lacuna de responsabilidade

Em 2004, um pensador chamado Andreas Matthias escreveu um artigo que na época quase ninguém quis ler, e deu nome a uma ideia: lacuna de responsabilidade.

O argumento é simples e incômodo. Em sistemas que aprendem, é impossível em princípio que o fabricante ou o usuário preveja o comportamento futuro da máquina. E ser moralmente responsabilizado por algo que você não podia prever não é justo. Logo, existe dano, mas não existe ninguém que possa ser responsabilizado de forma justa.

Vinte anos depois, essa frase deixou de ser exercício acadêmico. Hoje a inteligência artificial nega crédito, contrata gente, dá diagnóstico e sugere tratamento, gira o volante do carro em que estamos, fecha contrato na compra que fazemos.

E em todo evento de dano as mesmas três frases aparecem, na mesma ordem.

O fabricante: nós fizemos o modelo, mas quem escolheu como usá-lo foi você. Quem usou: nós apenas confiamos no sistema. O sistema: o sistema não diz nada, porque o sistema não fala, ele é falado.

Agora chegou a hora da pergunta que interessa. Essa lacuna é um vazio metafísico real ou é uma indefinição muito conveniente?

A resposta deste texto é a segunda. E a prova dessa resposta está na própria história do direito.

A solução do direito romano: o que não é sujeito, mas age

O direito não conheceu com a inteligência artificial o problema dos entes “que não são pessoas, mas agem por conta própria”. Dois mil anos atrás ele já vivia dentro desse problema.

No direito romano, o escravizado não era pessoa. Juridicamente era coisa. E, sendo coisa, comprava, vendia, comprava em nome do dono, fechava contrato, gerava dívida, administrava negócio. Ou seja: um ente sem personalidade jurídica praticava atos com efeitos jurídicos.

Imagino que, antes de começar a ler este texto, colocar inteligência artificial e escravidão no mesmo caldeirão não parecesse muito possível para você também.

Roma não resolveu essa contradição com metafísica. Resolveu com mecanismo.

O que eles chamavam de peculium era um patrimônio separado, administrado de fato pelo escravizado. Ele operava dentro daquela bolsa. Quando surgia um dano, a responsabilidade do senhor ficava, como regra, limitada ao tamanho daquela bolsa. Ou seja, a responsabilidade não foi jogada inteira sobre o senhor nem foi deixada no ar. Foi amarrada a um fundo.

Juristas voltaram a discutir isso hoje. Um estudo publicado na revista jurídica de Cambridge propõe olhar diretamente para o direito romano diante da lacuna de prestação de contas da inteligência artificial. A proposta de “peculium digital” de Ugo Pagallo vem da mesma veia: se você lança um sistema autônomo no mercado, precisa apresentar também um patrimônio separado, dado em garantia em nome dele.

A lição que sai daqui é elegante e desconfortável ao mesmo tempo.

O elegante é isto: a agência não é descoberta, é atribuída. O direito romano não perguntou “o escravizado tem vontade própria”, porque não precisava perguntar. O que o direito precisava não era de uma vontade, era de um interlocutor.

O desconfortável é isto: essa solução foi desenvolvida dentro de uma das instituições mais abjetas da história humana.

Comparar uma ferramenta a um escravizado tem um custo moral; a comparação não eleva a ferramenta, ela normaliza o que foi feito com seres humanos. O que se tira daqui não é a instituição, é a técnica: o direito consegue amarrar o dano causado por um agente sem personalidade sem precisar declarar esse agente pessoa.

A mesma técnica tem outros nomes hoje. Personalidade jurídica da empresa. Responsabilidade do empregador pelo ato do empregado. Responsabilidade sem culpa na atividade perigosa. São todos conceitos jurídicos desenhados em torno do mesmo objetivo. Se existe um dano, é preciso amarrá-lo a um bolso sem ficar medindo a vontade de ninguém.

Quem convive com a responsabilidade objetiva do fornecedor conhece essa engrenagem por dentro. Ali a pergunta nunca foi se o fornecedor quis o defeito. A pergunta é quem colocou aquilo em circulação e quem assumiu o risco do próprio negócio.

O que os tribunais estão fazendo: três casos, um mesmo padrão

A inteligência artificial é muito nova na nossa vida. Por isso pode ser instrutivo largar a teoria e olhar as decisões dos últimos dois anos. Porque os tribunais já pararam de fazer a pergunta que os filósofos ainda discutem.

Em fevereiro de 2024, no Canadá, um sujeito chamado Jake Moffatt quis comprar uma passagem no site da Air Canada porque a avó havia falecido. Perguntou ao chatbot do site se conseguiria o desconto por luto. O assistente de conversa da Air Canada informou a Moffatt que o desconto por luto podia ser pedido depois. Era falso; a política real da empresa não era essa.

No tribunal, a empresa apresentou uma defesa curiosa: o bot é um ente separado, responde pelas próprias declarações.

O tribunal rejeitou a defesa. O bot é parte do próprio site da empresa; a empresa responde por toda a informação que está no seu site, venha ela de uma página estática ou de uma janela de conversa. A indenização foi pequena e simbólica, cerca de seiscentos e cinquenta dólares canadenses. Mas o princípio é grande: quem responde pelo que sai da boca da sua própria estrutura é você.

Lido por aqui, o desfecho soa quase familiar. A informação suficientemente precisa que o fornecedor coloca no seu próprio canal vincula o fornecedor e entra no contrato. O canal ter virado uma janela de chat não muda a regra; só troca o balcão de lugar.

Em agosto de 2025, na Flórida, um Tesla com o piloto automático acionado não para num cruzamento; bate num carro estacionado, uma pessoa morre, outra fica gravemente ferida. O motorista admite que estava distraído naquele instante porque havia deixado o celular cair.

Dessa vez o tribunal dividiu a culpa: motorista 67 por cento, fabricante 33 por cento. A indenização total passa de duzentos e quarenta milhões de dólares, e a maior parte é indenização punitiva. A empresa recorreu; o processo segue e ainda não terminou.

Repare: o tribunal não perguntou “o piloto automático era um agente”. Ele repartiu a culpa em porcentagem. É exatamente neste exemplo que o ambo peccaverunt de Lutero voltou à nossa vida quinhentos anos depois, em versão digital.

O terceiro exemplo não é um tribunal, é um contrato. A Mercedes anunciou que assume a responsabilidade jurídica pelos eventos ocorridos dentro do envelope operacional definido do seu sistema Drive Pilot: determinadas rodovias, determinada velocidade, determinadas condições climáticas.

O que acontece aqui é bem claro: a responsabilidade foi colocada não como descoberta, mas como compromisso. O fabricante assumiu a agência dentro de um envelope determinado.

Três episódios, um mesmo padrão. O direito não está perguntando: essa coisa, a inteligência artificial, tem vontade própria? Está perguntando: quem estava em posição de impedir e quem saiu ganhando ou perdendo com isso?

A lacuna não se fecha porque não querem fechá-la

Aqui começa o lado político da coisa, e a paisagem não é bonita.

A União Europeia tinha nas mãos, havia anos, um projeto: a Diretiva de Responsabilidade em Inteligência Artificial. Ela trazia duas coisas.

A primeira, uma presunção de nexo causal em determinadas condições — ou seja, a pessoa lesada não precisaria provar exatamente o que aconteceu dentro da caixa; o ônus de provar o contrário poderia passar ao fabricante.

A segunda, o dever de exibir provas em sistemas de alto risco — o tribunal poderia exigir os registros da empresa.

Esses dois artigos miravam bem no coração da lacuna de responsabilidade. Porque o nome verdadeiro da lacuna, na maior parte das vezes, é “impossibilidade de prova”. Quem sofreu o dano não tem o modelo, não tem os dados de treino, não tem o registro, não tem perito, e por isso provar também é impossível.

A Comissão anunciou em fevereiro de 2025 a decisão de retirar o projeto; a retirada se oficializou ao longo do ano. Como justificativa, apontou-se a falta de consenso entre as partes interessadas e a demanda por simplificação no campo digital.

Agora leia estas duas frases, uma depois da outra.

Matthias, 2004: em sistemas que aprendem, atribuir responsabilidade de forma justa é estruturalmente difícil. Bruxelas, 2025: as regras de prova que aliviariam essa dificuldade foram retiradas por demanda de simplificação no campo digital.

A primeira é uma constatação filosófica. A segunda é uma escolha política. E quando as duas se misturam, aparece algo muito útil: uma isenção com cara de lei da natureza.

A lacuna de responsabilidade não é uma descoberta. É uma porta deixada aberta. E, como toda porta aberta, alguém pode entrar por ela e tirar proveito próprio.

A parte humana, primeiro caso: a nova versão do “eu cumpria ordens”

Agora chego ao lado humano da equação, porque é ali que está a questão de fato.

Vamos recorrer ao primeiro julgamento de crimes de guerra da história. Na Guerra Civil Americana, num campo aberto nos últimos 14 meses do conflito, cerca de 45.000 soldados da União (do Norte) foram mantidos prisioneiros e aproximadamente 13.000 morreram por desnutrição, doença e más condições.

Em 1865, no julgamento da prisão de Andersonville, a defesa apresentada sobre esses fatos foi a seguinte: logo depois do fim da guerra, o comandante do campo, o capitão confederado de origem suíça Henry Wirz, foi preso, e sua defesa em resumo era esta:

— Eu cumpria ordens.

A doutrina que aquele julgamento fundou continua de pé hoje. O ser humano faz um juízo interno sobre a ordem que obedece; portanto, se a ordem fere sua humanidade de modo suficientemente profundo, ele pode desobedecer. E a frase dirigida ao réu foi esta: superior militar não é superior moral.

A versão de hoje, com inteligência artificial, fala assim: o sistema sugeriu isso. O escore estava baixo. O modelo sinalizou.

E a solução encontrada contra isso já vem pronta: vamos colocar um humano no circuito. A máquina sugere a decisão, o humano dá o aval.

Soa bem. Olhando os dados, soa um pouco menos bem.

No sistema de seguro-desemprego de Michigan descobriu-se depois que a grande maioria dos pedidos sinalizados pelo algoritmo estava errada. Mas, no mesmo período, a taxa de erro dos decisores humanos que faziam o mesmo trabalho também não era baixa. Ou seja, “supervisão humana” sozinha não constitui uma solução de segurança.

O motivo é psicológico e familiar. Se um sistema mostra a você um escore de confiança de oitenta e nove por cento, contestá-lo custa não só tempo, mas coragem. Aprovar é de graça, contestar é bem caro. O funcionário que confirma o sistema é promovido; o funcionário que trava o sistema tem que dar explicação.

O humano no circuito, sem autoridade real e sem tempo real, não se sustenta como elemento de segurança. É apenas um absorvedor. Quando o dano acontece, a culpa para ali e não sobe mais.

É preciso dizer isso abertamente: para uma organização que não quer assumir responsabilidade, a solução ideal é a decisão estar no sistema e a culpa estar no humano.

A parte humana, segundo caso: a lacuna não está vazia

Quando se fala em lacuna de responsabilidade, o que vem à cabeça é quase o vazio do espaço. Um lugar onde não há ninguém.

Há pessoas ali; elas só não são vistas, infelizmente, nesse grande vazio.

Os sistemas ditos autônomos se apoiam sobre uma camada global de trabalho que rotula dados, faz moderação de conteúdo, limpa a saída do modelo. Esse trabalho é mal pago, não tem visibilidade e tem proteção jurídica fraca.

O detalhe mais impressionante quem conta é um motorista de entregas. O sistema de vigilância verifica o cinto de segurança, e a meta pune a parada. Os motoristas passam o cinto por trás das costas. O sistema registra que o cinto está afivelado, o ser humano dirige sem cinto.

Essa cena pequena é o resumo de uma estrutura inteira. Em cima existe medição, a medição parece correta, o registro está limpo. Embaixo existe risco, e o risco não é transferido a ninguém, ele apenas escorre para baixo.

O caso do auxílio-infantil na Holanda é importante justamente por ser exceção nesse quadro. O sistema automático de fiscalização acusou milhares de famílias de fraude injustamente, e o episódio chegou até a renúncia coletiva do governo, em 2021. É um dos raros exemplos em que um dano algorítmico foi cobrado até o topo.

Ser raro mostra qual é a regra. Ou seja, na lacuna de responsabilidade não é verdade que não há ninguém na boca do canhão. Aceita-se como culpado quem tem menos poder.

A resposta do Oriente: a ação nunca foi de uma pessoa só

O direito ocidental é construído sobre singularizar a responsabilidade. Ele encontra um agente, mede sua vontade, apura sua culpa.

A inteligência artificial força essa engrenagem porque não existe um agente único.

No pensamento chinês clássico isso nunca foi problema, porque ali a ação já era compartilhada desde o início.

Pense em montar a cavalo. Isso não é ação do cavaleiro nem do cavalo. O terreno, o treino, os arreios, a ração, o clima. Tudo participa da ação. Nos textos chineses clássicos a ação é descrita assim: não é uma vontade única colidindo com o mundo, é um ponto de encontro de muitas coisas.

A ética dos papéis confuciana segue do mesmo lugar. A pessoa se constitui no cruzamento das relações; e a responsabilidade também não gruda na vontade individual, gruda no papel. A responsabilidade de um médico vem de ele ser médico, não da intenção que ele tem naquele instante.

Traduzindo isso para hoje, sai o seguinte. No lugar da pergunta “o modelo é um agente”, entra a pergunta “quem assumiu este papel”. Quem apresentou a recomendação, quem distribuiu, quem vendeu, quem usou, quem tinha o dever de fiscalizar. Se há papel, há responsabilidade; não é preciso medir vontade.

Isso produz uma pergunta inesperadamente prática para o dano causado por máquinas. Quando um sistema causa dano, qual é o fim do processo? Punição, reparação, correção ou desligamento?

Perdoar um modelo é coisa que não existe. Mas absolver uma empresa é coisa que existe, e na maior parte das vezes o assunto é encerrado com a frase “atualizamos o modelo defeituoso”.

---

A questão da escala: o “crime fértil” de Hobbes

Precisamos acrescentar mais uma coisa, porque é ela que separa o dano da inteligência artificial do dano comum.

O filósofo Thomas Hobbes, na sua obra Leviatã, faz uma distinção ao medir a gravidade dos crimes. O ato que fere apenas o presente e o ato que, pelo exemplo, também fere o futuro não têm o mesmo peso. Ao primeiro ele chama estéril, ao segundo, fértil. O crime fértil se multiplica e prejudica muita gente.

Hobbes diz ainda que a posição do agente altera o peso do ato. O mesmo ato praticado por alguém com autoridade é mais grave do que o ato de uma pessoa comum.

Esses dois critérios podem ser aplicados hoje ao direito da inteligência artificial.

O preconceito de uma pessoa fica dentro de uma sala. O preconceito de um modelo se repete em milhões de decisões e, a cada repetição, empurra para o mesmo lado. O modelo é, por definição, uma máquina fértil de direcionamento. Tanto no bem quanto no mal.

O célebre historiador inglês Edward Gibbon, na sua obra maior, História do Declínio e Queda do Império Romano (The History of the Decline and Fall of the Roman Empire), afirma no julgamento que faz sobre Justiniano: os romanos foram esmagados ao mesmo tempo pela multidão de suas leis e pela vontade arbitrária de seus senhores.

Ou seja, inflação de regras e arbitrariedade não são antídoto uma da outra. As duas convivem com folga. Os documentos de conformidade, os princípios éticos e os relatórios de transparência de hoje são imensos em número de páginas; a possibilidade concreta na mão de quem sofreu o dano continua pequena.

Então o que fazer

A tese deste texto cabe numa frase: agência não é algo a ser descoberto, é algo a ser atribuído. E, quando não é atribuída, ela cai sozinha sobre o elo mais fraco.

Dá para montar quatro soluções.

1. A pergunta “essa coisa, a inteligência artificial, é um agente” está sem resposta há dois mil anos e não será respondida na próxima década. A pergunta respondível é esta: quem estava em posição de impedir, quem ganhou, quem carregou o peso. Todas as soluções bem-sucedidas do direito foram construídas com essa pergunta; do peculium do escravizado à responsabilidade do empregador, da personalidade jurídica à divisão de 67 por cento e 33 por cento decidida pelo júri no caso Tesla.

2. Mostre a garantia daquilo que você tornou autônomo ou soltou solto (pode ser também um fluxo de trabalho com agentes). A bolsa de Roma pode receber outros nomes hoje: seguro obrigatório, fundo apartado, garantia com teto definido ou um nome completamente diferente. O princípio deve continuar o mesmo: se você está soltando na água um barco não amarrado, quem vai pagar quando ele for levado precisa estar definido de antemão. Isso não trava a inovação; precifica a incerteza. Talvez as seguradoras e resseguradoras consigam até produzir uma economia própria a partir disso.

3. O humano no circuito, se não tem autoridade, também não pode ter responsabilidade. Um funcionário para quem contestar pode custar a promoção não consegue ser fiscal nem decisor final. Fiscalização de verdade exige três coisas: autoridade para anular o sistema, tempo para fazer isso e proteção depois de tê-lo anulado. Sem isso, o humano não está no circuito, está apenas na posição de para-choque.

4. Não devemos tratar a lacuna como lei da natureza. Se fecharmos os olhos enquanto as regras de prova, o dever de manter registros e a exibição de provas são retirados do caminho — de propósito ou por desconhecimento —, a lacuna de responsabilidade se alarga.

No caso do Burro e do Barco de Martinho Lutero, os dois lados tinham razão e os dois eram culpados ao mesmo tempo. A sentença dada numa mesa há quinhentos anos dizia que, num episódio em que ninguém é totalmente culpado, ninguém é totalmente inocente também.

O perigo de hoje é exatamente o inverso daquela sentença. Ele está no fato de que chegar à conclusão de que ninguém é culpado é muito mais fácil do que atribuir a culpa.

Se nem o burro nem o barco estão amarrados, o rio resolve o assunto. E não devemos dizer que ficar bravo com o rio não tem sentido nenhum.