IA : l'agentivité, la responsabilité juridique et la part de l'humain

Sur l’agentivité de l’intelligence artificielle, la traduction juridique des actes qu’elle produit, et la part de l’humain dans cette équation…

Une question de droit posée en 1546

Dans les propos de table de Martin Luther, une note datée de 1546 rapporte une affaire.

L’âne d’un meunier s’échappe de la cour et descend vers la rivière. Pour boire, il pose le pied dans la barque d’un pêcheur, restée sans amarre. Le courant emporte la barque, et l’âne avec elle.

Le meunier a perdu son âne. Le pêcheur, sa barque.

Le meunier dit : le pêcheur a négligé d’amarrer sa barque. Le pêcheur dit : le meunier a négligé de garder son âne chez lui.

Au milieu du texte, une question en latin : Nunc sequitur quid sit juris ? Et maintenant, que dit le droit ?

Est-ce l’âne qui a emporté la barque, ou la barque qui a emporté l’âne ?

La sentence de Luther tient en deux mots : ambo peccaverunt. Tous deux sont en faute.

Deux siècles et demi plus tard, le Code civil rangera cette scène sous deux articles voisins. La barque relève de la garde d’une chose ; l’âne relève de la garde d’un animal, et le texte prend soin de préciser que le propriétaire « est responsable du dommage que l’animal a causé, soit que l’animal fût sous sa garde, soit qu’il fût égaré ou échappé ». L’échappée ne libère personne. Elle déplace seulement la question vers celui qui avait la garde.

Ce paragraphe a été écrit il y a cinq cents ans, et il se tient encore au cœur exact du problème juridique le plus difficile que nous ayons aujourd’hui entre les mains. Le mouvement qui produit le dommage a commencé tout seul, à l’endroit où deux négligences se sont rencontrées. Personne n’est de mauvaise foi. Personne n’a non plus, à proprement parler, déclenché l’action. Il n’y a qu’une chose qu’on n’a pas attachée et une autre qui s’est libérée.

Tout le droit de l’intelligence artificielle semble tenir dans ce tableau.

Il existe une notion : le vide de responsabilité

En 2004, un penseur du nom d’Andreas Matthias publie un article dont presque personne ne se soucie alors, et il nomme une chose : le vide de responsabilité.

Son argument est simple et dérangeant. Dans les systèmes apprenants, il est par principe impossible au fabricant ou à l’utilisateur de prévoir le comportement futur de la machine. Or être tenu moralement responsable de ce qu’on ne pouvait pas prévoir n’est pas juste. Il y a donc un dommage, mais personne que l’on puisse équitablement tenir pour responsable.

Vingt ans plus tard, cette phrase a cessé d’être un exercice académique. L’intelligence artificielle refuse aujourd’hui des crédits, recrute, pose des diagnostics et propose des traitements, tourne le volant de la voiture dans laquelle nous montons, conclut le contrat de l’achat que nous faisons.

Et à chaque dommage, les mêmes trois phrases se succèdent.

Le fabricant : nous avons fait le modèle, mais c’est vous qui avez choisi comment l’utiliser. L’utilisateur : nous n’avons fait que nous fier au système. Le système : le système ne dit rien, parce qu’un système ne parle pas, on parle de lui.

Le moment est venu de poser la vraie question. Ce vide est-il un vide métaphysique réel, ou une incertitude très commode ?

La réponse de ce texte est la seconde. Et la preuve de cette réponse se trouve dans l’histoire du droit lui-même.

La solution du droit romain : agir sans être sujet de droit

Ce n’est pas avec l’intelligence artificielle que le droit a découvert le problème des êtres « qui ne sont pas des personnes mais qui agissent d’eux-mêmes ». Il y a deux mille ans, il vivait déjà dedans.

En droit romain, l’esclave n’était pas une personne. Juridiquement, c’était une marchandise. On l’achetait, on le vendait — et lui achetait, vendait, concluait des contrats, faisait naître des dettes, dirigeait une exploitation au nom de son maître. Autrement dit, un être dépourvu de personnalité juridique accomplissait des actes produisant des effets de droit.

Avant d’entamer cet article, faire fondre dans le même creuset l’intelligence artificielle et la condition servile ne vous paraissait sans doute pas très possible non plus.

Rome n’a pas résolu cette contradiction par la métaphysique. Elle l’a résolue par un mécanisme.

Ce qu’ils appelaient peculium était un patrimoine séparé, effectivement géré par l’esclave. C’est dans cette bourse qu’il faisait ses affaires. Quand un dommage survenait, la responsabilité du maître était en règle générale bornée à la taille de cette bourse. La responsabilité n’était donc ni entièrement rejetée sur le maître, ni laissée en suspens. Elle était rattachée à un fonds.

Les juristes en reparlent aujourd’hui. Une étude parue dans la revue de droit de Cambridge propose de regarder directement du côté du droit romain pour combler le déficit de reddition de comptes de l’intelligence artificielle. La proposition de « pécule numérique » formulée par Ugo Pagallo vient de la même veine : si tu mets sur le marché un système autonome, tu dois aussi désigner un patrimoine distinct, donné en garantie en son nom.

La leçon qui en sort est élégante, et en même temps dérangeante.

L’élégance tient à ceci : l’agentivité ne se découvre pas, elle s’attribue. Le droit romain n’a pas demandé « l’esclave a-t-il une volonté ? », parce qu’il n’avait pas besoin de le demander. Ce dont le droit avait besoin, ce n’était pas d’une volonté, mais d’un interlocuteur.

Ce qui dérange, c’est ceci : cette solution a été mise au point à l’intérieur de l’une des institutions les plus abjectes de l’histoire humaine.

Comparer un outil à un esclave a un coût moral ; la comparaison n’élève pas l’outil, elle normalise ce qui a été fait à des êtres humains. Ce qu’il faut prendre ici, ce n’est pas l’institution, c’est la technique : le droit peut rattacher le dommage causé par un agent sans personnalité sans avoir à déclarer cet agent personne.

Cette même technique porte aujourd’hui d’autres noms. La personnalité morale. La responsabilité du commettant du fait de son préposé. La responsabilité sans faute en matière d’activité dangereuse. Autant de constructions juridiques ordonnées à la même fin. S’il y a un dommage, il faut le rattacher à une poche, sans aller sonder la volonté de quiconque.

Ce que font les tribunaux : trois affaires, un seul motif

L’intelligence artificielle est très neuve dans nos vies. Il peut donc être instructif de laisser la théorie et de regarder les décisions des deux dernières années. Car les tribunaux, eux, ont depuis longtemps cessé de poser la question que les philosophes discutent encore.

En février 2024, au Canada, un certain Jake Moffatt veut acheter un billet sur le site d’Air Canada : sa grand-mère vient de mourir. Il demande au robot conversationnel du site s’il peut bénéficier du tarif deuil. L’assistant lui répond que la réduction peut être demandée après coup. C’est faux ; la véritable politique de la compagnie ne dit pas cela.

Devant le tribunal, l’entreprise avance une défense intéressante : le robot est une entité distincte, il répond lui-même de ses propres déclarations.

Le tribunal écarte cette défense. Le robot est une partie du site de l’entreprise ; l’entreprise répond de toute l’information figurant sur son site, que cette information vienne d’une page statique ou d’une fenêtre de discussion. L’indemnisation est modeste et symbolique, environ six cent cinquante dollars canadiens. Mais le principe est grand : ce qui sort de la bouche de ta propre organisation, c’est toi qui en réponds.

En août 2025, en Floride, une Tesla en pilotage automatique ne s’arrête pas à un carrefour ; elle percute un véhicule en stationnement, une personne meurt, une autre est grièvement blessée. Le conducteur reconnaît qu’à cet instant son attention avait été détournée : il avait fait tomber son téléphone.

Cette fois, le tribunal partage la faute : 67 % pour le conducteur, 33 % pour le constructeur. L’indemnisation totale dépasse deux cent quarante millions de dollars, pour l’essentiel en dommages punitifs. L’entreprise a interjeté appel ; la procédure suit son cours et n’est pas encore close.

Notez-le bien : le tribunal n’a pas demandé « le pilote automatique était-il un agent ? ». Il a découpé la faute en pourcentages. C’est exactement dans cet exemple que l’ambo peccaverunt de Luther revient dans nos vies, cinq cents ans plus tard, sous forme numérique.

Notre troisième exemple n’est pas un jugement, c’est un contrat. Mercedes a annoncé assumer la responsabilité juridique des événements survenant à l’intérieur de l’enveloppe de fonctionnement définie de son système Drive Pilot : certaines autoroutes, certaines vitesses, certaines conditions météorologiques.

Ce qui se passe là est très clair : la responsabilité n’a pas été installée comme une découverte, mais comme un engagement. Le constructeur a endossé l’agentivité à l’intérieur d’une enveloppe déterminée.

Trois affaires, un seul motif. Le droit ne demande pas : cette chose — l’intelligence artificielle — a-t-elle une volonté ? Il demande : qui était en position d’empêcher, et qui en a tiré profit ou dommage ?

Ce qui frappe ici, c’est que ces deux questions existaient déjà, mot pour mot, avant que les machines ne se mettent à décider. Pour désigner celui qui a la garde d’une chose, la jurisprudence a retenu trois termes : l’usage, la direction et le contrôle. Rien dans ces trois mots ne réclame une conscience. Ils décrivent une position, et une position se constate.

Le vide ne se comble pas, parce qu’on ne veut pas le combler

C’est ici que commence le versant politique de l’affaire, et le paysage n’est pas beau.

L’Union européenne avait depuis des années un projet dans ses tiroirs : la directive sur la responsabilité en matière d’intelligence artificielle. Elle apportait deux choses.

La première, une présomption de causalité dans certaines conditions — autrement dit, la personne lésée n’aurait pas eu à prouver ce qui s’était exactement passé dans la boîte ; la charge de la preuve contraire aurait pu passer au fabricant.

La seconde, une obligation de divulgation des éléments de preuve pour les systèmes à haut risque — le tribunal aurait pu réclamer les journaux d’enregistrement à l’entreprise.

Ces deux dispositions visaient le cœur exact du vide de responsabilité. Car le vrai nom de ce vide, la plupart du temps, c’est « impossibilité de prouver ». La victime n’a ni le modèle, ni les données d’entraînement, ni les enregistrements, ni l’expert — et donc aucun moyen de prouver quoi que ce soit.

La Commission a annoncé en février 2025 sa décision de retirer le texte ; le retrait a été officialisé dans l’année. Les motifs invoqués : l’absence de consensus entre les parties prenantes et la demande de simplification dans le domaine numérique.

Lisez maintenant ces deux phrases l’une après l’autre.

Matthias, 2004 : dans les systèmes apprenants, attribuer équitablement la responsabilité est structurellement difficile. Bruxelles, 2025 : les règles de preuve qui auraient allégé cette difficulté ont été retirées au nom de la simplification du domaine numérique.

La première est un constat philosophique. La seconde est un choix politique. Et quand on mélange les deux, il en sort quelque chose de très utile : une exemption qui a l’air d’une loi de la nature.

Le vide de responsabilité n’est pas une découverte. C’est une porte laissée ouverte. Et comme devant toute porte ouverte, quelqu’un peut entrer et en tirer un avantage.

La part de l’humain, premier cas : la nouvelle version de « j’ai obéi aux ordres »

J’en viens maintenant au côté humain de l’équation, car c’est là que se joue l’essentiel.

Remontons au premier procès pour crimes de guerre de l’histoire. Pendant la guerre de Sécession américaine, dans un camp ouvert au cours des quatorze derniers mois du conflit, environ 45 000 soldats de l’Union furent détenus, et près de 13 000 d’entre eux moururent de sous-alimentation, de maladie et de mauvaises conditions.

En 1865, au procès de la prison d’Andersonville, voici la défense présentée sur ces faits. Juste après la fin de la guerre, le commandant du camp, le capitaine confédéré d’origine suisse Henry Wirz, fut arrêté ; sa défense se résumait à ceci :

— J’ai obéi aux ordres.

La doctrine posée par cette audience tient encore debout aujourd’hui. L’être humain porte un jugement intérieur sur l’ordre auquel il obéit ; si donc cet ordre blesse assez profondément son humanité, il peut désobéir. Et la phrase adressée à l’accusé fut celle-ci : un supérieur militaire n’est pas un supérieur moral.

La version d’aujourd’hui, à l’ère de l’intelligence artificielle, parle autrement : le système l’a recommandé. Le score était bas. Le modèle l’a signalé.

La solution qu’on oppose à cela est toute prête : mettons un humain dans la boucle. Que la machine propose la décision, et que l’humain donne son approbation.

Cela sonne bien. Quand on regarde les données, cela sonne un peu moins bien.

Dans le système d’assurance chômage du Michigan, on a compris après coup que la grande majorité des dossiers signalés par l’algorithme l’avaient été à tort. Mais à la même période, le taux d’erreur des décideurs humains faisant le même travail n’était pas faible non plus. Autrement dit, « la supervision humaine » ne peut pas à elle seule constituer une solution de sécurité.

La raison en est psychologique et familière. Quand un système t’affiche un score de confiance de quatre-vingt-neuf pour cent, le contredire ne demande pas seulement du temps, mais du courage. Approuver ne coûte rien ; contester coûte cher. L’agent qui confirme le système est promu, l’agent qui arrête le système doit se justifier.

L’humain dans la boucle, s’il n’a ni pouvoir réel ni temps réel, ne peut pas occuper la position d’un élément de sécurité. Il n’est plus qu’un absorbeur. Quand le dommage survient, la faute s’arrête là et ne remonte pas plus haut.

Il faut le dire franchement : pour une organisation qui n’entend pas assumer la responsabilité, la solution idéale, c’est que la décision soit dans le système et la faute chez l’humain.

La part de l’humain, deuxième cas : le vide n’est pas vide

Quand on dit vide de responsabilité, on pense presque au vide spatial. Un endroit où il n’y a personne.

Il y a des gens là-dedans ; simplement, dans l’immensité de ce vide, on ne les voit pas.

Les systèmes prétendument autonomes reposent sur une couche mondiale de travail qui étiquette des données, modère des contenus, nettoie les sorties. Ces métiers sont mal payés, invisibles, faiblement protégés par le droit.

Le détail le plus frappant est raconté par un chauffeur-livreur. Le système de surveillance contrôle la ceinture de sécurité, tandis que le quota sanctionne les arrêts. Les chauffeurs bouclent la ceinture derrière leur dos. Le système enregistre que la ceinture est attachée, l’humain conduit sans ceinture.

Cette petite scène résume tout un édifice. En haut il y a la mesure, la mesure a l’air juste, l’enregistrement est propre. En bas il y a le risque, et le risque n’est transféré à personne : il ruisselle simplement vers le bas.

L’affaire des allocations familiales aux Pays-Bas est importante justement parce qu’elle fait exception. Un système de contrôle automatisé a accusé injustement de fraude des milliers de familles, et l’affaire est allée jusqu’à la démission collective du gouvernement en 2021. C’est l’un des rares cas où un dommage algorithmique a pu faire rendre des comptes jusqu’au sommet.

Sa rareté même indique quelle est la règle. Dans le vide de responsabilité, il n’est donc pas vrai que personne ne se trouve en première ligne. C’est le moins puissant qui peut être tenu pour coupable.

La réponse de l’Orient : l’action n’a jamais été l’affaire d’un seul

Le droit occidental est bâti sur la singularisation de la responsabilité. Il trouve un agent, mesure sa volonté, établit sa faute.

L’intelligence artificielle met ce mécanisme à l’épreuve, parce qu’il n’y a pas un agent unique.

Dans la pensée chinoise classique, cela n’a jamais posé problème, car l’action y était d’emblée partagée.

Pense à monter à cheval. Ce n’est ni l’action du cavalier ni celle du cheval. Le terrain, le dressage, le harnais, le fourrage, le temps qu’il fait : tout cela participe à l’action. Dans les textes chinois classiques, l’action est décrite ainsi : non pas une volonté unique qui vient heurter le monde, mais une consistance où plusieurs choses se rencontrent.

L’éthique confucéenne des rôles poursuit au même endroit. La personne se forme au croisement des relations ; et la responsabilité ne colle pas à la volonté individuelle, elle colle au rôle. La responsabilité d’un médecin vient de ce qu’il est médecin, non de son intention du moment.

Traduit à aujourd’hui, cela donne ceci. À la place de la question « le modèle est-il un agent ? », la question « qui a endossé ce rôle ? ». Qui a présenté la recommandation, qui l’a distribuée, qui l’a vendue, qui l’a utilisée, qui était chargé du contrôle. S’il y a un rôle, il y a une responsabilité ; il n’est plus nécessaire de mesurer une volonté.

Cela produit, pour le dommage machinique, une question étonnamment pratique. Quand un système cause un dommage, quelle est la fin du processus ? Une sanction, une réparation, une correction, une fermeture ?

Pardonner à un modèle, cela n’existe pas. Blanchir une entreprise, en revanche, cela existe — et le plus souvent l’affaire est recouverte par la phrase « nous avons mis à jour le modèle défectueux ».

---

La question de l’échelle : le « crime fécond » de Hobbes

Il faut ajouter encore une chose, car c’est elle qui distingue le dommage lié à l’intelligence artificielle d’un dommage ordinaire.

Le philosophe Thomas Hobbes, dans son Léviathan, opère une distinction en pesant la gravité des crimes. L’acte qui ne blesse que le présent et l’acte qui, par l’exemple, blesse aussi l’avenir n’ont pas le même poids. Il appelle le premier stérile, le second fécond. Le crime fécond se multiplie et atteint beaucoup de monde.

Hobbes dit en outre que la position de l’auteur modifie le poids de l’acte. Le même acte, accompli par quelqu’un qui détient une autorité, est plus grave que celui d’un particulier.

Ces deux critères sont applicables aujourd’hui au droit de l’intelligence artificielle.

Le préjugé d’un être humain reste dans une pièce. Le préjugé d’un modèle se répète dans des millions de décisions, et à chaque répétition il oriente dans le même sens. Un modèle est, par définition, une machine à orienter avec fécondité. Dans le bien comme dans le mal.

Le célèbre historien anglais Edward Gibbon, dans son chef-d’œuvre Histoire du déclin et de la chute de l’Empire romain, formule à propos de Justinien ce jugement : les Romains furent écrasés en même temps par la multitude de leurs lois et par la volonté arbitraire de leurs maîtres.

Autrement dit, l’inflation des règles et l’arbitraire ne sont pas l’antidote l’un de l’autre. Les deux cohabitent très bien. Les documents de conformité, les principes éthiques et les rapports de transparence d’aujourd’hui sont énormes en nombre de pages ; le moyen concret dont dispose la victime reste, lui, minuscule.

Alors, que faire

La thèse de ce texte tient en une phrase : l’agentivité n’est pas une chose à découvrir, c’est une chose à attribuer. Et quand elle n’est pas attribuée, elle retombe d’elle-même sur le maillon le plus faible.

Quatre solutions peuvent être posées.

1. La question « cette chose — l’intelligence artificielle — est-elle un agent ? » est sans réponse depuis deux mille ans, et elle ne sera pas davantage tranchée dans les dix ans qui viennent. La question à laquelle on peut répondre est celle-ci : qui était en position d’empêcher, qui a gagné, qui a porté le poids. Toutes les solutions réussies du droit ont été bâties avec cette question ; du pécule de l’esclave à la responsabilité de l’employeur, de la personnalité morale au partage 67 % / 33 % prononcé par le jury dans l’affaire Tesla.

2. Montre la garantie de ce que tu laisses autonome ou libre — cela peut aussi être un enchaînement d’agents logiciels. La bourse de Rome peut prendre d’autres noms aujourd’hui : assurance obligatoire, fonds dédié, garantie plafonnée, ou tout autre nom. Le principe doit rester le même : si tu mets à l’eau une barque sans amarre, on doit savoir d’avance qui paiera lorsqu’elle dérivera. Cela n’arrête pas l’innovation ; cela met un prix sur l’incertitude. Peut-être même que les assureurs et les réassureurs en tireront, pour leur propre compte, une économie à part entière.

3. L’humain dans la boucle ne peut pas être responsable s’il n’a pas le pouvoir. Un agent dont la contestation peut coûter la promotion ne peut être ni contrôleur ni décideur final. Un contrôle réel exige trois choses : le pouvoir d’écarter le système, le temps de le faire, et la protection une fois qu’on l’a fait. Sans cela, l’humain n’est pas dans la boucle : il est seulement un tampon.

4. Ne tenons pas ce vide pour une loi de la nature. Si nous laissons supprimer, sciemment ou par ignorance, les règles de preuve, l’obligation de conservation des enregistrements et la divulgation des éléments probants, le vide de responsabilité s’élargira.

Dans l’affaire de l’âne et de la barque de Martin Luther, les deux parties avaient raison et les deux étaient en même temps en faute. La sentence rendue autour d’une table il y a cinq cents ans disait que, dans un événement où personne n’est entièrement coupable, personne n’est non plus entièrement innocent.

Le danger d’aujourd’hui est exactement l’inverse de cette sentence. Il tient à ceci : conclure que personne n’est en faute est bien plus facile que de déterminer la faute.

Si ni l’âne ni la barque ne sont attachés, la rivière fera le travail. Et il ne faudrait pas se dire qu’en vouloir à la rivière n’a aucun sens.