인공지능의 책임 공백: 발견된 진공인가, 열어둔 문인가

인공지능의 행위성, 거기서 생겨난 행위의 법적 대응물, 그리고 이 방정식에서 인간이 차지하는 몫에 대하여…

1546년에 던져진 하나의 법률 문제

1546년, 마르틴 루터의 탁상담화에 적힌 기록이 하나 있다. 어떤 소송 이야기다.

방앗간 주인의 당나귀가 마당을 빠져나와 강가로 내려간다. 물을 마시려다, 묶여 있지 않은 어부의 배에 발을 딛는다. 배는 물살에 휩쓸리고, 당나귀와 함께 떠내려간다.

방앗간 주인은 당나귀를 잃었다. 어부는 배를 잃었다.

방앗간 주인이 말한다. 어부가 배를 묶어두는 일을 게을리했다고. 어부가 말한다. 방앗간 주인이 당나귀를 집에 두는 일을 게을리했다고.

글 한가운데에 라틴어 질문이 놓여 있다. Nunc sequitur quid sit juris? 그렇다면 법은 무어라 말하는가.

당나귀가 배를 끌고 간 것인가, 배가 당나귀를 끌고 간 것인가.

루터의 판결은 두 단어다. ambo peccaverunt. 둘 다 잘못했다.

이 문단은 오백 년 전에 쓰였다. 그런데 지금 우리 손에 놓인 가장 어려운 법률 문제의 한복판에 그대로 서 있다. 손해를 만든 움직임은 두 개의 태만이 만나는 지점에서 저절로 시작됐다. 악의를 품은 사람은 없다. 엄밀히 말해 행위를 시작한 사람도 없다. 묶이지 않은 무언가와, 풀려난 다른 무언가가 있을 뿐이다.

인공지능 법의 전부가 이 한 장면 안에 들어가는 것처럼 보인다.

책임 공백이라는 개념

2004년, 안드레아스 마티아스라는 사상가가 당시에는 아무도 크게 관심 두지 않던 논문을 썼다. 그리고 하나의 개념에 이름을 붙였다. 책임 공백.

그의 논증은 단순하고 불편하다. 학습하는 시스템에서는 제작자도 사용자도 기계의 미래 행동을 예측하는 일이 원리적으로 불가능하다. 그런데 예측할 수 없는 일에 대해 도덕적 책임을 지우는 것은 공정하지 않다. 그렇다면 손해는 있는데, 공정하게 책임을 물을 수 있는 사람은 없다.

이십 년이 지나자 이 문장은 학술적 사고 실험이기를 그만두었다. 오늘의 인공지능은 대출을 거절하고, 사람을 채용하고, 진단을 내려 치료를 권하고, 우리가 탄 차의 핸들을 돌리고, 우리가 하는 구매에서 계약을 성립시킨다.

그리고 손해가 생길 때마다 같은 세 문장이 차례로 나온다.

제작자. 모델은 우리가 만들었지만 어떻게 쓸지는 당신이 골랐다. 사용자. 우리는 그저 시스템을 믿었을 뿐이다. 시스템. 시스템은 아무 말도 하지 않는다. 시스템은 말하지 않고, 말해지는 대상이기 때문이다.

이제 진짜 질문을 던질 때가 됐다. 이 공백은 실재하는 형이상학적 공백인가, 아니면 대단히 쓸모 있는 모호함인가.

이 글의 대답은 후자다. 그리고 그 대답의 증거는 법 자신의 역사 안에 놓여 있다.

로마법의 해법: 주체가 아니면서 행위하는 것

법은 “인격이 아니면서 스스로 행위하는” 존재의 문제를 인공지능과 함께 처음 만난 것이 아니다. 이천 년 전에 이미 그 문제 안에서 살고 있었다.

로마법에서 노예는 인격이 아니었다. 법적으로는 물건이었다. 사고팔렸고, 주인을 위해 사들이고, 팔고, 계약을 맺고, 채무를 만들고, 사업체를 운영했다. 법인격이 없는 존재가 법적 효과를 낳는 행위를 하고 있었던 것이다.

이 글을 읽기 시작하기 전까지, 인공지능과 노예라는 개념을 같은 도가니에 넣어 녹인다는 것이 그다지 가능해 보이지 않았을 것이다.

로마는 이 모순을 형이상학으로 풀지 않았다. 장치로 풀었다.

페쿨리움이라 불린 것은 노예가 사실상 운용하던 별도의 재산이었다. 노예는 그 주머니 안에서 일했다. 손해가 생기면 주인의 책임은 원칙적으로 그 주머니의 크기만큼으로 제한됐다. 책임이 주인에게 전부 떠넘겨지지도 않았고, 허공에 남겨지지도 않았다. 하나의 기금에 묶였다.

오늘의 법률가들이 이 이야기를 다시 꺼내고 있다. 케임브리지의 법학 학술지에 실린 한 연구는 인공지능의 책임성 공백을 다루기 위해 로마법을 직접 들여다보자고 제안한다. 우고 파갈로의 “디지털 페쿨리움” 제안도 같은 혈관에서 나온다. 자율적인 시스템을 시장에 내놓는다면, 그 시스템의 이름으로 담보된 별도의 재산도 함께 내놓아야 한다는 것이다.

여기서 나오는 교훈은 우아하면서 동시에 불편하다.

우아한 쪽은 이렇다. 행위성은 발견되는 것이 아니라 배정되는 것이다. 로마법은 “노예에게 의지가 있는가”를 묻지 않았다. 물을 필요가 없었기 때문이다. 법이 필요로 한 것은 의지가 아니라 상대방이었다.

불편한 쪽은 이렇다. 이 해법은 인류사에서 가장 역겨운 제도 가운데 하나의 내부에서 만들어졌다.

도구를 노예에 빗대는 데에는 도덕적 대가가 따른다. 그 비유는 도구를 높이지 않는다. 인간에게 저질러진 일을 정상적인 것으로 만든다. 여기서 가져올 것은 제도 자체가 아니라 기법이다. 법은 인격 없는 행위자가 낳은 손해를, 그 행위자를 인격으로 선언하지 않고도 묶어둘 수 있다.

같은 기법이 오늘은 다른 이름으로 불린다. 법인격. 사용자의 피용자 행위에 대한 책임. 위험한 활동에서의 무과실 책임. 모두 같은 목적의 틀 안에서 만들어진 법 개념들이다. 손해가 있다면 누구의 의지도 따지지 않고 그 손해를 어느 주머니엔가 묶어두어야 한다는 것.

법원은 무엇을 하고 있나: 세 개의 사건, 하나의 무늬

인공지능은 우리 삶에 들어온 지 아주 짧다. 그래서 이론을 잠시 내려놓고 최근 이 년의 판단들을 보는 편이 더 많은 것을 가르쳐줄 수 있다. 법원은 철학자들이 아직도 논쟁하는 그 질문을 던지기를 이미 그만두었기 때문이다.

2024년 2월, 캐나다에서 제이크 모팻이라는 사람이 할머니가 세상을 떠나 에어캐나다 사이트에서 항공권을 사려 한다. 사이트의 챗봇에게 유족 할인을 받을 수 있는지 묻는다. 에어캐나다의 챗 어시스턴트는 유족 할인을 나중에도 청구할 수 있다고 답한다. 틀린 답이다. 회사의 실제 정책은 그렇지 않았다.

회사는 법정에서 흥미로운 방어를 편다. 챗봇은 별개의 존재이며, 자기 진술에 대해서는 자기가 책임진다는 것이다.

법원은 이 방어를 물리친다. 챗봇은 회사 자기 사이트의 일부다. 회사는 자기 사이트에 있는 모든 정보에 책임이 있다. 그 정보가 정적인 페이지에서 나오든 대화창에서 나오든 다르지 않다. 배상액은 작고 상징적이다. 캐나다 달러로 육백오십 정도. 그러나 원칙은 크다. 네 조직의 입에서 나온 말의 책임자도 너다.

2025년 8월, 플로리다에서 오토파일럿이 켜진 테슬라가 교차로에서 멈추지 않는다. 주차된 차량을 들이받고, 한 사람이 숨지고 한 사람이 크게 다친다. 운전자는 그 순간 휴대전화를 떨어뜨려 주의가 흐트러졌음을 인정한다.

법원은 이번에는 과실을 나눈다. 운전자 67퍼센트, 제작자 33퍼센트. 총 배상액은 이억 사천만 달러를 넘고, 대부분이 징벌적 배상이다. 회사는 항소했고, 절차는 진행 중이며 아직 끝나지 않았다.

주목할 점이 있다. 법원은 “오토파일럿이 행위 주체였는가”를 묻지 않았다. 과실을 백분율로 나눴다. 바로 이 사례에서 루터의 ambo peccaverunt가 오백 년 만에 디지털의 모습으로 우리 삶에 돌아왔다.

세 번째 사례는 법원이 아니라 계약의 사례다. 메르세데스는 드라이브 파일럿이라는 시스템이 정의된 작동 범위 안에서, 즉 특정 고속도로, 특정 속도, 특정 기상 조건에서 일어난 사고에 대해 법적 책임을 진다고 밝혔다.

여기서 벌어진 일은 아주 분명하다. 책임이 발견이 아니라 약속으로 놓였다. 제작자가 특정한 봉투 안에서 행위성을 떠맡은 것이다.

세 사건, 하나의 무늬. 법은 이렇게 묻지 않는다. 이것에게, 그러니까 인공지능에게 의지가 있는가. 법은 이렇게 묻는다. 누가 막을 수 있는 자리에 있었고, 누가 이득을 보거나 손해를 보았는가.

공백은 메워지지 않는다, 메우고 싶지 않기 때문에

여기서부터 이 일의 정치적 측면이 시작되고, 풍경은 아름답지 않다.

유럽연합의 손에는 몇 년째 초안이 하나 있었다. 인공지능 책임 지침. 두 가지를 담고 있었다.

첫째, 일정한 조건에서의 인과관계 추정. 피해자가 상자 안에서 정확히 무슨 일이 있었는지를 입증할 필요가 없어지고, 반증의 부담이 제작자에게 넘어갈 수 있게 된다.

둘째, 고위험 시스템에서의 증거 개시 의무. 법원이 기업에 기록을 요구할 수 있게 된다.

이 두 조항은 책임 공백의 한복판을 겨누고 있었다. 공백의 진짜 이름은 대개 “입증 불가능”이기 때문이다. 피해자의 손에는 모델도 없고, 학습 데이터도 없고, 기록도 없고, 전문가도 없다. 그러니 입증도 불가능하다.

집행위원회는 2025년 2월에 초안 철회 결정을 알렸고, 철회는 그해 안에 공식화됐다. 이유로는 이해관계자 사이의 합의 부재와 디지털 분야의 간소화 요구가 제시됐다.

이제 이 두 문장을 나란히 읽어보자.

마티아스, 2004년. 학습하는 시스템에서 책임을 공정하게 귀속시키는 일은 구조적으로 어렵다. 브뤼셀, 2025년. 그 어려움을 덜어줄 입증 규칙은 디지털 분야의 간소화 요구를 이유로 철회됐다.

첫째는 철학적 진단이다. 둘째는 정치적 선택이다. 그리고 이 둘이 서로 뒤섞이면 대단히 쓸모 있는 물건이 만들어진다. 자연법칙처럼 보이는 면책.

책임 공백은 발견이 아니다. 열린 채 놓아둔 문이다. 그리고 모든 열린 문이 그렇듯, 누군가는 그 문으로 들어와 자기 이익을 챙길 수 있다.

인간의 몫, 첫 번째 형태: “명령을 받았다”의 새 버전

이제 방정식의 인간 쪽으로 넘어간다. 진짜 문제는 거기에 있기 때문이다.

역사상 첫 전쟁범죄 재판을 보자. 미국 남북전쟁에서, 전쟁의 마지막 열네 달 동안 운영된 수용소에 약 4만 5천 명의 북군 병사가 포로로 갇혔고, 영양실조와 질병과 열악한 환경으로 약 1만 3천 명이 목숨을 잃었다.

1865년 앤더슨빌 감옥 재판에서 이 사건을 두고 이루어진 변론이 있다. 전쟁이 끝나자마자 수용소장이던 스위스 출신 남부연합 대위 헨리 워즈가 체포됐다. 그의 변론을 요약하면 이렇다.

명령을 받았다.

이 재판이 세운 법리는 오늘도 서 있다. 인간은 자신이 따르는 명령에 대해 내적으로 판단을 내린다. 따라서 그 명령이 자기 인간성을 충분히 깊이 훼손한다면 불복종할 수 있다. 그리고 피고인에게 던져진 문장은 이것이었다. 군사적 상급자가 도덕적 상급자는 아니다.

오늘의 인공지능 버전은 이렇게 말한다. 시스템이 그렇게 권했다. 점수가 낮았다. 모델이 표시했다.

이에 대한 해법도 준비돼 있다. 루프 안에 인간을 두자. 결정은 기계가 제안하고, 승인은 인간이 하자.

듣기에는 좋다. 데이터를 보면 덜 좋게 들린다.

미시간의 실업급여 시스템에서, 알고리즘이 표시한 신청 건의 대다수가 잘못된 것이었음이 나중에 밝혀졌다. 그러나 같은 시기에 같은 일을 하던 인간 결정권자들의 오류율도 낮지 않았다. 즉 “인간의 감독”만으로는 안전장치가 만들어지지 않는다.

이유는 심리적이고, 익숙하다. 어떤 시스템이 당신에게 89퍼센트 신뢰도 점수를 보여준다면, 거기에 이의를 다는 일은 시간만이 아니라 용기를 요구한다. 승인은 공짜고, 이의는 상당히 비싸다. 시스템을 확인해준 담당자는 승진하고, 시스템을 멈춘 담당자는 해명해야 하는 처지가 된다.

결재란에 이름을 하나 더 올린다고 판단이 하나 더 생기는 것은 아니다. 대개는 책임이 한 칸씩 더 얇아진다.

루프 안의 인간은 실제 권한과 실제 시간이 없다면 안전 요소로 자리 잡을 수 없다. 그저 흡수체일 뿐이다. 손해가 발생하면 잘못은 거기서 멈추고, 더 위로 올라가지 않는다.

이 점은 분명히 말해야 한다. 책임을 떠맡지 않으려는 조직에게 이상적인 해법은, 결정은 시스템에 있고 잘못은 인간에게 있는 구조다.

인간의 몫, 두 번째 형태: 공백은 비어 있지 않다

책임 공백이라고 하면 우주의 진공 같은 것이 떠오른다. 아무도 없는 곳.

거기에는 사람들이 있다. 다만 그 거대한 진공 속에서 안타깝게도 보이지 않을 뿐이다.

이른바 자율적이라는 시스템들은 데이터에 이름표를 붙이고, 콘텐츠를 검수하고, 출력물을 다듬는 전 지구적 노동 계층 위에 서 있다. 이 일들은 보수가 낮고, 가시성이 없고, 법적 보호가 약하다.

가장 인상적인 세부를 어느 배송 기사가 들려준다. 감시 시스템은 안전벨트를 확인하고, 할당량은 멈춤을 벌한다. 기사들은 벨트를 등 뒤로 둘러 채운다. 시스템은 벨트가 채워졌다고 기록하고, 사람은 벨트 없이 운전한다.

이 작은 장면이 거대한 구조의 요약이다. 위에는 측정이 있고, 측정은 정확해 보이고, 기록은 깨끗하다. 아래에는 위험이 있고, 그 위험은 누구에게도 이전되지 않는다. 그저 아래로 흘러내릴 뿐이다.

네덜란드의 아동수당 사건은 이 그림의 예외이기 때문에 중요하다. 자동 심사 시스템이 수천 가구를 부당하게 부정수급자로 몰았고, 사건은 2021년 내각 총사퇴까지 갔다. 알고리즘이 낳은 손해에 대해 가장 꼭대기까지 책임을 물을 수 있었던 드문 사례다.

드물다는 사실이 규칙이 무엇인지를 보여준다. 그러니까 책임 공백에서 포탄 앞에 아무도 없는 것이 아니다. 가장 힘이 약한 사람이 잘못한 사람으로 받아들여지고 있을 뿐이다.

동양의 대답: 행위는 애초에 한 사람의 것이었던 적이 없다

서양 법은 책임을 하나로 좁히는 위에 세워져 있다. 행위자를 찾고, 그 의지를 재고, 과실을 확정한다.

인공지능은 이 장치를 압박한다. 단일한 행위자가 없기 때문이다.

고전 중국 사유에서는 이것이 전혀 문제가 되지 않았다. 그곳에서 행위는 처음부터 공동의 것이었기 때문이다.

말 타는 일을 생각해보자. 이것은 기수의 행위도 아니고 말의 행위도 아니다. 지형, 훈련, 마구, 사료, 날씨. 모두가 행위에 참여한다. 고전 중국 문헌에서 행위는 이렇게 서술된다. 하나의 의지가 세계에 부딪히는 사건이 아니라, 여러 가지가 만나 이루어지는 결이다.

유가의 역할 윤리는 같은 자리에서 이어진다. 사람은 관계들의 교차점에서 생겨난다. 책임도 개인의 의지가 아니라 역할에 들러붙는다. 의사의 책임은 그가 의사라는 데서 나오지, 그 순간의 의도에서 나오지 않는다.

이름을 바로 세우는 일이 먼저고 마음을 들여다보는 일은 나중이라는 감각도 여기서 나온다. 이름이 바로 서면 그 이름에 딸린 몫이 따라오고, 몫이 정해지면 누가 무엇을 감당해야 하는지가 정해진다. 속을 열어볼 필요가 없어진다.

이것을 오늘로 옮기면 이런 결과가 나온다. “모델이 행위 주체인가”라는 질문 대신 “이 역할을 누가 떠맡았는가”라는 질문. 누가 제안을 내놓았고, 누가 배포했고, 누가 팔았고, 누가 사용했고, 누가 감독할 임무를 맡았는가. 역할이 있으면 책임이 있다. 의지를 잴 필요가 없어진다.

이것은 기계가 낳은 손해에 대해 뜻밖에도 실용적인 질문을 만들어낸다. 시스템이 손해를 입혔을 때, 그 과정의 끝은 무엇인가. 처벌인가, 회복인가, 시정인가, 폐쇄인가.

모델을 용서한다는 것은 없다. 그러나 기업을 면죄한다는 것은 있다. 그리고 대개는 “문제가 된 모델을 업데이트했습니다”라는 문장으로 덮인다.

---

규모의 문제: 홉스의 “번식하는 죄”

한 가지를 더 붙여야 한다. 인공지능의 손해를 평범한 손해와 구분해주는 것이 바로 이것이기 때문이다.

철학자 토머스 홉스는 저작 리바이어던에서 죄의 무게를 재면서 하나의 구분을 했다. 오늘만 해치는 행위와, 본보기가 되어 미래까지 해치는 행위는 무게가 같지 않다. 앞의 것을 불모의 죄, 뒤의 것을 다산의 죄라 부른다. 다산의 죄는 불어나면서 여러 사람에게 해를 입힌다.

홉스는 또한 행위자의 지위가 행위의 무게를 바꾼다고 말한다. 권한을 가진 사람의 같은 행위는 평범한 사람의 행위보다 무겁다.

이 두 기준은 오늘의 인공지능 법에 그대로 적용될 수 있다.

한 사람의 편향은 한 방 안에 머문다. 한 모델의 편향은 수백만 건의 결정에서 반복되고, 반복될 때마다 같은 방향으로 밀어낸다. 모델은 정의상 다산의 유도 기계다. 선한 쪽으로도, 악한 쪽으로도.

영국의 저명한 역사가 에드워드 기번은 대표작 《로마제국 쇠망사》에서 유스티니아누스에 대한 평가로 이렇게 적었다. 로마인들은 자기들 법률의 많음과 주인들의 자의적 의지에 의해 동시에 짓눌렸다.

즉 규칙의 인플레이션과 자의성은 서로의 해독제가 아니다. 둘은 아주 편안하게 공존한다. 오늘의 준법 문서와 윤리 원칙과 투명성 보고서는 쪽수로만 보면 엄청나다. 그러나 피해자의 손에 쥐어진 실질적 가능성은 여전히 작다.

그렇다면 무엇을 해야 하나

이 글의 명제는 한 문장에 들어간다. 행위성은 발견할 것이 아니라 배정할 것이다. 그리고 배정되지 않으면, 그것은 저절로 가장 약한 고리로 떨어진다.

네 가지 해법을 세울 수 있다.

1. “이것은, 그러니까 인공지능은 행위 주체인가”라는 질문은 이천 년째 답이 없고 앞으로 십 년 안에도 답이 나오지 않을 것이다. 답할 수 있는 질문은 이것이다. 누가 막을 수 있는 자리에 있었고, 누가 이득을 보았고, 누가 부담을 졌는가. 법의 성공한 해법은 모두 이 질문으로 세워졌다. 노예의 페쿨리움에서 사용자의 책임까지, 법인격에서 테슬라 사건 배심의 67퍼센트 대 33퍼센트 분담 판단까지.

2. 자율적으로 두었거나 풀어놓은 것의 담보를 제시하라. 에이전틱 워크플로 같은 것도 여기 들어간다. 로마의 주머니는 오늘 다른 이름을 가질 수 있다. 의무 보험, 별도 적립금, 상한이 정해진 보증, 혹은 전혀 다른 이름. 원칙은 그대로여야 한다. 묶지 않은 배를 물에 띄운다면, 그것이 떠내려갔을 때 누가 지불할지가 미리 정해져 있어야 한다. 이것은 혁신을 멈추지 않는다. 불확실성에 가격을 매길 뿐이다. 어쩌면 보험사와 재보험사가 여기서 자기 몫의 경제를 따로 만들어낼 수도 있다.

3. 루프 안의 인간은 권한이 없으면 책임도 질 수 없다. 이의를 제기하는 일이 승진을 대가로 치를 수 있는 담당자는 감독자도 최종 결정권자도 될 수 없다. 진짜 감독에는 세 가지가 필요하다. 시스템을 무효화할 권한, 그렇게 할 시간, 그리고 무효화했을 때의 보호. 이것들이 없다면 인간은 루프 안에 있는 것이 아니라 완충재 자리에 있는 것이다.

4. 공백을 자연법칙으로 여기지 말아야 한다. 입증 규칙과 기록 보존 의무와 증거 개시가 고의로든 모르는 사이에든 사라지는 것을 눈감아준다면, 책임 공백은 넓어진다.

마르틴 루터의 당나귀와 배 사건에서 두 당사자는 모두 옳았고 동시에 모두 잘못이 있었다. 오백 년 전 어느 식탁에서 내려진 판결은, 누구도 온전히 유죄가 아닌 사건에서 누구도 온전히 무죄는 아니라고 말하고 있었다.

오늘의 위험은 그 판결의 정반대다. 아무도 잘못하지 않았다는 결론에 이르는 일이, 잘못을 배정하는 일보다 훨씬 쉽다는 데 있다.

당나귀도 배도 묶여 있지 않다면, 강이 자기 일을 한다. 그리고 강에게 화를 내봐야 소용없다고 말해서는 안 된다.