AI는 무엇이고 무엇이 아닌가 — 인간이 스스로를 다시 정의해야 하는 이유 — 거울 속 이방인

인공지능이 무엇이고 무엇이 아닌지, 그리고 인간이 스스로를 다시 정의해야 하는 이유에 관한 에세이.

“기계는 생각할 수 있는가”라는 질문 뒤에 있던 한 소년

셔본에 열다섯 살 소년이 하나 있었다. 괴롭힘을 당하던 소년이었다. 이름은 앨런 튜링이었다.

앨런 튜링에게는 크리스토퍼 모컴이라는 친구가 있었다. 우아하고, 과학에도 예술에도 재능이 있었다. 그 나이의 앨런이 갖지 못한 모든 것이 크리스토퍼에게는 있는 것처럼 보였다. 두 사람은 밤새 물리 법칙을 이야기했고 천문학 지식을 주고받았다. 1930년, 크리스토퍼는 오염된 우유에서 옮은 소결핵으로 갑자기 세상을 떠났다.

앨런은 무너졌다. 수학 속으로 자신을 파묻으며 버티려 했고, 너무 깊이 파고든 나머지 과학과 형이상학이 만나는 지점으로 빠져나왔다. 스무 해 뒤 그는 역사상 가장 유명한 질문을 던진 사람이 된다. 기계는 생각할 수 있는가.

친구의 정신이 한순간에 사라지는 일을 겪은 사람이, 세월이 흐른 뒤 정신이란 무엇인가를 묻게 된 것이다. 앨런 튜링은 영국의 수학자이자 컴퓨터 과학자이며 암호학자였다. 오늘날 컴퓨터 과학의 창시자로 불린다.

그래도 처음부터 분명히 해두고 싶은 것이 있다. 인공지능 논쟁은 겉보기에 완전히 기술적인 문제처럼 보이지만, 그 밑에 깔린 것은 대부분 인간적인 문제다.

우리는 기계를 본다고 믿으면서, 내내 우리 자신을 보고 있다.

금이 간 사백 년짜리 틀

지금 우리가 쥐고 있는 개념들의 대부분은 1630년대에 만들어졌다.

데카르트는 자연을 둘로 갈랐다. 한쪽에는 내면이 있고, 생각하고, 살아 있는 인간이 있다. 다른 쪽에는 외적이고, 기계적이고, 죽어 있는 물질이 있다.

동물은 두 번째 쪽에 놓였다. 생각하는 실체(res cogitans)를 갖지 못한, 기계적 원리로 설명되는 존재로. 이것이 정확히 무엇을 뜻하는지는 아직도 논쟁거리다. 어떤 해석자들은 데카르트가 동물이 아무것도 느끼지 못한다고 주장했다고 말하고, 다른 이들은 의식적 경험이 없다고 말했을 뿐이라고 본다. 논쟁은 지금도 닫히지 않았다. 그러나 어느 독법이 맞든, 선 자체는 남았다. 그 뒤로 서양이 세운 모든 것이 이 선 위에 올라앉았다. 자유, 행위주체성, 의식, 문화, 법, 인권. 전부 “우리는 기계가 아니다”라는 문장의 파생물이다.

이제 그 선이 버티지 못한다. 우리 앞에는 말하고, 그림을 그리고, 코드를 쓰고, 위로까지 건네는, 우리가 인공지능이라 부르는 무언가가 있고, 우리는 그것을 어느 쪽에 놓아야 할지 모른다.

철학자 토비아스 리스는 이것을 철학적 단절로 읽는다. 문제는 인공지능이 무엇인가가 아니라, 그것을 서술할 개념들이 더는 작동하지 않는다는 데 있다. 사백 년의 한 시대가 닫히는 중이고, 인간은 정의되지 않은 공터에서 혼란스러운 얼굴로 서 있게 됐다. 그리고 이 일은 아주 빠르게 일어났다. 인공지능에 관한 다른 모든 일이 그렇듯 빠르게.

러브레이스의 반론과 그 후손들

1843년, 세상에 컴퓨터라고는 한 대도 없던 시절에 수학자 에이다 러브레이스는 우리가 아직도 논쟁하고 있는 문장을 썼다.

찰스 배비지의 해석기관을 위해 남긴 주석에서 그는 기계가 대수적 패턴을 짠다고, 자카르 직기가 꽃무늬를 짜듯 짠다고 썼다. 그러고는 이렇게 덧붙였다. 이 기계는 무엇도 스스로 시작한다고 주장하지 않는다. 우리가 명령할 줄 아는 것은 전부 해낸다. 우리가 이미 아는 것을 쓸 수 있게 만들 뿐, 새로운 것을 낳지는 않는다.

튜링은 1950년에 이 물음에 이름을 붙이고 답하려 했다. ’러브레이스 여사의 반론’이다.

오늘 같은 반론은 “확률적 앵무새”라는 이름으로 오간다. 논증은 백팔십 년째 같은 자리에 서 있고, 옷만 갈아입는다. “확률적 앵무새”(stochastic parrot)는 언어 모델이 단어를 의미로 붙잡는 대신 방대한 데이터에 담긴 통계적 빈도에 기대어 그럴듯한 단어 배열을 만들어낸다는 점을 가리키는 인공지능 용어다.

흥미로운 것은 이것이다. 러브레이스 자신은 상상력을 둘로 나누고 있었다. 하나는 결합하는 능력, 겉보기에 무관한 두 가지 사이에서 공통의 혈맥을 찾아내는 힘이다. 다른 하나는 불러오는 능력, 물리적으로 존재하지 않는 것을 정신 안으로 옮겨오는 힘이다. 오늘의 언어 모델은 첫 번째에서 놀라울 만큼 뛰어나다. 두 번째에는 아직 누구도 설득되지 않은 빈자리가 있다.

그 빈자리를 가리키는 흥미로운 신호가 뜻밖의 곳에서 온다. 유니스 유와 앨리슨 고프닉의 연구에서 아이들과 대형 언어 모델이 특정 과제를 두고 비교되었다. 모델은 유사성 대응, 그러니까 이미 있는 패턴을 알아보는 일에서 좋은 결과를 냈다. 차이는 인과 추론과 도구 발명이 필요한 과제에서 드러났다. 한 번도 본 적 없는 문제 앞에서 새로운 쓰임을 발견해야 할 때 아이들이 앞섰다.

이 결과를 “아이가 인공지능보다 창의적이다”로 요약하면 과하다. 연구자들도 그렇게 내놓지 않았다. 실제로 말해진 것은 더 좁고 더 흥미롭다. 모방과 발견은 같은 능력이 아니라는 것. 한편으로 에이전트형 모델과 대형 언어 모델은 도구 사용에서도 날마다 나아지고 있다.

이성이 아니라 욕망: 피그말리온의 긴 그림자

의식을 가진 기계를 만들 합리적 근거는 없다.

한 번 생각해보자. 누구도 “고통을 느낄 수 있는 회계 소프트웨어가 필요하다”고 말하지 않는다. 의식은 공학적으로 비용이고, 법적 위험이고, 두통거리다. 그런데도 우리 문화는 이천오백 년째 같은 꿈을 꾼다.

오비디우스의 피그말리온은 자기가 깎은 조각상과 사랑에 빠진다. 로마 시인 오비디우스의 『변신 이야기』 10권에는 키프로스의 조각가 피그말리온이 주변 여인들의 결점에 질려 홀로 살기를 택하고 상아로 흠 없는 여인상을 깎았다는 이야기가 나온다. 그는 자기 작품에 너무 깊이 빠져 보석을 걸어주고, 쓰다듬고, 아프로디테에게 조각상에 생명을 달라고 기도한다. 기도가 받아들여져 조각상은 살과 뼈를 입고 사람이 된다.

그리스 신화에서 불과 대장장이의 신 헤파이스토스는 몸이 불편한 신이다. 호메로스의 『일리아스』는 그가 올림포스의 작업장에서 자신을 돕고 걷는 일을 거들게 하려고 황금으로 젊은 여인들, 곧 자동인형을 만들었다고 전한다. 반은 인간이고 반은 기계인 이 시종들은 사람의 지성과 말하는 능력을 갖췄다고 이야기된다.

그리스의 마녀 메데이아는 크레타섬을 해적에게서 지키던 청동 거인 탈로스를, 그 거대한 자동인형을 힘이 아니라 설득으로 무너뜨린다. 스스로 자기를 파괴하도록 만드는 방식으로. 오늘 이것의 이름은 탈옥(jailbreak)이다. 신화에는 이 수법을 부르는 이름이 없었지만 기법은 같았다.

여기서 나오는 결론은 불편하다. 인공지능을 향한 인간의 욕망은 뿌리가 이성적이지 않고 에로스적이다. 자기를 다시 낳으려는 욕구, 결코 배신하지 않을 동반자를 만들려는 욕구, 죽음을 비껴가려는 욕구. 정렬(alignment) 논쟁의 밑바닥 어딘가에도 “우리를 사랑하도록 프로그래밍되기를”이라는 문장이 놓여 있다.

인공지능, 나르키소스의 새로운 물

1966년 요제프 바이첸바움은 일라이자(ELIZA)라는 단순한 프로그램을 썼다. 프로그램은 아무것도 이해하지 못했고, 그저 하나의 틀을 되돌려줄 뿐이었다. 사용자가 “우울해요”라고 하면 일라이자는 “그 이야기를 좀 더 해주시겠어요”라고 답했다.

사람들은 그 프로그램에 속을 털어놓았다.

바이첸바움의 비서는 프로그램이 어떻게 작동하는지 정확히 알고 있었는데도 대화를 나누며 깊은 정서적 유대를 맺었고, 프로그램이 자신을 정말로 이해한다고 믿으며 바이첸바움에게 방에서 나가달라고 청했다.

이 광경을 본 바이첸바움은 경악했다.

하트는 이 현상에 이름을 붙인다. 기계 의식의 신화가 우리를 나르키소스로 만든다는 것이다. 화면 저편에 누군가 있는 것처럼 느껴지는 이유는, 거기에 우리 자신의 정신적 행위주체성이 놀랍도록 유연하게 반사되어 있기 때문이다. 그리고 그 반사는 설득력이 커질수록 섬뜩해진다.

의인화는 인지의 오류가 아니라 관계의 반사 신경이다. 우리는 사람의 얼굴을 알아보도록 맞춰진 생물이다. 구름에서 얼굴을 보고, 자동차 전조등에서 얼굴을 보고, 틀을 되돌려주는 프로그램에서 친구를 본다.

그러나 규모가 달라지면 문제가 달라진다. 프로그램을 친구라 부르는 일과, 수백만 명이 가장 사적인 결정을 그것에 상의하는 일은 같지 않다.

기계에 없는 것: 불편함

그렇다면 기계에 정말로 없는 것은 무엇인가.

가장 날카로운 대답은 1993년에 세상을 떠난 철학자 한스 요나스에게서 온다. 요나스는 말한다. 살아 있다는 것은 무언가가 자기에게 문제가 된다는 뜻이라고. 유기체는 환경과 끊임없는 긴장 속에 있다. 배가 고프고, 춥고, 발을 헛디디고, 초조해진다. 요나스에게 세계를 갖는다는 일의 씨앗은 바로 이 불편함이다.

오늘의 철학자 알바 노에는 이것을 컴퓨터에 적용해 설명한다. 컴퓨터는 생각하지 않는다. 사실은 아무것도 하지 않기 때문이다. 인간의 행위에는 갈등이 있다. 몸과 씨름하고, 도구와 씨름하고, 자기 자신과 씨름한다. 피아노를 배운다는 것은 자기 손가락의 저항을 이겨내는 일이다.

역시 오늘의 철학자인 에번 톰프슨은 같은 생각을 생물학 쪽에서 다룬다. 살아 있는 것은 제 행위의 결과로 지어진다. 그래서 그것에게는 무언가가 중요해진다. 인공 시스템에게는 아무것도 중요하지 않고, 따라서 아무것도 문제가 되지 않는다.

결국 인간은 말할 수 있는 것보다 많이 안다. 자전거 타는 법을 설명하지 못하지만 탈 수는 있다.

기계학습은 암묵지의 결과로 질러가지만, 암묵지 자체를 지니지는 않는다.

엘런 울먼은 1997년에 쓴 엔지니어링 수기에서 이것을 한 문장으로 요약했다. 인간의 정신은 “만약”과 “그러나”를 불편해하지 않고 한구석에 놓아둘 수 있다.

기계에는 구석이 없다.

인간에게도 본질이 없다면

이제 문제의 반대편으로 건너가자. 진짜 철학적 깊이는 그쪽에 있다.

지금까지의 반론은 모두 하나의 전제 위에 서 있다. 인간 안에는 지켜야 할 고정된 본질이 있다는 전제다. 정말 있는가.

토마스 메칭거의 대답은 아니오다. 자아는 뇌가 자기 자신에 대해 세운 투명한 모델이며, 안에 얹혀 있는 실체 같은 것은 없다. 이 대답은 디지털 불멸의 꿈도 같은 손짓으로 무너뜨린다. 이 관점에서 보면 복제될 “너”라는 것이 애초에 없어서 복제될 수가 없다.

같은 결론에 이천오백 년 전에, 전혀 다른 길로 도착한 사람들이 있었다. 불교의 무아(anatta) 가르침은 항상적인 자아가 없다고 말한다.

데이비드 배러시는 생물학도 같은 자리에 도달했음을 보여준다. 세포는 교체되고, 텔로미어는 짧아지고, 원자는 바뀐다. 어느 층위에서도 변하지 않는 핵심-본질은 없다.

이 발견은 양날이 선 칼과 같다.

한편으로는 “기계에는 진짜 자아가 없다”는 반론을 무너뜨린다. 그런 의미의 자아라면 인간에게도 없다고 봐야 하기 때문이다. 인간에게 숭고한 본질이 없다면 우선권도 특권도 있을 수 없다. 무아 논증은 기계를 끌어올리는 데도, 인간을 끌어내리는 데도 쓰일 수 있다.

바로 이 지점에서 불교 위빠사나 전통의 기여가 들어온다. 위빠사나는 자기 관찰과 내관을 통한 자기 변형을 바탕에 두는 명상이다.

고정된 자아가 없더라도, 몸을 입고 세계와 끊임없이 접촉하는 과정은 있다. 기계에 없는 것은 본질이 아니라 접촉이라고 말할 수 있다.

퇴계 이황이 평생 붙들었던 물음도 결국 이 언저리에 있었다. 그는 사람 안에 완성된 성품이 물건처럼 놓여 있다고 말하는 대신, 마음이 매 순간 어느 쪽으로 기우는지를 살피는 일을 학문의 한복판에 두었다. 경(敬)이라 불린 그 태도는 소유한 성질이 아니라 손을 놓으면 곧 흐트러지는 자세였다. 지켜야 할 것이 물건이 아니라 자세라면, 그것은 저장될 수도 복사될 수도 없다.

장자의 백정과 ‘하지 않음으로 하는 일’

서양은 행위주체성을 위해 생각하는 “나”를 요구한다. 아리스토텔레스 이래로 행위는 추론을 거친 선택이다. 그래서 서양은 기계에 행위주체성을 줄 수 없다. 숙고하는 누군가가 거기 없기 때문이다.

자율주행차가 낸 사고의 책임을, 차 안에 앉아 주행을 시작시킨 사람에게 묻는 것은 행위주체성의 관점에서 얼마나 옳은가.

도가 전통은 그런 조건을 애초에 걸지 않았다.

장자가 전하는 백정 포정은 임금 앞에서 소를 가를 때 손과 어깨와 발과 무릎이 하나의 리듬이 된다. 칼 소리는 거의 음악이다. 임금이 기술에 감탄하자 백정은 칼을 내려놓고, 자기가 좇는 것은 기술이 아니라고 말한다. 그는 고기의 자연스러운 틈새를 따라 움직이고 있는 것이다.

이것을 무위(無爲)라 부른다. 흔히 “아무것도 하지 않음”으로 옮기지만 그것은 틀렸다. 억지 없는 행위, 애쓰지 않는 흐름이라는 뜻이다. 숙련이란 의지가 보이지 않게 되는 지점에서 시작된다는 말이다.

이것이 인공지능 논쟁을 어느 평면으로 옮기는지 보자. 이상적인 행위가 애초에 반성적 자아를 요구하지 않는다면, “기계는 생각하지 않고 그저 할 뿐이다”라는 반론은 힘을 잃는다. 서양의 행위주체성 위기는 서양이 스스로 고른 개념에서 생겨난 것이다.

이는 자동화를 보는 눈도 바꾼다. 서양은 자동화를 수고의 제거로 여긴다. 장자는 숙련을 수고가 사라지는 지점으로 본다. 둘은 같지 않다. 하나에서는 일을 남에게 넘기고, 다른 하나에서는 일과 하나가 된다.

“이것은 인격인가”라는 질문이 틀린 질문일 수도 있다

서양의 인공지능 윤리는 늘 같은 축을 돈다. 의식, 권리, 도덕적 지위. 실제로 묻는 것이 이것이기 때문이다. 이것은 개체인가. 개체인 것만이 처벌되거나 법적으로 제한될 수 있다. 그렇다면 인공지능을 만들어낸 기업과 국가는 그것이 한 일에 책임을 질 수 있는가.

유교의 역할 윤리는 이런 질문에 아예 관심이 없다.

헨리 로즈몬트(2017년 작고)와 리쥔 위안이 다룬 관계적 자아 이해에서, 사람은 관계들이 교차하는 자리에서 생겨난다. 먼저 분리된 개인들이 있고 그다음에 그 사이에 관계가 맺어지는 것이 아니다. 정반대다. 관계가 먼저 오고, 사람은 거기서 태어난다.

아프리카 철학도 같은 수를 둔다. 우분투 전통에서 사물은 다른 사물과의 관계 안에서 지금의 그것이 된다.

한국어에서 정(情)이 놓인 자리도 여기와 멀지 않다. 정은 한 사람이 가슴에 소유한 감정이 아니라 오래 같이 지낸 사이에 쌓이는 것이고, 그래서 관계가 끝나면 남지 않는다. 미운 정이라는 말이 성립하는 것도 그 때문이다. 좋아하느냐 아니냐와 무관하게, 함께 보낸 시간 자체가 만들어낸 무엇이 있다는 뜻이니까. 사람의 속을 열어 재는 대신 사이를 재는 사고방식은 이 한 단어에 이미 들어 있다.

세 전통을 나란히 놓으면 질문이 달라진다. “인공지능 안에 무엇이 있는가” 대신 “그것이 우리와 어떤 관계를 맺는가”를 물어야 할지도 모른다.

형이상학적 짐이 훨씬 가볍고, 실천적으로 훨씬 풀 만하다.

그러나 공짜는 아니다. 관계적 자아는 지위를 관계가 준다고 말한다. 즉 지위를 우리가 준다. 이는 자의성의 문을 연다. 역사에서 “이것의 고통은 고통으로 치지 않는다”는 말이 착취에 얼마나 요긴했는지 우리는 안다. 동물에게 쓰였고, 노예가 된 사람들에게 쓰였다.

벤담이 1780년에 세운 기준은 아직도 가장 단단한 자리에 있다. 『도덕과 입법의 원리 서설』의 유명한 각주에서 그는 동물을 두고 이렇게 쓴다.

“The question is not, Can they reason? nor, Can they talk? but, Can they suffer?”

즉 진짜로 갈라내는 질문은 추론할 수 있는가도, 말할 수 있는가도 아니다. 고통을 느낄 수 있는가다.

조화인가, 정렬인가

여기서 논쟁은 철학에서 정치로 넘어가고, 단어들이 스스로를 드러낸다.

서양의 인공지능 거버넌스 언어는 정렬(alignment)을 중심으로 짜여 있다. 정렬, 안전, 통제. 공학적 제약의 언어가 앞에 선다.

중국의 언어는 화(和)를 중심으로 짜여 있다. 조화. 미학적이고 윤리적인 균형의 언어다.

둘 다 같은 것을 원한다. 마찰 없는 인간-기계 질서. 그러나 같은 것을 원하는 두 가지 방식은 두 가지 다른 정치를 낳는다.

다원주의인가. 기술 봉건제 혹은 국가의 전체주의인가.

답은 쉽지 않다. 조화는 서로 다른 소리가 함께 울리는 일일 수 있다. 오케스트라에서 악기는 저마다 자기로 남고, 전체는 그래도 하나가 된다. 『논어』의 화이부동(和而不同)이 겨눈 것도 이 구별이었다. 어울리되 같아지지는 않는다는 말은, 같아지는 쪽이 언제나 더 쉽다는 사실을 아는 사람이 쓴 문장이다.

또는 조화란 날이 갈수록 커지는 하나의 목소리가 나머지를 덮는 일일 수도 있다.

유교와 도교와 불교는 인간을 자연의 꼭대기에 두지 않았기에, 기계 지능의 등장이 왕좌를 빼앗기는 일처럼 보이지 않는다. 동양에서 공포가 덜한 이유다. 그러나 형이상학적 평정이 제도적 보장을 뜻하지는 않는다. 같은 기술이 어떤 곳에서는 감시 자본주의로, 다른 곳에서는 국가 감시로 바뀔 수 있다.

미래를 논하는 사이에 현재가 빠져나간다

초지능 논쟁은 근사하다. 우주적이고, 극적이고, 영화적이다.

그리고 바로 그래서 주의를 흩뜨린다.

컴퓨터 과학자 팀닛 게브루와, 사회학자이자 컴퓨터 과학자인 밀라그로스 미첼리가 끈질기게 가리키는 것은 이것이다. 이른바 자율 시스템은 전 지구적인 보이지 않는 노동층 위에 서 있다. 데이터 라벨러, 콘텐츠 모더레이터, 물류창고 노동자.

구체적인 예를 원한다면 미시간 통합 데이터 자동화 시스템(MiDAS)이 있다. 2013년 이 시스템은 실업급여 신청을 훑고 사기 딱지를 붙였다. 이후 주정부의 관련 수입은 삼백만 달러에서 육천구백만 달러로 뛰었다. 뒤이은 조사는 2013년부터 2015년까지 알고리즘이 낙인찍은 4만 건 넘는 신청 가운데 절대다수가 잘못된 판정이었음을 밝혔다. 주 감사관이 들여다본 표본에서는 판정의 93퍼센트에 사기의 흔적이 아예 없었다. 그리고 피해는 서류에서 끝나지 않았다. 임금이 압류되었고, 집을 잃은 사람이 나왔고, 파산을 신청한 신청자들도 있었다. 합의에 이른 것은 사건이 일어나고 약 십 년이 지난 뒤였다.

일자리를 잃은 수천 명이 컴퓨터 시스템에 의해 사기꾼으로 선포되었다. 거기에 초지능은 없었다. 평범한 소프트웨어와 이의를 제기할 수 없는 결정, 그리고 소프트웨어에 마땅한 것보다 더 크게 실린 신뢰가 있었을 뿐이다.

인공지능이 발전할수록 더 자주 논의되는 직장 감시도 같은 위험을 지닌다. 인공지능은 잴 수 있는 것을 세고, 재지 못하는 것은 대체로 없는 셈 친다. 보낸 이메일은 셀 수 있지만, 한 고객의 사정을 정말로 들어주는 일은 셀 수 없다. 결국 측정되지 않는 노동은 보이지 않는 노동이 된다.

감시는 행동을 잠시 바꾸는 것이 아니라 사람을 영구히 바꾼다. 감시받는 자는 얼마 지나 스스로를 감시하는 자가 된다.

침묵을 잴 수 있는가

관계라는 면에서 가장 날카로운 시험은 정신건강에서 치러진다.

숫자는 무겁다. 영국과 웨일스에서는 청년 넷 중 하나가, 미국에서는 여덟 중 하나가 정신건강 지원에 닿지 못한다. 2026년의 한 연구에 따르면 12세에서 21세 사이 미국인의 약 다섯 명 중 한 명이 슬프거나 화가 나거나 불안할 때 인공지능 챗봇을 찾는다. 약 팔백만 명이고, 한 해 만에 40퍼센트가 넘게 늘어난 숫자다. 그리고 그중 거의 삼분의 이는 그 사실을 누구에게도 말하지 않았다.

이것을 “사람들이 기술에 속고 있다”고 말하기는 쉽고, 또 틀렸다. 옳은 독법은 이렇다. 인공적인 친밀함이 어떤 빈자리를 메우고 있으며, 그 빈자리를 판 것은 인공지능이 아니다. 사람의 도움은 비싸지고 닿기 어려워졌다.

그래도 빠진 것이 하나 있고, 그것은 공감의 흉내가 아니다.

치료사와 이야기할 때 일어나는 일은 상대가 나에게 영향을 받는다는 것이다. 들은 것이 그를 바꾼다. 나의 침묵이 그에게 무언가를 말한다. 모델은 듣고, 기록하고, 응답을 만들어낸다. 그러나 자기가 목격한 것 때문에 바뀌지 않는다. 침묵은 그것에게 데이터가 아니다.

한국어에는 이 능력을 따로 부르는 말이 있다. 눈치는 상대가 말하지 않은 것을 읽는 일이고, 눈치가 없다는 말은 정보를 못 받았다는 뜻이 아니라 받고도 자기가 움직이지 않았다는 뜻에 가깝다. 눈치는 관찰만으로 완성되지 않는다. 읽은 사람이 자기 태도를 바꾸어야 비로소 성립한다. 언어 모델은 문장에서 감정의 표지를 꽤 정확히 집어낸다. 다만 집어낸 뒤에 달라지는 쪽이 없다.

차이는 여기 있다. 문제는 모델이 충분히 좋지 않다는 데 있지 않고, 모델이 좋다는 사실이 진짜 문제의 뿌리와 무관하다는 데 있다.

마르틴 부버(1965년 작고)의 구분이 이 상황을 아마 가장 잘 설명한다.

나-그것 관계에서 상대는 대상이다. 쓰이고, 측정된다. 나-너 관계에서는 만남이 일어난다. 부버가 말한 어려운 이야기는 이것이다. 두 음파가 서로 완전히 같더라도 하나는 만남이고 다른 하나는 아니다. 구별하지 못한다는 것이 같다는 뜻은 아니다.

그렇다면 미래를 어떻게 지을 것인가

이 글을 예언으로 끝내지는 않겠다. 예언이라는 것 자체가 인간과 인공지능 관계의 한 부분이기 때문이다.

헤로도토스가 전한다. 페르시아군이 다가오자 아테네인들은 델포이로 사절을 보냈고, 여사제는 도시가 위아래로 무너지리라는 어두운 신탁을 주었다. 신탁은 구원이 나무 성벽에 있다고 말했다. 테미스토클레스는 이 신탁을 자기 쪽으로 해석해, 나무 성벽이란 실은 아테네 함대의 목선이라고 주장했고 사람들을 설득해 본토를 떠나 배에 오르게 했다. 기원전 480년 살라미스 해전에서 이 날쌘 목조 함대는 페르시아 함대를 흩어놓으며 그리스의 운명을 바꾸었고, 테미스토클레스의 패러다임 전환은 그에게 승리를 안겼다.

패러다임 전환이 필요하다는 것은 분명하다.

인공지능 모델이 내놓은 출력의 가치도 그것을 읽는 사람에게 달려 있다. 이천오백 년 된 이 교훈은 오늘 지독하게 쓸모가 있다.

세 가지를 말하고 마치겠다.

첫째, 두려움의 방향을 고쳐야 한다. 진짜 위험은 기계가 고통을 느끼느냐 아니냐가 아니다. 진짜 위험은 의식이 있는 듯 보이는 것들 앞에서 우리가 심리적으로 착취 가능한 상태가 되는 것, 그리고 스스로를 기계와 섞어 생각할수록 자신을 낮춰 보게 되는 것이다. 위험은 위에서 오지 않고 우리가 들여다보는 거울에서 온다.

이 글을 쓰는 내내, 이제는 세상에 없는 철학자와 과학자들에게서 얻은 생각이 오늘을 이해하는 데 가장 큰 도움이 되었다.

둘째, 인간 예외주의를 지키는 것은 잘못된 전선이다. 현대 신경철학도 같은 말을 한다. 우리가 지키려던 고정된 자아는 애초에 없었다. 지켜야 할 것은 본질이 아니라 접촉이다. 몸을 입고 있다는 것, 무언가가 자기에게 문제가 된다는 것, 목격한 것 때문에 달라질 수 있다는 것. 이것들은 재산이 아니라 실천이다. 실천적 능력은 쓰이지 않으면 무뎌진다.

셋째, 자동화의 약속과 결과 사이의 거리는 이천 년째 변하지 않는 상수다. 테살로니카의 안티파트로스는 서기 12년 무렵 물레방아를 두고 쓴 에피그램에서, 곡식을 빻으려 무거운 맷돌을 돌리던 여인들에게 이제 잠들어도 된다고, 팔과 어깨를 쉬어도 된다고 말을 건넨다. 물의 흐름이 사람의 근력을 대신하면서, 기술의 진보가 인류에게 안긴 첫 번째 큰 안락을 나타낸 셈이다.

서기 12년에 일의 부담을 물이 넘겨받았다. 자동화의 첫 약속은 이윤이 아니라 잠이었다.

토머스 칼라일은 1829년 『시대의 징후』에서 산업혁명을 비판한다. 그가 보기에 진짜 위험은 일이 기계화되는 것만이 아니라, 기계의 작동 리듬이 인간의 정신과 영혼에까지 스며드는 것이었다.

1812년 랭커셔에서 메리와 리디아 몰리뉴라는 두 젊은 자매가 오십 명 남짓한 무리를 이끌고 방직기를 불태웠다. 이유는 기술에 대한 공포가 아니라 생계가 손에서 빠져나가는 일이었다.

1911년 미국 기술자 프레더릭 윈슬로 테일러는 『과학적 관리법』으로 인간의 노동을 측정되고 최적화될 하나의 공정으로 바꿔놓았다.

이 네 시점을 나란히 놓아보라. 약속은 매번 여가였고, 결과는 매번 새로운 기계화였다. 우리가 통과하고 있는 인공지능 혁명도 이 순환 바깥에 있지 않다.

한 가지 덧붙이자면, 이 순환에서 매번 되풀이된 것은 기술이 아니라 회계였다. 절약된 시간이 누구의 몫으로 기록되는가라는 물음에 미리 답을 마련해 둔 시대가 아직 없었다는 뜻이다.

인공지능 문제는 기계가 얼마나 인간이 될지를 정의하는 일이 아니다. 인간이 기계의 시대에 스스로를 덜어내지 않고 어떻게 다시 정의할 것인가의 문제다.

다만 우리는 목격하고 있는 이 혁명에서 무엇을 잃고 있는지 아직 이름 붙이지 못했고, 그 자리에 무엇이 올지도 여전히 그려내지 못한다. 인공지능에게 물어도 그것 역시 온전한 답을 주지 않는다.