우리는 변화의 한복판에 서서 그 변화를 제대로 설명할 수 있을까

우리는 변화의 한복판에 서서 그 변화를 제대로 설명할 수 있을까

---

나무 성벽

페르시아 군대가 다가오자 아테네인들은 델포이로 사절을 보냈다.

여사제는 어두운 예언을 내놓았다. 도시는 송두리째 무너질 것이고, 구원은 오직 나무 성벽에 있다는 것이었다.

아테네는 곧 둘로 갈라졌다. 어떤 이들은 아크로폴리스를 둘러싼 나무 울타리를 떠올렸다. 그럴듯한 해석이었다. 나무 성벽이라는 말을 들으면 누구나 가장 먼저 떠올릴 만한 것이었으니까. 사령관 테미스토클레스는 다르게 읽었다. 나무 성벽이란 함대의 목선이라는 것이었다. 그는 사람들을 설득해 육지를 버리고 배에 오르게 했다.

기원전 480년 살라미스에서 그 날렵한 목선들이 페르시아 함대를 산산조각 냈다.

예언보다 정확했던 것은 예언의 해석이었다.

지금도 사정은 똑같다. 정보는 손에 있다. 그런데 정보만으로는 방향이 정해지지 않는다. 같은 문장에서 서로 다른 두 개의 미래가 나오고, 우리는 어느 쪽이 맞는지 확신하지 못한다.

인공지능을 두고 우리가 처한 상황이 정확히 이렇다. 숫자도 있고 보고서도 있고 전망도 있다. 없는 것은 우리를 이기게 해줄 해석이다.

안에서는 측정되지 않는다

인공지능 혁명 한가운데 있다는 것의 첫 번째 문제는 감정의 문제가 아니라 측정의 문제다. 물을 가장 늦게 아는 것이 물고기라는 말처럼, 우리는 우리가 몸담고 있는 것을 알아차리지 못한다.

2025년 METR이라는 연구 그룹이 단순해 보이는 실험을 했다. 숙련된 오픈소스 개발자들에게 자기가 훤히 아는 저장소에서 실제 과제를 맡겼다. 한쪽은 인공지능 도구를 쓰게 했고, 한쪽은 쓰지 못하게 했다.

결과는 이랬다. 도구를 쓴 개발자들이 19퍼센트 더 느리게 일을 끝냈다.

핵심은 여기가 아니다. 핵심은 그 개발자들이 실험이 끝난 뒤에 한 말이다. 그들은 평균적으로 인공지능이 자신을 20퍼센트쯤 빠르게 만들어줬다고 추정했다.

느려졌는데 빨라졌다고 느낀 것이다. 그 사이에 약 40포인트의 인식 격차가 놓여 있다.

연구의 한계는 정직하게 말해두는 편이 낫다. 개발자 열여섯 명, 과제 246개, 2025년 초의 도구들이었다. 연구팀 스스로도 이 결과를 이제는 역사적 자료로 보며, 지금의 도구를 대표하지 않는다고 말한다. 그리고 이 결과는 인공지능이 쓸모없다는 뜻이 결코 아니다.

이 실험이 말하는 것은 훨씬 좁고, 그래서 훨씬 아프다. 어떤 기술의 안에 있을 때, 그 기술이 나에게 무엇을 하고 있는지를 내 감각으로는 측정할 수 없다는 것이다.

이 발견을 손에 쥐고 있길 바란다. 이 글의 나머지가 전부 그 위에 세워져 있기 때문이다. 혁명을 이야기하는 모든 사람은 측정하지 못한 것을 느낌으로 묘사하고 있다. 이 글을 쓰는 나도 예외가 아니다.

이름은 언제나 늦게 붙는다

산업혁명이라는 말은 증기기관이 공장을 채우던 시절에 쓰이던 말이 아니었다. 한 시대의 이름은 그 시대가 끝난 뒤에 붙는다. 그 안에서 살던 사람들은 그것을 혁명으로 겪지 않았다. 서로 이어지지 않는 고통과 기회의 더미로 겪었을 뿐이다. 물가, 이주, 질병, 새로운 경제, 부풀어 오르는 도시.

한강의 기적이라는 표현도 그 시기를 통과하던 사람의 입에서 나온 말이 아니다. 그 안에 있던 사람은 야근과 이사와 물가와 팽창하는 도시를 겪었다. 이름은 한참 뒤에 붙었다.

경제사학자 폴 데이비드는 1990년에 유명한 비교를 내놓았다. 전기가 공장에 들어온 뒤에도 생산성 수치는 오랫동안 꿈쩍하지 않았다. 진짜 생산성은 삼사십 년쯤 지나서야 나타났다.

이유는 전기가 약해서가 아니었다. 공장은 증기기관을 전기 모터로 바꿨을 뿐, 공장 자체를 다시 설계하지는 않았다. 옛 방식에서는 거대한 모터 하나가 있었고 모든 작업대가 천장의 축에 벨트로 물려 있었다. 건물 자체가 그 중앙 동력을 중심으로 지어져 있었다. 그런데 전기가 준 진짜 선물은 작업대마다 자기만의 작은 모터를 갖게 해주는 것이었다. 그것을 알아보고 공장 배치를 처음부터 다시 세우는 데 한 세대가 걸렸다.

즉 생산성은 기술에서 온 것이 아니라 재조직에서 왔다.

이제 이것을 METR의 발견 옆에 놓아보자. 개발자는 새 도구를 옛 작업 흐름 안에 끼워 넣고는 빨라졌다고 느낀다. 그런데 숫자는 정반대를 말한다. 전기 모터를 옛 축과 벨트에 연결했던 공장이 겪은 일이 정확히 이것이었다.

혁명은 기술에서 일어나지 않고 조직에서 일어난다. 그리고 조직은 기술보다 훨씬 느리게 바뀐다.

콜링그리지 딜레마: 늦기 전에 규정해야 한다

세 번째 축은 정치의 영역이다.

데이비드 콜링그리지는 1980년에 하나의 딜레마를 기술했고, 그 기술은 그 뒤로 기술정책에서 가장 정직한 문장으로 남았다.

어떤 기술의 초기 단계에서는 그것을 빚어내기가 쉽다. 대신 그 영향을 알지 못한다. 영향이 드러날 무렵이면 무슨 일이 벌어지는지는 알게 되지만, 기술은 이미 너무 깊이 자리를 잡아 바꾸는 일이 비싸고 어렵고 느려진다.

콜링그리지의 딜레마는 이런 모양이다. 바꾸기 쉬울 때는 무엇을 바꿔야 할지 알 수 없고, 무엇을 바꿔야 할지 분명해질 때는 바꾸는 값이 이미 올라 있다.

이 딜레마는 인공지능 논쟁의 두 진영을 동시에 설명해준다.

한쪽은 아직 모르니 성급하게 규제하지 말자고 한다. 맞는 말이다. 정보가 부족하다. 다른 쪽은 늦기 전에 개입하자고 한다. 이쪽도 맞는 말이다. 창이 닫히고 있기 때문이다. 둘 다 옳고, 바로 그래서 논쟁이 끝나지 않는다.

콜링그리지 본인의 제안은 소박했다. 혁신을 더 작은 걸음으로 진전시킬 것, 되돌릴 수 없는 설계를 피할 것, 틀리고 나서 고칠 수 있는 시스템을 만들 것.

이것을 오늘의 언어로 옮기면 이렇다. 물어야 할 질문은 인공지능이 좋으냐 나쁘냐가 아니다. 물어야 할 질문은 이것이다. 인공지능을 무한정 키우겠다는 결정을 나중에 되돌릴 수 있는가.

혁명 안의 사람

이 모든 측정과 정치의 층 아래에서, 훨씬 조용한 일이 벌어지고 있다.

숫자는 가볍지 않다. 랜드연구소의 설문에 따르면 미국의 청소년과 청년 가운데 약 8분의 1이, 그러니까 대략 540만 명이 슬프거나 불안하거나 버겁다고 느낄 때 챗봇을 찾은 적이 있다. 후속 조사에서는 그 비율이 5분의 1, 820만 명으로 올라간다. 그리고 그중 3분의 2는 자기가 그렇게 했다는 사실을 아무에게도 말하지 않았다.

여기에 대고 사람들이 기술에 속고 있다고 말하기는 쉽다. 그리고 틀렸다. 제대로 읽으면 이렇다. 인공적인 친밀함이 어떤 빈자리를 메우고 있는데, 그 빈자리를 만든 것은 인공지능이 아니다. 사람의 도움이 비싸지고 동시에 닿기 어려워졌을 뿐이다.

그럼에도 빠진 것이 하나 있다. 그리고 그 빠진 것은 공감의 흉내가 아니다.

상담자와 이야기할 때 벌어지는 일은, 맞은편 사람이 나로 인해 달라진다는 것이다. 그가 들은 것이 그를 바꾼다. 나의 침묵이 그에게 무언가를 말한다. 모델은 듣고 기록하고 응답을 만들어내지만, 자신이 목격한 것 때문에 달라지지는 않는다. 침묵은 모델에게 데이터가 아니다.

정(情)이라는 말이 이 자리를 잘 짚는다. 정은 한 번의 대화로 생기지 않는다. 오래 주고받는 동안 서로가 조금씩 달라지면서 쌓인다. 모델과 나 사이에 쌓이지 않는 것이 정확히 그것이다.

차이는 여기에 있다. 문제는 모델이 충분히 좋지 않다는 것이 아니다. 모델이 좋다는 사실이 정작 이 문제와는 무관하다는 것이다.

마르틴 부버의 구분이 이것의 고전적인 이름이다. 나와 그것의 관계에서 맞은편은 대상이다. 쓰이고 측정된다. 나와 너의 관계에서는 만남이 일어난다. 부버가 말한 어려운 대목은 이렇다. 두 음파가 완전히 똑같더라도 하나는 만남이고 다른 하나는 아니다. 구별할 수 없다는 것이 같다는 뜻은 아니다.

혁명의 통계는 쉽게 잡힌다. 사라진 것의 통계는 잡히지 않는다.

약속은 매번 여가였다

테살로니카의 안티파트로스는 서기 12년 무렵 물레방아를 두고 쓴 경구에서 맷돌을 돌리던 여인들에게 말을 건다. 이제 자도 된다고, 팔과 어깨를 쉬게 해도 된다고. 일은 물이 넘겨받았다고. 자동화의 첫 약속은 이윤이 아니라 잠이었다.

토머스 칼라일은 1829년의 글 Signs of the Times에서 산업혁명을 비판하면서 진짜 위험을 일이 기계화되는 데서 보지 않는다. 기계의 작동 리듬이 인간의 정신에 스며드는 데서 본다.

1812년 4월 24일 랭커셔의 웨스트호턴에서, 한 방직공장을 불태운 무리의 맨 앞에 두 자매가 서 있었다. 메리 몰리뉴는 열아홉, 리디아는 열다섯이었다. 법정 기록은 두 사람이 석탄 갈고리로 창문을 부수고 남자들을 부추기는 모습을 전한다. 건물은 안에 있던 방직기와 함께 불탔다. 이유는 기술에 대한 공포가 아니었다. 생계가 손에서 빠져나가는 것이었다. 두 사람 모두 무죄로 풀려났다.

1911년 프레더릭 윈즐로 테일러는 과학적 관리의 원칙으로 인간의 노동을 측정하고 최적화할 수 있는 공정으로 바꾸어놓았다.

이 넷을 나란히 세우면 패턴이 드러난다. 약속은 매번 여가였다. 그리고 벌어들인 시간은 매번 새로운 일로, 새로운 측정으로, 새로운 기계화로 흘러갔다. 세계에서 가장 긴 축에 드는 노동시간을 유지해온 사회가 그 세월 내내 쉬지 않고 자동화를 들여왔다는 사실은, 이 패턴을 꽤 가까운 거리에서 보여준다.

지금 우리가 통과하는 인공지능 혁명도 이 순환의 바깥에 있지 않다. 기본소득을 가져다주지 않으리라는 것은 아주 분명하다. 우리는 다르게, 그리고 더 많이 일하게 되거나, 인공지능과 함께 훨씬 더 많은 결과물을 내놓는 방식으로 일하게 될 것이다.

그렇다면 건강한 설명은 어떤 모습인가

이 글을 예언으로 끝내지는 않겠다. 예언 자체가 이 이야기의 일부이기 때문이다. 대신 혁명 안에 있는 동안 쓸 수 있는 세 개의 자를 남기겠다.

혁명을 기술이 아니라 조직에서 찾아야 한다. 새 도구가 옛 질서 안에 놓이면 아무것도 달라지지 않는다. 모두가 더 바쁘다고 느낄 뿐이다. 변화가 어디서 일어나는지 알고 싶다면 도구가 아니라 일이 어떻게 나뉘는지를 보라.

자기 느낌을 믿지 말고 측정해야 한다. METR의 발견은 그러라고 있는 것이다. 사람은 느려지면서도 빨라졌다고 느낄 수 있다. 이것은 어리석음이 아니다. 새 도구가 주는 매끄러움의 감각과 측정이 같은 것이 아닐 뿐이다. 혁명에 대해 가장 확신에 차서 말하는 문장은 대개 가장 덜 측정되었거나 측정을 건너뛴 문장이다.

인공지능에 관한 우리의 결정이 되돌릴 수 있는 것인지 물어야 한다. 콜링그리지 딜레마는 풀리지 않지만 관리는 된다. 이게 좋은가 나쁜가라는 질문은 여러 해 동안 우리를 어디로도 데려가지 못했다. 이걸 나중에 되돌릴 수 있는가, 잘못을 얼마나 빨리 알아차릴 수 있는가라는 질문은 답이 있는 질문이다.

테미스토클레스가 이긴 것은 예언을 자기에게 유리하게 해석했기 때문이 아니라 정확하게 해석했기 때문이다. 차이는 이것이었다. 그는 손에 든 문장이 아니라 손에 든 실제 역량을 보았다. 아테네의 울타리는 약했고 함대는 강했다.

오늘 우리 손에 든 문장들은 이미 준비되어 있다. 파멸, 구원, 도약, 위협. 전부 그럴듯하게 들리고, 어느 하나도 혼자서는 방향을 주지 못한다.

물어야 할 질문은 이것이다. 우리 손에 실제로 있는 것은 무엇이며, 인류로서 우리는 무엇을 잃는 것까지 감수하려 하는가.

지금 이 상황에서 이 질문을 인공지능에게 던지면 인공지능도 온전한 답을 내놓지 못한다. 기대해서도 안 된다. 이 질문의 답은 사람이 스스로 찾아야 하는 것이기 때문이다.