Можем ли мы трезво описать перелом, находясь в самой его середине?

Можем ли мы трезво описать перелом, находясь в самой его середине?

---

Деревянные стены

Когда персидские войска подходили ближе, афиняне отправили послов к дельфийскому оракулу.

Пифия ответила темно: город будет разрушен до основания, спасение — только в деревянных стенах.

В Афинах начался спор. Одни поняли это как деревянный частокол вокруг Акрополя; звучало разумно, ведь при слове «стена» первым приходит на ум именно он. Полководец Фемистокл прочел иначе: деревянные стены — это корабли флота. Он убедил горожан оставить сушу и взойти на палубы.

В 480 году до н. э. при Саламине этот легкий деревянный флот разметал персидские корабли.

Точнее самого пророчества оказалось его толкование.

Ровно так же и сегодня. У нас есть сведения, но сведения сами по себе не задают направления. Из одной фразы вырастают два разных будущих, и мы не знаем, какое из них верное.

С искусственным интеллектом мы находимся именно в этом положении. Есть цифры, есть отчеты, есть прогнозы. Не хватает толкования, которое приведет к победе.

Изнутри не измеряется

Первая беда положения внутри революции не эмоциональная, а измерительная. Рыба узнает о воде последней — мы плохо различаем то, внутри чего находимся.

В 2025 году исследовательская группа METR поставила с виду простой опыт. Опытным разработчикам открытого кода дали настоящие задачи в их собственных репозиториях. Одним разрешили пользоваться инструментами искусственного интеллекта, другим нет.

Результат оказался такой: те, кто пользовался инструментами, заканчивали работу на 19 процентов медленнее.

Но суть не в этом. Суть в том, что те же разработчики сказали после опыта. В среднем они оценили, что искусственный интеллект ускорил их примерно на 20 процентов.

То есть они замедлились, а почувствовали ускорение. Разрыв восприятия — около сорока пунктов.

Границы этой работы стоит назвать честно: шестнадцать разработчиков, двести сорок шесть задач, инструменты начала 2025 года. Сама команда считает результат уже историческим и говорит, что он не описывает нынешние модели. И вывод здесь не «искусственный интеллект бесполезен».

Сказано другое, более узкое и более неприятное: находясь внутри технологии, ты не можешь измерить собственным ощущением, что она с тобой делает.

Держите это наблюдение под рукой, потому что на нем стоит все остальное. Каждый, кто говорит о революции, описывает чувством то, чего не измерил. Включая автора этих строк.

Имя всегда опаздывает

Выражения «промышленная революция» не было в ходу, пока пар наполнял фабрики. Имя эпохе дают после того, как эпоха закончилась. Те, кто жил внутри, переживали не революцию, а разрозненные тяготы и возможности. Цены, переселение, болезни, новая экономика, разбухающие города.

Экономический историк Пол Дэвид в 1990 году провел знаменитое сопоставление: после того как электричество пришло на заводы, показатели производительности долго не двигались. Настоящий прирост появился лет через тридцать-сорок.

Причина была не в слабости электричества. Заводы заменили паровую машину электромотором, но сам завод не перепроектировали. В старом порядке стоял один большой двигатель, и все станки крепились ремнями к трансмиссионным валам под потолком; здание было выстроено вокруг этой центральной силы. Настоящий дар электричества был в другом — дать каждому станку собственный маленький мотор. Чтобы это увидеть и заново собрать цех, понадобилось поколение.

Значит, прирост дала не техника, а переустройство.

План ГОЭЛРО был честен как раз в этом: он обещал не лампочки, а перекроенную карту хозяйства — новые станции, новые заводы, новые районы вокруг них. Сила была не в проводах, а в готовности пересобрать порядок вокруг проводов.

Поставим рядом результат METR. Разработчик кладет новый инструмент внутрь старого рабочего потока и чувствует, что ускорился, а цифры говорят обратное. Завод, подключивший электромотор к прежней системе валов и ремней, переживал ровно то же самое.

Отсюда и рамка: революция происходит не в технике, а в организации. А организация меняется куда медленнее техники.

Дилемма Коллингриджа: назвать, пока не поздно

Третье измерение темы — политическое.

Дэвид Коллингридж в 1980 году описал дилемму, и с тех пор это описание остается самой честной фразой технологической политики.

На раннем этапе технологию легко изменить, но ее последствий ты не знаешь. Когда последствия проявились, ты знаешь, с чем имеешь дело, но технология уже так укоренилась, что менять ее дорого, трудно и медленно.

Дилемма звучит так: пока перемена дешева, потребность в ней непредсказуема; когда потребность стала очевидной, перемена стала дорогой.

Эта дилемма объясняет оба лагеря спора об искусственном интеллекте одновременно.

Одни говорят: мы еще не знаем, не будем спешить с регулированием. И они правы — знания не хватает. Другие говорят: вмешаемся, пока не поздно. И они правы тоже — окно закрывается. Обе стороны правы, и именно поэтому спор не разрешается.

Собственное предложение Коллингриджа было скромным: двигать новшество шагами поменьше, избегать необратимых решений, строить системы, в которых ошибку можно заметить и исправить.

Переведем на сегодняшний язык. Вопрос не в том, хорош искусственный интеллект или плох. Вопрос в другом: сможем ли мы потом отменить решение наращивать его без ограничений?

Человек внутри революции

Под всем этим слоем измерений и политики происходит что-то куда более тихое.

Цифры серьезные. По опросу RAND примерно каждый восьмой американский подросток или молодой взрослый — около 5,4 миллиона человек — обращался к чат-боту, когда чувствовал грусть, тревогу или подавленность. В повторном опросе эта доля выросла до каждого пятого, то есть до 8,2 миллиона. Две трети из них никому об этом не сказали.

Сказать «люди ведутся на технологию» легко и неверно. Верное прочтение другое: искусственная близость заполняет пустоту, и пустоту эту открыл не искусственный интеллект. Человеческая поддержка стала и дорогой, и труднодоступной. Извозчик Иона у Чехова весь вечер ищет, кому рассказать о смерти сына, и в конце концов рассказывает лошади — эта пустота старше любой модели.

И все же чего-то не хватает, и это не подражание сочувствию.

Когда ты говоришь с терапевтом, происходит вот что: собеседник меняется от тебя. Услышанное на нем отражается. Твое молчание что-то ему говорит. Модель слушает, записывает, выдает ответ; но от того, чему стала свидетелем, она не меняется. Молчание для нее не данные.

Разница здесь. Дело не в том, что модель недостаточно хороша; дело в том, что ее качество не имеет отношения к сути.

Классическое имя этому — различение Мартина Бубера. В отношении «Я — Оно» другой есть предмет; его используют, его измеряют. В отношении «Я — Ты» происходит встреча. Трудная мысль Бубера в том, что даже если две звуковые волны совпадают до неразличимости, одна из них — встреча, а другая нет. Неспособность отличить не означает тождества.

Статистику революций вести легко. Статистику утраченного вести нельзя.

Обещанием всегда было свободное время

Антипатр Фессалоникский около 12 года нашей эры написал эпиграмму о водяной мельнице и обратился в ней к женщинам, крутившим жернов: спите теперь, пусть отдохнут ваши руки и плечи. Работу взяла на себя вода. Первым обещанием автоматизации была не прибыль, а сон.

Томас Карлейль в статье Signs of the Times 1829 года, критикуя промышленную революцию, видит главную опасность не в механизации ремесел. Он видит ее в том, что ритм машин просачивается в человеческий ум.

24 апреля 1812 года в ланкаширском городке Уэстхотон впереди толпы, поджегшей ткацкую фабрику, стояли две сестры. Мэри Молинё было девятнадцать, Лидии — пятнадцать. Судебные записи рассказывают, как они угольными крючьями били стекла и подстрекали мужчин; здание сгорело вместе со станками внутри. Причиной был не страх перед техникой, а уходящий из рук хлеб. Обеих оправдали.

В 1911 году Фредерик Уинслоу Тейлор своими Принципами научного менеджмента превратил человеческий труд в процесс, который следует измерить и оптимизировать. Девять лет спустя Замятин выстроил на этой идее целое государство: в «Мы» Тейлор — почитаемый гений, а жизнь расчерчена Часовой Скрижалью по минутам. Сатира понадобилась потому, что исходная мысль звучала как прогресс.

Поставленные рядом, эти четыре случая дают узор. Обещанием всякий раз было свободное время. Выигранное время всякий раз утекало в новую работу, новое измерение, новую механизацию.

Революция искусственного интеллекта из этого круга не выпадает. Совершенно очевидно, что базового дохода она нам не принесет. Мы будем работать иначе и больше — или же будем работать так, что отдача с искусственным интеллектом вырастет многократно.

Так на что же похоже трезвое описание

Я не стану заканчивать пророчеством, потому что само пророчество — часть этой истории. Вместо него оставлю три меры, пригодные для тех, кто находится внутри перелома.

Революцию надо искать не в технике, а в организации. Если новый инструмент кладут внутрь старого порядка, не меняется ничего — просто все чувствуют себя занятее. Хочешь понять, где произошла перемена, смотри не на инструмент, а на то, как поделена работа.

Не доверяй своему ощущению, измеряй. Результат METR существует ради этого. Человек может замедляться и чувствовать ускорение. Это не глупость: чувство гладкости, которое дает новый инструмент, просто не совпадает с измерением. Самая уверенная фраза о революции обычно оказывается наименее измеренной — или той, которую измерить забыли.

Спрашивай об обратимости наших решений об искусственном интеллекте. Дилемма Коллингриджа неразрешима, но управляема. Вопрос «хорошо это или плохо» никуда нас не ведет уже годами. Вопрос «сможем ли мы это отменить и как быстро заметим ошибку» — вопрос, у которого есть ответ.

Фемистокл победил не потому, что истолковал пророчество в свою пользу, а потому, что истолковал его верно. Разница вот в чем: он смотрел не на доставшуюся ему фразу, а на доставшуюся ему реальную возможность. Частокол Афин был слаб, флот был силен.

Сегодня фразы у нас наготове: крах, спасение, скачок, угроза. Каждая звучит убедительно, и ни одна сама по себе не задает направления.

Спрашивать надо о другом: что у нас есть на самом деле и чем мы, как человечество, готовы рискнуть.

Если в нынешнем положении задать этот вопрос искусственному интеллекту, он тоже не даст полного ответа. И ждать этого не стоит, потому что ответ на такой вопрос человек должен найти сам.