Является ли ИИ по-настоящему «разумным»? Этот философ говорит «да»

Любой, кто ведёт серьёзный диалог с большой языковой моделью (LLM), может получить впечатление, что взаимодействует с разумом. Но многие эксперты утверждают, что это лишь впечатление. Словами философа Дэниела Деннета: такие системы демонстрируют «компетентность без понимания». Ажиотаж вокруг Искусственного Общего Интеллекта (AGI) от крупных корпораций вызвал ответную реакцию, в которой скептицизм перерастает в цинизм, часто окрашенный паранойей о том, как «стохастические попугаи» могут начать управлять нашей жизнью. Сама тема «интеллекта» стала перегретой — она требует меньше самоуверенности, больше холодного мышления и новых попыток найти отправную точку.

«Что такое интеллект?» Блеза Агера-и-Аркаса (видного деятеля Google) — первая книга в новой серии MIT совместно с Antikythera (мозговым центром, сосредоточенным на «планетарных масштабах вычислений как философской, технологической и геополитической силе»). Предисловие редактора серии Бенджамина Браттона делает смелое заявление: «вычисления — это технология для мышления», а строительные блоки нашей реальности сами по себе являются вычислительными. Исследования интеллекта имеют неоднозначную историю, запятнанную евгеникой, статистическими манипуляциями и заурядной одержимостью метриками. Агера-и-Аркас противодействует этому, открывая тему максимально широко. Выпускник-физик с бэкграундом в вычислительной нейронауке, он своего рода полимат. Он черпает объяснительные рамки из микробиологии, философии, лингвистики, кибернетики, нейронауки и промышленной истории. Его книга представляет собой последовательность вводных лекций в этих областях. «Немногие авторы мейнстрима утверждают, что ИИ — это „настоящий“ интеллект, — пишет он. — Я утверждаю».

Фундаментальный аргумент против «И» в ИИ заключается в том, что интеллект органичен, проистекает из сенсорного взаимодействия с физической средой. Агера-и-Аркас меняет правила игры, исходя из того, что вычисления — это субстрат интеллекта во всех формах жизни. Это утверждение опирается на, казалось бы, примитивную идею: предсказание — фундаментальный принцип интеллекта и «возможно, вся история». Под предсказанием здесь понимается нечто гораздо более радикальное, чем автозамена в тексте. Он объясняет это в биологических терминах как процесс развития паттернов. Одиночные клетки (бактерии) предсказывают последовательности событий, которые могут повлиять на их выживание. Синаптические правила обучения в отдельных нейронах порождают локальное предсказание последовательностей.

Агера-и-Аркас рассказывает, как его путешествие в загадочную территорию ИИ достигло поворотного момента с его контр-интуитивным признанием: «ботаны были правы» — в вычислениях большее действительно было лучшим и могло стать ключом к переходу от Узкого ИИ (который умеет играть в шахматы) к Общему ИИ (который может участвовать в философской дискуссии). Отбросив презрение к, казалось бы, примитивной одержимости увеличением масштаба, он вернулся в биологическую лабораторию для переоценки наблюдаемого в живых системах. Если каждая форма жизни — это агрегация кооперативных частей, рассудил он, то эволюция клеток в органы и организмы может быть вопросом предсказательного моделирования.

Центральный принцип «Что такое интеллект?» заключается в том, что каждая форма жизни — это агрегация кооперативных частей. Связи размножаются через паттерны, которые обеспечивают всё более сложные функции. Когда Агера-и-Аркас говорит, что мозг является вычислительным, это не метафора: не то что мозг подобен компьютеру, он и есть компьютер. Корреляции между биологическими и механическими формами интеллекта — его глубокая и устойчивая страсть. «Что такое интеллект?» следует за «Что такое жизнь?» — более короткой книгой, в которой Агера-и-Аркас закладывает основу для этой более крупной и амбициозной публикации. Два вопроса остаются переплетёнными (если не слитыми) в его анализе, который опирается на основополагающие работы физика Эрвина Шрёдингера, математиков Алана Тьюринга, Джона фон Неймана и Норберта Винера, а также микробиолога Линн Маргулис. Это основоположники современного мышления об искусственном интеллекте, и поиск истоков проходит через все линии исследования Агера-и-Аркаса.

Стоит отметить, что Antikythera — издательская серия, запущенная этой книгой, названа в честь древнего устройства, найденного в кораблекрушении у берегов Греции, которое называют оригинальным аналоговым компьютером. Вычисление было настолько же открыто, насколько и изобретено, говорит Браттон в предисловии. Как устройство для отслеживания астрономических явлений, Антикитерский механизм свидетельствует о вычислениях как об аспекте того, как работает вселенная.

Агера-и-Аркас хочет более конкретно подойти к вопросу о происхождении. Как из случайности возникает паттерн? Как код возникает из неорганизованного супа молекул? Подходя к этим вопросам, он берёт пример с Тьюринга и фон Неймана, чьи эксперименты предвосхитили открытие молекулярной структуры ДНК в 1953 году. Машина Тьюринга 1936 года создала минималистичный прототип вычислительной функции с простыми компонентами (кодированная лента и считывающая/записывающая головка). Фон Нейман привнёс фокус на воплощённые вычисления, где компоненты машины или тела являются частью того, что записано.

Именно здесь Агера-и-Аркас и располагает свою работу. Его прорыв произошёл благодаря использованию языка программирования «Brainfuck» (создан в 1993 году). Всего с восемью символами команд, Brainfuck задал параметры для контролируемого эксперимента, в котором Агера-и-Аркас и его команда использовали 64-байтовые ленты, закодированные «мусором», извлечённым из супа кода и данных. Две ленты выбираются случайно, соединяются концами и запускаются для проверки паттернов взаимодействия. Затем цикл повторяется. Поначалу среди случайности ничего не проявляется. Но после миллиона или около того повторений (не так много в вычислительных терминах) начинается магия. Появляются петли. Возникают паттерны. Примерно к отметке в пять миллионов нефункциональный код («газ Тьюринга») превращается в «компьюторий» самореплицирующегося кода. В лекциях Агера-и-Аркас показывает скриншот этого на своём ноутбуке: вертикальная линия в центре поля данных отмечает «фазовый переход». Изображение воспроизведено на обложке его книги как эмблема сдвига парадигмы, который он отслеживает.

Если переход к самореплицирующемуся коду действительно является выражением того, что происходит в развитии форм жизни, теория естественного отбора может потерять свои претензии на первенство в качестве объяснительной модели эволюции. Агера-и-Аркас не вступает в полемическую критику Докинза, но его книга выводит на арену Маргулис — раннего оппонента Докинза. В публичных дебатах в Оксфорде в 2009 году популярная концепция «эгоистичного гена» Докинза столкнулась с давлением теории симбиогенеза Маргулис (буквально — генезиса через комбинацию или слияние). Нарратив Докинза основан на дарвиновском взгляде на естественный отбор через конкурентное преимущество; Маргулис опиралась на исследования формирования микроорганизмов через комбинации митохондрий и хлоропластов, когда-то независимых форм жизни. Это было выживание сильнейшего против видения биологической сложности, порождаемой эндосимбиозом — отношениями, в которых один организм живёт внутри другого, потенциально приводя к новой форме жизни. Или, как это видит Агера-и-Аркас, к стимулу «fit» (подгонки), понимаемой как завершение паттерна, а не «fitness» (приспособленности), понимаемой как преимущество.

Центральные концепции Агера-и-Аркаса — предсказание и функция, которые работают вместе, объясняя интеллект как развитие функциональной сложности через предсказательное завершение паттерна. Он стирает здесь знакомую концептуальную границу: интеллект не порождает функцию, он и есть функция. Интеллект, утверждает он, — это свойство систем, а не существ, и функция — его первичный индикатор. Камень не функционирует, а почка функционирует. Это легко демонстрируется разрезанием их пополам: камень становится двумя камнями, а почка перестаёт быть почкой. Так обладает ли интеллектом почка? Амёба? Лист? Эти вопросы открыты, как и вопрос о том, обладают ли большие языковые модели интеллектом — что может быть лучшей формулировкой, чем вопрос о том, являются ли они разумными.

Агера-и-Аркас не одинок в своей позиции. Влиятельный биолог Майкл Левин руководит исследовательской лабораторией в Университете Тафтса, где он и его команда изучают функциональные корреляции между природными организмами и синтетическими или химерными формами жизни в поисках «интеллектуального поведения в незнакомых обличьях». Их заявленная цель — разработать способы коммуникации с подлинно разнообразными интеллектами (клетки, ткани, органы, синтетические живые конструкции, роботы и программные ИИ). Такой подход прокладывает курс между взглядом на LLM как на «стохастических попугаев» и теорией «морфического резонанса» биолога Руперта Шелдрейка (которая предполагает, что органическая форма — это проявление памяти, резонирующее через поколения как генетическое наследие). Агера-и-Аркас избегает как интуитивно-телепатических ориентаций Шелдрейка, так и жёстких ограничений механистического детерминизма.

Тезис, представленный в «Что такое интеллект?», скорее незнаком, чем сложен по своей сути. Многое из объяснений достаточно легко понять обычному читателю, хотя Агера-и-Аркас имеет склонность уходить в более техническую и абстрактную область программирования, как будто обращаясь к инсайдерской аудитории. Объёмный глоссарий не включает стандартные термины программирования (логические вентили, градиенты, веса, обратное распространение). На более чем 600 страницах «Что такое интеллект?» — это марафонское чтение, отягощённое отвлекающими экскурсами (непонятно, зачем ему углубляться в историю индустриализации или антропологические исследования народа пираха в Амазонии). Это книга, в которую стоит заглядывать, а не проглатывать целиком. Но её идеи важны. Они вполне могут стать частью крупной трансформации в нашем мышлении о том, где находится человеческий интеллект в быстро развивающейся среде ИИ.

Итог: «Что такое интеллект?» — это не просто книга об ИИ. Это попытка пересмотреть сам концепт интеллекта, размыв границы между биологическим, механическим и вычислительным. Агера-и-Аркас предлагает нам мыслить интеллект не как нечто, чем мы обладаем, а как нечто, что системы делают. И если он прав, то вопрос «обладает ли ИИ интеллектом?» не имеет смысла — правильнее спрашивать, какой именно интеллект и какую функцию он выполняет.