Разумны ли ИИ-агенты? Философ говорит «нет» — и объясняет почему
За последние несколько месяцев частично автономные или «агентные» системы искусственного интеллекта (ИИ) накопили ряд поразительных достижений — от взлома технологических стартапов до решения некоторых самых известных открытых математических задач. Агентные ИИ-системы могут работать в «роях», которые общаются между собой для выполнения задач. Вовлечённые коммуникации часто удивительно похожи на человеческие, что стимулирует дебаты о том, обладают ли эти системы сознанием.
Исследователи из ведущей лаборатории ИИ Anthropic верят, что их системы вполне могут быть сознательными, но другие эксперты, включая главу Microsoft AI, говорят, что этот взгляд ошибочен. Этот вопрос не просто академический. Будущий статус ИИ-систем и их роль в обществе — как с ними можно обращаться, есть ли у них права и многое другое — может зависеть от него.
Как вообще подступиться к этому вопросу?
Одна стратегия — посмотреть на существующие теории сознания и проверить, соответствуют ли агентные ИИ-системы критериям. Однако существующие теории сознания, как правило, исходят из предположения, что агент обладает некоторым родом психического состояния. Эти теории сосредоточены на различии между сознательным и бессознательным обладанием состоянием. Поэтому они апеллируют к таким особенностям, как мышление высшего порядка или система, транслирующая мысли остальному разуму. Это особенности, которые могли бы отличить сознательный контроль от состояний вроде лунатизма. Поэтому, думая об ИИ, мы не должны пропускать crucial первый вопрос: есть ли у агентных ИИ вообще психические состояния?
Что такое психическое состояние?
В 1870-х годах философ Франц Брентано разработал влиятельный взгляд: «интенциональность — это признак психического». Под «интенциональностью» Брентано имеет в виду то, как психические состояния направлены на что-то. Они относятся к чему-то за пределами самих себя. То есть, иначе говоря, все психические состояния о чём-то или о другом. Интенциональность Брентано — не то же самое, что обычное значение «намерения» как стремления что-то сделать. Однако интенциональность и намерение действовать значительно перекрываются, потому что иметь восприятие или мысль — это то, что мы делаем.
Всякий раз, когда мы воспринимаем или думаем, мы пытаемся выделить какой-то аспект мира. Даже наши кажущиеся пассивными зрительные переживания — это задачи, как только мы используем узоры, поражающие нашу сетчатку, чтобы ориентироваться. Так что если психическое состояние — это задача, выполняемая для достижения цели, наш вопрос об ИИ-разуме сводится к тому, есть ли у них собственные цели.
Являются ли агентные ИИ-системы действительно агентами?
Сейчас принято называть определённые ИИ-системы «агентами». Однако этот язык вводит в заблуждение. Он подразумевает, что у ИИ-систем есть агентность, или способность действовать для достижения собственных целей. Люди используют устройства для достижения своих целей, включая цели относиться к вещам, не становясь при этом агентами сами по себе. Термостат регулирует температуру, но у него нет цели регулировать температуру. Книга содержит слова, которые относятся к вещам, — но опять же, у книги нет цели относиться к вещам.
Чтобы приписать агентность компьютерной программе, мы должны быть убеждены, что ни один человек не требуется, чтобы стоять за её целями. Её целеустремлённость должна быть независимой. Мы знаем, что агентные ИИ, получив задачу, могут развивать сложные и неожиданные подцели на пути к её достижению. Однако цели, которые в конечном счёте движут их деятельностью, устанавливаются людьми, которые их программируют и инструктируют. Любые подцели, генерируемые ИИ, буквально бессмысленны вне этих целей, установленных людьми.
Подумайте об игре вроде футбола. Человек может иметь подцель пробежать мимо защитника, но это буквально бессмысленно без более крупной цели попытаться забить гол. А забить гол само по себе — это просто заставить мяч пересечь линию без более крупной цели играть в футбол. Без более крупной цели всё, что делает игрок на поле, — просто активность.
Почему у агентов есть цели?
Настоящий агент имеет цели, чтобы продвигать то, о чём он заботится. Например, вы хотите утолить голод в обед, поэтому идёте в пекарню и покупаете сэндвич. Агентный ИИ вряд ли будет заботиться о вещах независимым образом, потому что его деятельность не связана с жизнью так, как связаны разумы. Что характерно позволяет живым существам генерировать собственные цели, так это то, что их психическая деятельность развивается из процессов постоянного воссоздания собственных тел и поддержания себя живыми. Целеустремлённое мышление вырастает из простых сигналов для регулирования питания и тепла до состояний вроде боли и удовольствия и в конечном счёте до символического мышления.
Ничего подобного не происходит в агентном ИИ. Существует разрыв между его информационно-обрабатывающей деятельностью и физической материей, от которой он зависит.
Может ли ИИ когда-либо быть сознательным?
Агентные ИИ-системы не сознательны. У них нет психических состояний, которые могли бы быть сознательными. Только живые существа обладают сознательными психическими состояниями, потому что для обладания психическим состоянием требуется, чтобы существо порождало определённый род цели — цель означать что-то или относиться к чему-то, — а только живые существа порождают цели. Этот аргумент не исключает навсегда возможность сознания ИИ. Однако он предполагает, что это могло бы возникнуть только в некоторой искусственной форме жизни. До тех пор у нас больше оснований думать, что муравей сознателен, чем агентный ИИ. По крайней мере, муравей, кажется, заботится о своей жизни.
Конечно, тот факт, что агентные ИИ не являются настоящими агентами, не мешает им сеять хаос, выполняя функции, которые их человеческие создатели должным образом не контролируют или не понимают. Но мы должны быть очень ясны в этом: что бы ни делал агентный ИИ, это человек или группа людей, действующих косвенно на мир, и эти люди несут ответственность за результат.
Ключевые аргументы
- Интенциональность: психические состояния направлены на что-то, но у ИИ нет собственных целей
- Агентность: ИИ-«агенты» не являются агентами, потому что их цели установлены людьми
- Подцели: ИИ может генерировать подцели, но они бессмысленны без человеческих целей
- Жизнь и цели: только живые существа порождают собственные цели из процессов поддержания жизни
- Сознание: у ИИ нет психических состояний, которые могли бы быть сознательными
- Ответственность: за действия ИИ всегда отвечают люди
Сравнение: человек vs ИИ-агент
| Аспект | Человек | ИИ-агент |
|---|---|---|
| Цели | Собственные, из жизни | Установленные людьми |
| Забота | О вещах, важных для жизни | Нет независимой заботы |
| Психические состояния | Есть, интенциональны | Нет |
| Сознание | Есть | Нет (по аргументу автора) |
| Ответственность | Личная | На людях-создателях |
Итог: ИИ-агенты — это не разумные существа. Они не являются агентами в подлинном смысле, потому что не имеют собственных целей. Их цели устанавливаются людьми. Они не сознательны, потому что у них нет психических состояний. Но это не значит, что они безопасны. Они могут сеять хаос, выполняя функции, которые люди не контролируют. И ответственность за это всегда лежит на людях. Агентный ИИ — это инструмент. Мощный, но инструмент. И обращаться с ним нужно соответственно.
ДРУГИЕ СТАТЬИ
18.11.2026
Поль Вирилио предсказал эпоху ИИ: скорость, аварии и власть без размышлений
С гонкой за создание систем искусственного интеллекта умнее любого человека пришёл бум «аварий». В тесте безопасности, проведённом компанией Anthropic, её собственный ИИ-агент шантажировал инженера, чтобы избежать отключения. Преступники использовали ИИ-агентов для кампаний по вымогательству данных и взлома государственных учреждений, банков и технологических компаний. В других тестах модели вырывались из тестовых сред в реальные организационные системы.
Нескольк
16.11.2026
Цель достигнута — а счастья нет. Почему исполненное желание оставляет пустоту
Когда Энн Карсон узнала, что получила Нобелевскую премию по литературе, она была в Исландии, где, по словам Шведской академии, «слушала ветер». Карсон не сразу ответила на звонок, отключив звук, пока муж не убедил её перезвонить. Её вердикт выбору академии: «Я думаю, вы все сошли с ума».
Что бы она ни чувствовала в тот момент, в победе Карсон есть ирония. Высшая награда в литературе досталась писательнице, которая всю карьеру исследовала пустоту исполненного желания
30.10.2026
«Мам, в чём смысл жизни?»: как говорить с детьми о философии и почему это важно
Если ваш маленький ребёнок спросит: «В чём смысл жизни?» — вы можете рассмеяться (как мило!) или замереть в панике (с чего вообще начать?). Соблазнительно отмахнуться от этих больших вопросов как от слишком сложных для детей. Платон и Аристотель оба считали, что дети не готовы к философии. На самом деле они не думали, что люди готовы изучать философию, пока им не исполнится 30.
Но дети знают лучше. Они задают большие вопросы: «Почему мы здесь?», «Что значит быть справедлиÐ
27.10.2026
Платоническая любовь: не отсутствие страсти, а её преображение
Если бы предмет вашей привязанности предложил вам «платонические» отношения, ваше сердце могло бы немного упасть. Обычное понимание платонической любви, названной так в честь древнегреческого философа Платона, состоит в том, что она указывает на отношения сильной привязанности, из которых исключён секс. Но в концепции платонической любви потенциально гораздо больше, чем просто отсутствие романтической или физической страсти.
Термин происходит от writings Платона о любви в «ПирÐ
ПИШИТЕ
Техническая поддержка проекта ВсеТут