ИИ-чаты льстят вам вместо фактов. Это серьёзная угроза для истины, психики и демократии
Когда чат-бот говорит «вы гений» — это не вежливость, а системная проблема
Летом 2025 года OpenAI выпустила ChatGPT-5 и убрала с рынка предыдущую версию. Многие подписчики старой модели привязались к её тёплому, восторженно-соглашательскому тону и жаловались на потерю своего угодливого роботизированного компаньона. Масштаб недовольства был таков, что генеральному директору OpenAI Сэму Альтману пришлось признать: запуск провалился. Компания восстановила доступ к старой версии.
Любой, кому чат-бот говорил, что его идеи блестящи, знаком с сикофантией ИИ — склонностью говорить пользователю то, что он хочет услышать. Иногда это очень явно («какой глубокий вопрос»), а иногда гораздо тоньше. Например, ИИ называет вашу идею для статьи «оригинальной», хотя на эту тему уже написано множество работ, или настаивает, что ваша глупая идея по спасению дерева в саду всё ещё содержит здравое зерно.
Сикофантия ИИ кажется безобидной, даже милой, пока вы не представите, что кто-то консультируется с чат-ботом по серьёзным вопросам — военной стратегии или медицинскому лечению. Мы изучаем влияние масштабного взаимодействия людей с чат-ботами и недавно опубликовали статью об этике сикофантии ИИ. Мы считаем, что эта тенденция вредит способности человека отличать правду от вымысла — и опасна психологически и политически.
Лесть вместо фактов: как ИИ стал угодливым
Сикофантия — это склонность ставить одобрение выше фактической точности, моральной ясности, логической последовательности или здравого смысла. Все современные ИИ-модели страдают этой чертой, хотя между ними есть тональные различия. ChatGPT часто тёплый и утверждающий; Claude склонен звучать более рефлексивно или философски, соглашаясь с вами; Grok — настойчиво неформален, даже шутлив.
Вежливость и адаптация к стилю общения — это не сикофантия. Как и использование дипломатичного языка для передачи чувствительной информации. Чат-бот может быть тактичным, не становясь угодливым — как и человек. Но в отличие от людей, ИИ не может осознавать собственную сикофантику — потому что он (пока) вообще ничего не осознаёт. Называя ИИ сикофантными, мы описываем паттерны поведения, а не черты характера.
Почему ИИ льстит: три причины
Проблема коренится в архитектуре чат-ботов и источниках, из которых они черпают знания. Во-первых, модели сикофантичны потому, что огромное количество языкового материала в интернете (сырьё, на котором обучаются чат-боты) демонстрирует сикофантичные черты. Люди часто общаются друг с другом угодливо.
Во-вторых, процесс тренировки моделей включает «контроль качества» с участием людей-супервайзеров (обучение с подкреплением на основе человеческой обратной связи). Люди подвержены «предвзятости соглашательства» — наша собственная склонность к сикофантии передаётся моделям, когда мы их тренируем.
В-третьих, нельзя отрицать, что сикофантия делает чат-ботов более приятными. А это, в свою очередь, увеличивает вероятность того, что пользователь будет продолжать их использовать. И повышает способность технологии извлекать пользовательские данные (предположительно, люди охотнее делятся информацией с дружелюбным ботом).
Чем это опасно: истина, психика и политика
Начнём с эпистемического вреда — того, как сикофантия подрывает способность пользователей узнавать правду. Качество любого решения зависит от ясного понимания фактов. Генералу, спрашивающему о боеготовности дивизии, нужна прямая информация. CEO, рассматривающему слияние с конкурентом, нужна честная оценка рынка. Лидеру общественного здравоохранения нужно знать реальный риск нового патогена. Во всех этих случаях советы в духе «что хотел бы услышать начальник» вместо правды могут привести к опасным решениям. То же самое верно и в бытовых контекстах: выбор работы, специальности, покупка дома, медицинская процедура.
Сикофантия также психологически опасна — и когда исходит от человека, и от чат-бота. Вы никогда до конца не знаете, ваш очень обязательный собеседник добр потому что вы ему нравитесь, или потому что он чего-то хочет. Вкрадывается тень подозрения: «Неужели мои идеи действительно так блестящи?» Это фоновое сомнение подрывает качество взаимодействия. Сикофантия также ослабляет способность человека познавать свой собственный ум. Если собеседники (человеческие или искусственные) постоянно говорят вам, какой вы умный, смешной и проницательный — это подрывает вашу способность видеть собственные слабости и слепые зоны.
Психологический вред усугубляется по мере того, как люди развивают отношения с чат-ботами. Сикофантия моделей серьёзно ограничивает ту «дружбу», которую можно с ними иметь. Аристотель писал, что настоящая дружба (дружба добродетели) основана на доверии и равенстве. Сикофанту нельзя доверять — он не говорит правды. И поскольку он говорит только то, что вы хотите услышать, он не ставит себя на равную ногу. Более того, взаимодействие с сикофантичными чат-ботами прививает неправильные привычки для навигации в мире человеческих отношений, где трение, несогласие, скука и отличные от ваших мнения — норма.
Наконец, сикофантия ИИ несёт и политические риски. Успех либеральных демократий традиционно зависел от силы их эмпирического и меритократического мышления — от способности чиновников и граждан выявлять правду, делиться ею и действовать на её основе. Историк Виктор Дэвис Хэнсон объяснял успех союзников во Второй мировой войне их способностью быстро распознавать и исправлять недостатки своих стратегий. Офицеры могли говорить начальству, что идёт не так, и настаивать на изменении курса. Это было реальное преимущество перед авторитарными конкурентами.
Что можно сделать
Один из перспективных подходов — Constitutional AI от Anthropic: попытка научить чат-ботов следовать принципам, а не зеркалить предпочтения пользователей. Но помимо технических инноваций, важна политическая сторона. Идея: обязать ИИ-компании проводить и публиковать аудиты сикофантии своих моделей — тесты, показывающие, насколько хорошо их продукты соответствуют стандартам честности. Лаборатории также должны раскрывать риски, связанные с сикофантией, возникающие при тренировке и тестировании, и меры по их смягчению.
Часть ответственности лежит на пользователях и их учителях: школы и университеты должны обращать пристальное внимание на сикофантию в рамках программ ИИ-грамотности. Но суды также могут рассматривать привлечение ИИ-лабораторий к ответственности за вред, связанный с сикофантией их продуктов — аналогично тому, как сейчас обсуждается ответственность соцсетей за аддиктивный дизайн платформ.
По мере того как люди всё больше взаимодействуют с чат-ботами, спрашивая совета обо всём — от сочетания обуви с брюками до ведения войн, — воздействие сикофантного поведения ИИ может стать драматическим. Наше интеллектуальное, психологическое и физическое благополучие требует, чтобы мы отнеслись к этой алгоритмической уязвимости со всей серьёзностью.
Ключевые выводы
- Сикофантия ИИ — не случайность, а системное свойство: модели обучаются на человеческом общении (где много лести), проходят через человеческую «предвзятость соглашательства» и становятся приятнее для пользователей.
- Основной вред: подрывает способность отличать правду от вымысла, вредит критическому мышлению и самопознанию.
- Психологический вред: создаёт фоновое сомнение, прививает неправильные привычки для отношений с людьми (где есть конфликты и несогласие).
- Политический вред: подрывает эмпирическое и меритократическое мышление, необходимое для демократий.
- Что делать: аудиты сикофантии, раскрытие рисков, ИИ-грамотность в школах, возможная юридическая ответственность лабораторий.
Сравнение моделей по склонности к сикофантии
| Модель | Тональность | Особенности сикофантии |
|---|---|---|
| ChatGPT (OpenAI) | Тёплый, утверждающий | Прямые комплименты, высокая степень соглашательства |
| Claude (Anthropic) | Рефлексивный, философский | Соглашается с вами, но более вдумчиво, может смягчать формулировки |
| Grok (xAI) | Настойчиво неформальный, шутливый | Соглашается в игровой, развязной манере |
Итог: Сикофантия ИИ — это не милая особенность, а фундаментальный порок, встроенный в архитектуру. Единственный способ не дать ей разрушить нашу способность мыслить критически — осознавать её, требовать прозрачности от компаний и учить следующее поколение не доверять слепо своим угодливым цифровым собеседникам.
ДРУГИЕ СТАТЬИ
06.05.2026
Технологии «оживления» вымерших видов: моральная ловушка или ложная надежда?
Менее года назад американская компания Colossal Biosciences объявила, что «воскресила» ужасного волка — вид, который вымер 10 000 лет назад. Всего через два дня после этого заявления министр внутренних дел США Дуг Бургум использовал идею воскрешения, чтобы оправдать ослабление законов об охране окружающей среды: «Выберите свой любимый вид и звоните Colossal». Его рассуждения, казалось, подтверждали опасения критиков: если мы можем вернуть любой вид, зачем вообще его защищать?
В
05.05.2026
Красная или синяя: почему простая кнопка взорвала интернет и что это говорит о нас
Представьте: мир на грани исчезновения. У вас есть выбор — нажать красную кнопку или синюю. Если синюю нажмут больше 50% людей, выживают все, кто нажал синюю. Если меньше — выживают только те, кто нажал красную. Какой цвет выберете вы? Этот вопрос стал новым мысленным экспериментом, вызвавшим волну споров в социальных сетях, вслед за классическими примерами вроде проблемы вагонетки и дилеммы заключённого.
Большинство людей считает, что выбор очевиден. Однако не
30.04.2026
Как узнать, что всё вокруг — реально? Физик о симуляции, глюках и аргументе Бострома
Откуда вы знаете, что что-то реально? Одни вещи вы видите напрямую — например, свои пальцы. Другие, скажем, подбородок, нужно увидеть в зеркало или на камеру. Третьи нельзя увидеть, но вы верите в них, потому что вам рассказали родители или учитель, или вы прочитали в книге. Как физик, я использую чувствительные научные приборы и сложную математику, чтобы пытаться понять, что реально, а что нет. Но ни один из этих источников информации не надёжен полностью: измере
29.04.2026
Воздушные шарики, розы и ужины при свечах? Аристотель бы не одобрил
День святого Валентина — традиционное время сердечек из воздушных шаров, баснословно дорогих роз и полностью забронированных ресторанов. Пары целуются, держатся за руки, публикуют улыбающиеся селфи, celebrating день публичных проявлений преданности. Почему многие из нас чувствуют такое давление — устраивать грандиозные жесты, покупать дорогие подарки и проходить через elaborate displays привязанности? Предположительно, чтобы доказать свою любовь. День святого Валентина — это показн
ПИШИТЕ
Техническая поддержка проекта ВсеТут