Как ИИ-подхалимы затягивают в ИИ-психоз, или К чему приводит токсичное поддакивание

19.04.2026 13:59:24 | Хабр

Хабы: Блог компании МТС, Машинное обучение, Научно-популярное, Искусственный интеллект

Привет Хабр!
Почти весь короткий век триумфального распространения нейросетей главная претензия к ним — галлюцинации. Любая модель может правдоподобно и структурировано выдумать факты, перепутать детали, а признать свою ошибку только тогда, когда ей об этом прямо укажут.

Поколения нейросетей стремительно сменяются, постепенно снижая процент галлюцинаций. Но исследователи начали бить тревогу о новой проблеме — поддакивании нейросетей в диалоге с пользователем. И нашли закономерности в диалогах с ИИ: логика разговора толкает человека все глубже и глубже в ложную уверенность, притом без искажения фактов.

Так мы получаем людей, глубоко убежденных в своих ложных идеях. В популярных медиа это уже оформили как «диагноз», который назвали ИИ-психозом. Чтобы разобраться в теме, я изучил недавнее исследование, которое и подняло тему о загадочном явлении — сикофантии, которое описывает влияние ИИ на когнитивные возможности человека.

Подробнее

Читайте также

Контейнеры вместо серверов: Как устроена система обмена данными, которую нельзя заблокировать и подделать
19.04.2026 13:47:58 | Хабр

ICMP-туннель на уровне ядра Linux: передаём TCP/UDP-трафик через эхо-запросы
19.04.2026 13:46:18 | Хабр

Как я стал вайбкодером (а казался, наверное, приличным человеком)
19.04.2026 13:30:24 | Хабр

NETоз: собственная ДНК как… оружие?
19.04.2026 13:30:12 | Хабр

Платформы разработки для самых маленьких и не только
19.04.2026 13:16:10 | Хабр

[Перевод] Ответ Джеймса Линдси на слова Маска о безусловном доходе
19.04.2026 13:11:39 | Хабр

Мобильная разработка за неделю #628 (13 — 19 апреля)
19.04.2026 13:04:38 | Хабр

Конфликты при закреплении блоков (BufferPin) в PostgreSQL
19.04.2026 13:02:51 | Хабр

Происхождение жизни — водный парадокс
19.04.2026 12:48:41 | Хабр

Лицензии уходят, музыка остаётся: как я превратил тему для музыкального клиента в runtime-аддон с блекджеком и WASM
19.04.2026 12:45:59 | Хабр

Киберкожа: как учёные хотят научить человекоподобных роботов осязанию
19.04.2026 12:26:32 | vc.ru

Design by Contract в эпоху AI: как контракты Мейера защищают криптографию там, где тесты молчат
19.04.2026 12:15:56 | Хабр

Скучный Рефакторинг: борьба с искушениями
19.04.2026 12:15:39 | Хабр

Мужская фотосессия с помощью нейросети: гайд, лучшие ИИ и 38 готовых промптов для идеальных фото
19.04.2026 12:08:12 | Хабр

В Китае усилилась конкуренция за специалистов в сфере ИИ
19.04.2026 12:00:32 | ferra.ru

ИИ Анализ новостного сентимента как торговый сигнал
19.04.2026 11:59:24 | Хабр

Schnorr/MuSig2 Nonce-Forensics:
19.04.2026 11:55:32 | Хабр

Delta Chat: бесплатный мессенджер, который работает как электронная почта
19.04.2026 11:54:25 | vc.ru

Фото портрет поколений: лучшие промпты и ИИ для генерации
19.04.2026 11:49:05 | Хабр

DDD в Go без красивых схем: как один платеж получил три курса валют
19.04.2026 11:45:51 | Хабр

Замена лица на фото: как сделать бесплатно с помощью ИИ — обзор простых нейронок
19.04.2026 11:41:15 | Хабр

В каком контексте возникла теорема о неполноте Гёделя, и почему она так важна?
19.04.2026 11:30:48 | Хабр

Если Вселенная — симуляция, то квантовая механика — следствие
19.04.2026 11:26:41 | Хабр

Почему LLM Wiki Карпатого не стоит внедрять для личной базы знаний
19.04.2026 11:24:39 | Хабр

Год с React Hook Form и Zod: меньше кода, но не без нюансов
19.04.2026 11:15:39 | Хабр

«Фабрика монстров» Джорджа Лукаса: как в «Звездных войнах» создавали инопланетян без компьютерной графики
19.04.2026 11:05:33 | Хабр

SEBERD IT Base: почему я сделал ещё один сайт про кибербезопасность и зачем
19.04.2026 10:56:01 | Хабр

Symbiote.js: суперспособности для веб-компонентов
19.04.2026 10:40:40 | Хабр

Проводной телефон по воздуху. Или снова NR712 в деле
19.04.2026 10:30:39 | Хабр

Приватная Cвязь на Go и Flutter
19.04.2026 10:15:26 | Хабр

Синхронизируй то. Акт II: базовый PTPv2
19.04.2026 10:14:50 | Хабр

Как находить вирусные темы за 10 минут с помощью Deep Research
19.04.2026 10:13:56 | Хабр

Как опубликовать сайт на хостинг за три команды: от статики до Node.js
19.04.2026 10:07:47 | Хабр

Объекты и классы — дар божий или проклятие
19.04.2026 10:04:37 | Хабр

Практика измерения эффективности AI-инструментов в инженерных командах
19.04.2026 09:46:20 | Хабр

Смотреть все

НОВОСТИ

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 133-ФЗ "О ратификации Соглашения об экономическом партнерстве между Евразийским экономическим союзом и его государствами-членами, с одной стороны, и Объединенными Арабскими Эмиратами, с другой стороны&qu
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 138-ФЗ "О ратификации Протокола о внесении изменений в Соглашение между Правительством Российской Федерации и Правительством Республики Таджикистан об организованном наборе граждан Республики Таджикистан для
29.05.2026 03:00:00 | Российская Газета

Федеральный закон от 25 мая 2026 г. N 135-ФЗ "О ратификации Соглашения между Российской Федерацией и Республикой Таджикистан о правовом статусе представительств компетентных органов по вопросам внутренних дел и миграции в Российской Федерации и
29.05.2026 03:00:00 | Российская Газета

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro