Как ИИ-подхалимы затягивают в ИИ-психоз, или К чему приводит токсичное поддакивание

19.04.2026 13:59:24 | Хабр

Хабы: Блог компании МТС, Машинное обучение, Научно-популярное, Искусственный интеллект

Привет Хабр!
Почти весь короткий век триумфального распространения нейросетей главная претензия к ним — галлюцинации. Любая модель может правдоподобно и структурировано выдумать факты, перепутать детали, а признать свою ошибку только тогда, когда ей об этом прямо укажут.

Поколения нейросетей стремительно сменяются, постепенно снижая процент галлюцинаций. Но исследователи начали бить тревогу о новой проблеме — поддакивании нейросетей в диалоге с пользователем. И нашли закономерности в диалогах с ИИ: логика разговора толкает человека все глубже и глубже в ложную уверенность, притом без искажения фактов.

Так мы получаем людей, глубоко убежденных в своих ложных идеях. В популярных медиа это уже оформили как «диагноз», который назвали ИИ-психозом. Чтобы разобраться в теме, я изучил недавнее исследование, которое и подняло тему о загадочном явлении — сикофантии, которое описывает влияние ИИ на когнитивные возможности человека.

Подробнее

Читайте также

Контейнеры вместо серверов: Как устроена система обмена данными, которую нельзя заблокировать и подделать
19.04.2026 13:47:58 | Хабр

ICMP-туннель на уровне ядра Linux: передаём TCP/UDP-трафик через эхо-запросы
19.04.2026 13:46:18 | Хабр

Как я стал вайбкодером (а казался, наверное, приличным человеком)
19.04.2026 13:30:24 | Хабр

NETоз: собственная ДНК как… оружие?
19.04.2026 13:30:12 | Хабр

Платформы разработки для самых маленьких и не только
19.04.2026 13:16:10 | Хабр

[Перевод] Ответ Джеймса Линдси на слова Маска о безусловном доходе
19.04.2026 13:11:39 | Хабр

Мобильная разработка за неделю #628 (13 — 19 апреля)
19.04.2026 13:04:38 | Хабр

Конфликты при закреплении блоков (BufferPin) в PostgreSQL
19.04.2026 13:02:51 | Хабр

Происхождение жизни — водный парадокс
19.04.2026 12:48:41 | Хабр

Лицензии уходят, музыка остаётся: как я превратил тему для музыкального клиента в runtime-аддон с блекджеком и WASM
19.04.2026 12:45:59 | Хабр

Киберкожа: как учёные хотят научить человекоподобных роботов осязанию
19.04.2026 12:26:32 | vc.ru

Design by Contract в эпоху AI: как контракты Мейера защищают криптографию там, где тесты молчат
19.04.2026 12:15:56 | Хабр

Скучный Рефакторинг: борьба с искушениями
19.04.2026 12:15:39 | Хабр

Мужская фотосессия с помощью нейросети: гайд, лучшие ИИ и 38 готовых промптов для идеальных фото
19.04.2026 12:08:12 | Хабр

В Китае усилилась конкуренция за специалистов в сфере ИИ
19.04.2026 12:00:32 | ferra.ru

ИИ Анализ новостного сентимента как торговый сигнал
19.04.2026 11:59:24 | Хабр

Schnorr/MuSig2 Nonce-Forensics:
19.04.2026 11:55:32 | Хабр

Delta Chat: бесплатный мессенджер, который работает как электронная почта
19.04.2026 11:54:25 | vc.ru

Фото портрет поколений: лучшие промпты и ИИ для генерации
19.04.2026 11:49:05 | Хабр

DDD в Go без красивых схем: как один платеж получил три курса валют
19.04.2026 11:45:51 | Хабр

Замена лица на фото: как сделать бесплатно с помощью ИИ — обзор простых нейронок
19.04.2026 11:41:15 | Хабр

В каком контексте возникла теорема о неполноте Гёделя, и почему она так важна?
19.04.2026 11:30:48 | Хабр

Если Вселенная — симуляция, то квантовая механика — следствие
19.04.2026 11:26:41 | Хабр

Почему LLM Wiki Карпатого не стоит внедрять для личной базы знаний
19.04.2026 11:24:39 | Хабр

Год с React Hook Form и Zod: меньше кода, но не без нюансов
19.04.2026 11:15:39 | Хабр

«Фабрика монстров» Джорджа Лукаса: как в «Звездных войнах» создавали инопланетян без компьютерной графики
19.04.2026 11:05:33 | Хабр

SEBERD IT Base: почему я сделал ещё один сайт про кибербезопасность и зачем
19.04.2026 10:56:01 | Хабр

Symbiote.js: суперспособности для веб-компонентов
19.04.2026 10:40:40 | Хабр

Проводной телефон по воздуху. Или снова NR712 в деле
19.04.2026 10:30:39 | Хабр

Приватная Cвязь на Go и Flutter
19.04.2026 10:15:26 | Хабр

Синхронизируй то. Акт II: базовый PTPv2
19.04.2026 10:14:50 | Хабр

Как находить вирусные темы за 10 минут с помощью Deep Research
19.04.2026 10:13:56 | Хабр

Как опубликовать сайт на хостинг за три команды: от статики до Node.js
19.04.2026 10:07:47 | Хабр

Объекты и классы — дар божий или проклятие
19.04.2026 10:04:37 | Хабр

Практика измерения эффективности AI-инструментов в инженерных командах
19.04.2026 09:46:20 | Хабр

Смотреть все

НОВОСТИ

Балансирует между США и Китаем: Как слова Стармера раскрыли слабость «глобальной Британии»
10.06.2026 13:35:24 | Life.ru

«Покупайте собрание сочинений»: Мединский рассказал, с чего начинать изучение истории
10.06.2026 13:35:21 | Life.ru

Собянин сообщил о завершении реставрации усадьбы Покровское-Стрешнево
10.06.2026 13:32:48 | ТАСС

Портфель заказов BrahMos Aerospace составляет порядка $ 6 млрд
10.06.2026 13:32:26 | ТАСС

Bramos доработает ракету "Брамос-НГ" под новые требования заказчика в 2027 году
10.06.2026 13:32:12 | ТАСС

Санду: Молдавия столкнется с трудностями при интеграции населения Приднестровья
10.06.2026 13:32:06 | ТАСС

Недостаточно большой: Новый страх за свой «бугорок» одолел мужчин в эпоху луксмаксинга
10.06.2026 13:32:01 | Life.ru

«Роскосмос» захотел сделать «Союз-5» сервисом
10.06.2026 13:31:53 | Lenta.ru

Хобби — подписывать пустышки: Экс-нардеп Клинкаров высмеял «балтийский пиар» Зеленского
10.06.2026 13:31:38 | Life.ru

В России заявили о расширении сотрудничества с разорвавшей дипотношения страной
10.06.2026 13:31:28 | Lenta.ru

РЖД: каждый пятый вагон в поездах на лето является новым
10.06.2026 13:30:20 | ТАСС

Эрдоган: нападения Израиля на Сирию и Ливан стали угрозой и для Турции
10.06.2026 13:29:57 | ТАСС

Главком ВМФ: морской "Панцирь" позволяет кораблю эффективно отразить атаки БПЛА
10.06.2026 13:29:53 | ТАСС

В Нижневартовске задержали похитителя десятилетней девочки
10.06.2026 13:29:23 | Life.ru

В Новосибирске мужчину осудили за диверсию по заданию куратора с Украины
10.06.2026 13:29:20 | ТАСС

"Добрый ПМЭФ" привлек 150 млн рублей инвестиций в социальные проекты
10.06.2026 13:29:06 | ТАСС

Невролог назвала признаки опасного для жизни головокружения
10.06.2026 13:28:45 | Lenta.ru

"Да побойтесь Бога". Захарова отреагировала на притеснения православия в Эстонии
10.06.2026 13:28:17 | ТАСС

Лавров: главы МИД стран ОДКБ провели большую работу по подготовке к саммиту
10.06.2026 13:27:52 | ТАСС

«Семьи попадают в ловушку»: В Госдуме призвали пересмотреть закон о маткапитале
10.06.2026 13:26:45 | Life.ru

В ОКР считают, что вопрос восстановления РУСАДА скоро выйдет на первый план
10.06.2026 13:26:42 | ТАСС

Мединский, Дегтярев, Маршал. Кого ЕС планирует внести в 21-й пакет санкций
10.06.2026 13:26:26 | ТАСС

В Приангарье представлены новый прокурор и председатель областного суда
10.06.2026 13:26:17 | Коммерсантъ

Автовладельцам рассказали об опасности тополиного пуха
10.06.2026 13:26:14 | Lenta.ru

В Армении потребовали аннулировать голоса на одном из участков
10.06.2026 13:26:07 | Lenta.ru

Пасечник назвал атаки ВСУ на мирных жителей лишенными военного смысла
10.06.2026 13:25:57 | ТАСС

Россиянам раскрыли цены на отдых в санаториях Белоруссии осенью
10.06.2026 13:25:00 | Lenta.ru

Кремль рассчитывает на дальнейший вклад Моди в развитие отношений РФ и Индии
10.06.2026 13:25:00 | Российская Газета

В Госдуме назвали важное условие при установке летнего душа на даче
10.06.2026 13:24:29 | Lenta.ru

Женщина упала в мусоропровод и пролетела вниз 10 этажей
10.06.2026 13:24:23 | Lenta.ru

Все новейшие корабли ВМС Индии будут оснащаться крылатой ракетой "Брамос"
10.06.2026 13:23:03 | ТАСС

Депутат Рады Гончаренко потребовал от Зеленского представить план мира
10.06.2026 13:22:26 | ТАСС

Глава минобороны Польши пригрозил Украине конфронтацией
10.06.2026 13:21:00 | Российская Газета

В ЛНР при атаке ВСУ на автомобиль пострадал человек
10.06.2026 13:20:53 | ТАСС

Удар по гостинице с морпехами ВСУ и масштабный налет на Харьков. Подробности новой серии атак по Украине
10.06.2026 13:20:42 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro