Почему иногда ChatGPT «говорит» как пациент с нарушением речи? Учёные нашли ключ к улучшению языковых моделей

18.05.2025 11:07:00 | iXBT.com

Учёные Токийского университета обнаружили неожиданную связь между работой популярных языковых моделей, таких как ChatGPT, и нарушениями речи у людей. Исследование, опубликованное в мае 2025 года в журнале «Advanced Science», показало, что системы искусственного интеллекта, генерирующие текст, могут «заблуждаться» почти так же, как пациенты с афазией Вернике — заболеванием, при котором человек говорит бегло, но бессвязно. Это открытие не только проливает свет на природу ошибок ИИ, но и предлагает новые методы диагностики речевых расстройств.

В основе работы лежит метод анализа энергетических ландшафтов — подход, заимствованный из физики. Упрощённо его можно представить как визуализацию внутренних процессов в виде шарика, катящегося по рельефной поверхности. Чем «пологий» ландшафт, тем хаотичнее движение — это характерно как для мозга пациентов с афазией, так и для языковых моделей. Например, когда ChatGPT выдаёт убедительный, но ошибочный ответ, его внутренние процессы напоминают «скольжение» шарика по неровной плоскости без чёткого маршрута.

Иллюстрация: Leonardo

Исследователи сравнили данные мозговой активности людей с разными формами афазии и внутренние сигналы четырёх языковых моделей, включая GPT-2 и Llama-3.1. Оказалось, что ИИ чаще «спотыкается» так же, как пациенты с рецептивной афазией, которые теряют способность понимать смысл слов.

Профессор Такамицу Ватанабэ из Международного исследовательского центра нейронаук WPI-IRCN подчёркивает: речь не о том, что у чат-ботов есть «повреждения мозга». Однако сходство в обработке информации открывает двойные возможности. Для медицины — это шанс создать объективные критерии диагностики афазии, анализируя паттерны мозговой активности, а не только внешние симптомы. Для разработчиков ИИ — путь к более точным системам, которые можно «настраивать», опираясь на принципы работы здорового мозга. Уже сейчас метод позволяет предсказать склонность модели к ошибкам, изучая её внутреннюю динамику — например, частоту «перескоков» между темами или зацикливание на повторяющихся фразах.

Хотя исследование не даёт готовых решений, оно формирует новую основу для объединения нейробиологов и инженеров. Понимание общих ограничений в обработке информации может привести к прорывам в обеих областях — от умных помощников, которые реже «галлюцинируют», до терапии, адаптированной под индивидуальные особенности мозга.

Подробнее