Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Иллюзия логики: как я доказал, что LLM-агенты игнорируют факты, и почему Chain-of-Thought делает только хуже

06.04.2026 15:21:33 | Хабр

Хабы: Искусственный интеллект, Машинное обучение, Исследования и прогнозы в IT, Python, Программирование

Сейчас каждый второй стартап пилит ИИ-агентов. Мы оборачиваем LLM в цикл Промпт -> Вызов инструмента -> Ответ и ждем, что нейросеть сама расследует инцидент, найдет баг или напишет фичу. Но на практике автономные агенты часто ходят по кругу, игнорируют явные ошибки и «влюбляются» в свою первую догадку.

Индустрия пытается лечить это костылями: наращивает контекст до миллионов токенов или заставляет модель «подумать шаг за шагом» (Chain-of-Thought). Я решил проверить эту архитектуру на прочность. Собрал локальный измерительный стенд LOCK-R, вооружился Теоремой Байеса и поймал современные LLM за руку.

В этой статье я математически докажу, почему одиночные агенты структурно уязвимы, как токены размышлений заставляют их врать самим себе еще искуснее, и почему паттерн «Слепого Судьи» - это единственный способ вылечить AI от предвзятости. Тестируем на локальной Qwen-9B и фронтирной GPT-5.4.

Читать далее

Подробнее

Читайте также

Как перестать использовать ИИ как чат-бота и начать автоматизировать рабочие процессы (Workflows)
06.04.2026 14:56:22 | Хабр

Система бесконтактной оплаты Vendista объяснила сбой — он возник из-за нарушенного электропитания ЦОДа
06.04.2026 14:49:46 | vc.ru

Топ самых интересных CVE за март 2026 года
06.04.2026 14:47:12 | Хабр

Эксперимент: поиск неслучайностей в AES-CBC на 500k сэмплах
06.04.2026 14:46:47 | Хабр

Почему ваш персонаж телепортируется при высоком FPS: float precision в играх
06.04.2026 14:46:29 | Хабр

[Перевод] После краха Sora Альтман переключается на ещё более разрушительную авантюру, чтобы похоронить OpenAI окончательно
06.04.2026 14:44:30 | Хабр

Смартфоны Google Pixel 10 научили запускать ПК-игры через GameNative
06.04.2026 14:40:32 | ferra.ru

Почему на производстве вечный аврал, и как от него избавиться
06.04.2026 14:27:15 | Хабр

IT-найм через Claude Code в 2026 году. Написал AI-агента, который откликается на вакансии за вас
06.04.2026 14:22:37 | Хабр

WACV 2026 в Тусоне: конференция, пустыня и немного экзистенции
06.04.2026 14:19:58 | Хабр

Pomodoro Music, или свой Pomodoro таймер для музыки без вайбкодинга и приложений
06.04.2026 14:18:03 | Хабр

High-performance C#: используем SearchValues и FrozenCollections для оптимизации горячих путей
06.04.2026 13:43:32 | Хабр

Нужен ли контент-менеджер в наши дни?
06.04.2026 13:41:00 | Хабр

AIVPN: VPN-протокол с мимикрией трафика и автоматической сменой профиля
06.04.2026 13:40:05 | Хабр

Один сервер — три правды: почему ИТ, бухгалтерия и закупки не могут договориться
06.04.2026 13:35:25 | Хабр

Russian Railway Simulator (RRS): семь лет спустя
06.04.2026 13:32:08 | Хабр

Офлайн-мессенджер Джека Дорси BitChat удалили из китайского App Store по требованию местного регулятора
06.04.2026 13:29:24 | vc.ru

Локальный ИИ: майнинг плата + 3 RTX 3090
06.04.2026 13:24:47 | Хабр

Персональные MTProto-прокси
06.04.2026 13:20:57 | Хабр

Ретро-часы на вакуумных люминесцентных индикаторах ИВ-11
06.04.2026 13:15:49 | Хабр

NYT рассказала о стартапе Medvi с выручкой в $401 млн, который работает «почти без сотрудников» благодаря ИИ, — в соцсетях его назвали «мошеннической машиной» по продаже препаратов с помощью спама и недобросовестного маркетинга
06.04.2026 13:14:03 | vc.ru

Продавца БАДов Medvi, который якобы в одиночку запустился с помощью ИИ, заподозрили в подделке врачебных страниц и историй успешного похудения
06.04.2026 13:14:03 | vc.ru

Advisory Locks в PostgreSQL: блокировки уровня приложения, о которых мало кто знает
06.04.2026 13:12:45 | Хабр

Анти-флаккинес: Вы всё сделали правильно. Тест всё равно упал
06.04.2026 13:06:38 | Хабр

Как получить палитру доминирующих цветов из изображения
06.04.2026 13:00:38 | Хабр

RPA и ИИ-агенты в Enterprise архитектуре (не вместо, а вместе)
06.04.2026 12:58:44 | Хабр

[Перевод] Claude Code слил 512 000 строк кода. Никто не разобрался в архитектуре. Утечка показала, что это не обёртка, а ОС
06.04.2026 12:56:20 | Хабр

Тендеры без ошибок: как ИИ обошёл экспертов в проверке документации
06.04.2026 12:54:07 | Хабр

200 Гц и топовый Snapdragon: планшет Red Magic Gaming Tablet 5 Pro выйдет весной
06.04.2026 12:54:04 | ferra.ru

Критерии выживания и случайность
06.04.2026 12:49:43 | Хабр

Под кнопкой «сделать презентацию»: как устроен пайплайн генерации в Кэмпе
06.04.2026 12:41:48 | Хабр

Стали известны сроки выхода и характеристики флагмана Xiaomi 17 Max
06.04.2026 12:38:31 | ferra.ru

Наталья ОСТРОУХОВА: «Наше решение предоставляет необходимый функционал для предприятий малого и среднего бизнеса»
06.04.2026 12:32:59 | it-world

Наталья Остроухова: «Разработчики ТИМ-решений все внимательнее смотрят на средний и малый бизнес»
06.04.2026 12:32:59 | it-world

Бизнес предупреждает о негативных последствиях платного доступа к базам МВД
06.04.2026 12:25:43 | it-world

Смотреть все

НОВОСТИ

Ночной концерт у капота: чем опасна «чуткая» сигнализация
02.05.2026 03:28:42 | За рулем

Сикорский: Вопрос о пролёте борта Фицо в Россию через Польшу снят с повестки
27.04.2026 20:13:56 | Life.ru

Буданов и Федоров дистанцируются от Зеленского и ведут собственную игру
27.04.2026 20:13:00 | Российская Газета

Украинские дроны будут выпускаться в Норвегии
27.04.2026 20:12:00 | Российская Газета

47-летняя звезда сериала «Кухня» восхитила фанатов внешностью в мини-платье
27.04.2026 20:09:08 | Lenta.ru

В Европе резко раскритиковали решение ЕС против России
27.04.2026 20:08:39 | Lenta.ru

Goldman Sachs допустил рост цен на нефть Brent почти до 120 долларов за баррель
27.04.2026 20:08:11 | Life.ru

В Чечне на помощь семьям участников СВО направили более 3 млрд рублей
27.04.2026 20:07:54 | ТАСС

Лидер правящей фракции назвал слова посла в Грузии о "темном времени" оскорблением
27.04.2026 20:07:34 | ТАСС

Прием заявок на VII сезон чемпионата "АртМастерс" продлен до мая 2026 года
27.04.2026 20:07:21 | ТАСС

Житель Кубани осуждён на семь лет за подготовку теракта в местной администрации
27.04.2026 20:06:02 | Life.ru

Закрылся Udaff.com — культовый и скандальный сайт 2000-х. Он был территорией свободы и научил россиян говорить на «олбанском»
27.04.2026 20:05:56 | Lenta.ru

Женщина попыталась трижды расправиться с бывшим партнером и не преуспела
27.04.2026 20:05:55 | Lenta.ru

В Москве рекомендуют горожанам не выходить на улицы 28 апреля
27.04.2026 20:05:25 | ТАСС

Нефтяное пятно дотянулось до Сочи // Что происходит в Краснодарском крае из-за разлива нефти
27.04.2026 20:04:54 | Коммерсантъ

Родители пожаловались на плесень в детских пюре «Фрутоняня»
27.04.2026 20:04:50 | Life.ru

Франция изучит возможность производства баллистических ракет в Германии
27.04.2026 20:03:28 | Lenta.ru

Бывшая пресс-секретарь Зеленского призвала не верить воинстенным опросам Киева
27.04.2026 20:03:01 | Life.ru

Лежащее в машине с 12-летней российской школьницей ружье внезапно выстрелило
27.04.2026 20:02:03 | Lenta.ru

Заключительный этап Всероссийской олимпиады по истории показал активность регионов
27.04.2026 20:01:11 | ТАСС

Украинских полицейских отправят на полигоны после теракта в Киеве
27.04.2026 20:01:08 | ТАСС

Шуфутинский назвал истинно русский жанр музыки
27.04.2026 20:00:57 | Lenta.ru

Создатель ChatGPT разорвал соглашение с Microsoft
27.04.2026 20:00:29 | Lenta.ru

ICAN: отмена ядерного запрета в Финляндии приближает "ядерную зиму" в Европе
27.04.2026 20:00:01 | ТАСС

УК «Космосервис» переходит на прозрачную тарификацию и новые стандарты
27.04.2026 19:59:24 | РБК

Белоусов в Бишкеке провел переговоры с замминистра обороны Ирана
27.04.2026 19:58:38 | ТАСС

Музаев: домашнее задание нужно трансформировать с учетом технологий
27.04.2026 19:58:04 | ТАСС

Reuters: НАТО откажется от проведения саммитов из-за США
27.04.2026 19:58:00 | Российская Газета

В Москве завели еще одно дело против обвиняемого в убийстве женщины в офисе
27.04.2026 19:57:39 | ТАСС

В Одессе задержали ОПГ, использовавшую поддельные дипномера посольства США
27.04.2026 19:57:37 | ТАСС

В Полтавской области сотрудников СБУ задержали за вымогательство
27.04.2026 19:57:25 | ТАСС

Топливу подтянули лимиты // Предел снижения биржевых цен на бензин и дизтопливо сократили с 5% до 3%
27.04.2026 19:57:14 | Коммерсантъ

Яровая: отсрочка погашения бюджетных кредитов направлена на сбережение средств
27.04.2026 19:57:05 | ТАСС

Суд не стал взыскивать почти два миллиона со второй помощницы Блиновской
27.04.2026 19:56:58 | Life.ru

В Сумах произошел новый взрыв
27.04.2026 19:56:52 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro