[Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу

07.07.2026 13:10:22 | Хабр

Хабы: Блог компании OTUS, Искусственный интеллект, Машинное обучение, Тестирование IT-систем

ИИ-агент может написать убедительный ответ и при этом вызвать не тот инструмент, потерять состояние между ходами или принять неверное решение с высокой уверенностью. Для обычной языковой модели это была бы проблема качества текста. Для агентной системы это уже риск в цепочке действий, где результату доверяют другие сервисы и люди — поэтому валидация агентов начинается с вопроса не «насколько точна модель», а «как именно система может дать сбой».

Разобрать отказы

Подробнее

Читайте также

Plumix: как я переписываю Flutter на C# — вместе с ИИ
07.07.2026 12:58:08 | Хабр

«Чёрный ящик» техподдержки: как мы делаем сервис прозрачным для клиентов
07.07.2026 12:48:27 | Хабр

Подводные камни Learned Motion Matching: опыт реализации
07.07.2026 12:43:50 | Хабр

Тренажер Юмора — приложения для обучения шуткам
07.07.2026 12:32:27 | Хабр

Я ускорял исследования с помощью ИИ — а оказалось, дело вообще не в скорости
07.07.2026 12:22:10 | Хабр

Angular против React: зарплаты, кризис в IT и почему корпорации остаются на Angular
07.07.2026 12:14:16 | Хабр

Власти Австралии предупредили врачей об опасности работы с ИИ-агентами
07.07.2026 12:05:47 | ferra.ru

Как развернуть ТГ-бота на хостинге не выходя из чата с нейронкой
07.07.2026 12:05:32 | Хабр

Эмулятор CD-ROM из Raspberry Pi Pico W, использующий образы из сети
07.07.2026 12:01:41 | Хабр

Параметризованные отчёты в CSV без таймаута
07.07.2026 11:58:26 | Хабр

Swift 6.2 против вашего оптимизатора: разбираемся с InlineArray, Span и strict memory safety на замерах
07.07.2026 11:53:08 | Хабр

Июль 2026: Минцифры, закон о БФМ и эстонские ID для агентов. Что происходит с регулированием ИИ?
07.07.2026 11:46:22 | Хабр

[Перевод] Аутентификация в MCP в 2026: как было, как есть и как будет
07.07.2026 11:41:02 | Хабр

Гибкая система авторизации на основе политик в php
07.07.2026 11:40:45 | Хабр

Великий китайский ИИ файрвол и защита Лобстеров
07.07.2026 11:38:09 | Хабр

Лучшие нейросети чтобы создать песню — выбрали ТОП-7 ИИ для генерации треков в 2026
07.07.2026 11:26:24 | Хабр

В ожидании новой Divinity. Новости об игре и краткое погружение в лор
07.07.2026 11:13:20 | Хабр

Может ли LLM создать заготовку Django-проекта?
07.07.2026 11:12:43 | Хабр

Как мы научили AI разбирать упавшие автотесты и заводить баги в Трекере
07.07.2026 10:43:27 | Хабр

Когда финансовый результат ушел в минус, мы пошли не за отчетами, а за BI: как данные помогли найти издержки
07.07.2026 10:43:22 | Хабр

Дайджест ИБ-регулирования. Апрель-июнь 2026
07.07.2026 10:37:45 | Хабр

Модель электропривода с питанием от инвертора
07.07.2026 10:35:01 | Хабр

Микроэлектромеханические системы: патенты в мире и в России
07.07.2026 10:33:35 | Хабр

[Перевод] Проектирование POSTGRES: как задумывалась популярная СУБД
07.07.2026 10:30:10 | Хабр

Bloomberg: стратегический крипторезерв Дональда Трампа столкнулся со сложностями — ведомства не могут решить, кто должен им управлять
07.07.2026 10:18:33 | vc.ru

Security Week 2628: опасные уязвимости в библиотеке FatFs
07.07.2026 10:10:31 | Хабр

Microsoft продлила обновление Windows 10 еще на год
07.07.2026 10:07:14 | Хабр

ИИ против авторского права: можно ли обучаться на чужом творчестве?
07.07.2026 10:06:54 | Хабр

ИИ-стартап Midjourney подал судебный запрос к Disney из-за ИИ
07.07.2026 10:05:43 | ferra.ru

BPF XDP DNS: оптимизации, которые мы заслужили (часть 1)
07.07.2026 10:00:08 | Хабр

Выкручиваем сложность пароля на 150-200% в РЕД АДМ Промышленная редакция (с помощью ePSO)
07.07.2026 09:59:40 | Хабр

1038 баллов на Hacker News собрал пост про отказ от AI-кодинга. У меня была та же ночь, но другой вывод
07.07.2026 09:56:47 | Хабр

Когда Excel уже не справляется, а BI еще рано: легкий дашборд по выгрузке из 1С
07.07.2026 09:51:48 | Хабр

От Triton Inference Server к NVIDIA Dynamo: как изменился inference для агентов в 2026
07.07.2026 09:41:48 | Хабр

Praetorian: как мы сделали security-продукт для корпоративных чатов в Telegram и Max
07.07.2026 09:41:13 | Хабр

Смотреть все

НОВОСТИ

ТАСС: общий объем расходов Украины в 2026 году составит $176,8 млрд
01.08.2026 05:11:18 | ТАСС

Группировка "Запад" за сутки ликвидировала более 215 военных ВСУ
01.08.2026 05:10:52 | ТАСС

Стало известно о неумении украинских пленных пользоваться оружием
01.08.2026 05:10:00 | Lenta.ru

Южная группировка за сутки уничтожила до 195 военных ВСУ
01.08.2026 05:09:08 | ТАСС

Российский блогер-иноагент назвал «уродской» языковую политику Украины
01.08.2026 05:08:35 | Lenta.ru

Костромские десантники используют гексакоптеры для доставки еды не передовую
01.08.2026 05:08:13 | ТАСС

ВСУ потеряли за сутки в зоне ответственности "Севера" более 170 военных
01.08.2026 05:08:10 | ТАСС

Группировка "Центр" за сутки уничтожила более 340 военных ВСУ
01.08.2026 05:07:40 | ТАСС

В СФ опровергли информацию о цифровом рубле как инструменте слежки
01.08.2026 05:07:39 | ТАСС

В Югре планируют провести первый детский турнир по триатлону
01.08.2026 05:07:36 | ТАСС

Учащиеся школы поваров МВО проходят подготовку по применению НРТК
01.08.2026 05:07:28 | ТАСС

Группировка "Днепр" за сутки уничтожила до 40 военных ВСУ
01.08.2026 05:06:20 | ТАСС

Пациент с опасным заболеванием сбежал из больницы в Великобритании
01.08.2026 05:06:00 | Life.ru

Военные моряки ВМФ России и ВМС Вьетнама провели спасательные учения
01.08.2026 05:05:59 | ТАСС

ВС РФ создают подземные склады с припасами
01.08.2026 05:04:01 | ТАСС

Вблизи Москвы сбили четыре БПЛА
01.08.2026 05:03:33 | Lenta.ru

Врач Врублевский рассказал, как снизить риск баротравмы при перелете
01.08.2026 05:03:25 | ТАСС

Мирошник уверен, что США еще вернутся к вопросу украинского урегулирования
01.08.2026 05:03:03 | ТАСС

"Это мерзко": Христофору указал на ложь Зеленского, скрывающего потери ВСУ
01.08.2026 05:03:00 | Российская Газета

Эксперт Киселев заявил о полном переходе ВСУ на западное оружие
01.08.2026 05:01:03 | ТАСС

Стоматолог может заметить опасную болезнь раньше терапевта: Что показывает ваша полость рта
01.08.2026 05:00:00 | Life.ru

Трамп на пальцах показал процесс сбития иранских ракет и насмешил своих министров
01.08.2026 04:53:20 | Lenta.ru

С 1 сентября в России изменятся правила перевозок в такси и автобусах
01.08.2026 04:50:00 | Life.ru

Демешин заявил о желании оформить "дальневосточный гектар"
01.08.2026 04:48:34 | ТАСС

Раскрыты цели США в урегулировании на Украине
01.08.2026 04:46:20 | Lenta.ru

Демешин сообщил о заключении контрактов на МС-21 и SJ-100 на 2027-2028 годы
01.08.2026 04:44:44 | ТАСС

На Западе назвали мерзкими слова Зеленского о потерях ВСУ
01.08.2026 04:40:16 | Lenta.ru

Инфантино поставил точку в истории с продажей прав на ЧМ, вызвавшей футбольный переполох
01.08.2026 04:40:00 | Life.ru

Получившая гражданство РФ Штэммлер-Герузел рассказала о посетивших Россию немцах
01.08.2026 04:34:44 | ТАСС

ПВО сбила четыре беспилотника на подлёте к Москве
01.08.2026 04:32:00 | Life.ru

Женщина погибла при пожаре на железнодорожной станции в Приморье
01.08.2026 04:31:40 | РБК

«Макс» и ещё 16 приложений вошли в список обязательного ПО в России с 2027 года
01.08.2026 04:30:00 | Life.ru

Программу развития судоходства по Амуру представят Морской коллегии в сентябре
01.08.2026 04:29:44 | ТАСС

Морская коллегия в сентябре может рассмотреть программу развития судоходства по Амуру
01.08.2026 04:29:44 | ТАСС

Два российских космонавта завершили свою работу
01.08.2026 04:29:00 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro