Операция выполнена!
Закрыть
info@vsetut.pro
Стать автором
Вернуться

Когда AI ошибается уверенно

09.06.2026 17:09:34 | Хабр
Хабы: Информационная безопасность, Искусственный интеллект

Это третья глава серии про AI Innovation Lab — исследовательскую площадку, где я строю AI-augmented SOC: систему из шести AI агентов, которая следит за корпоративной инфраструктурой, расследует инциденты и предлагает действия.

В этой главе я подключил к платформе внешнюю разведку угроз — и во время первого же теста AI уверенно предложил отключить операционный аккаунт, через который работает сама система защиты. Аргументация выглядела профессионально. Rule ID, MITRE-техники, количество алертов. Я почти согласился.

История не про баг. История про то, почему уверенный AI опаснее неуверенного — и как с этим жить.

Читать далее
Подробнее
Читайте также
НОВОСТИ

ВСЕ НОВОСТИ
ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro