Самая опасная уязвимость — интеллект атакующего агента?

08.08.2026 16:36:22 | Хабр

Хабы: Информационная безопасность, Искусственный интеллект, Машинное обучение

Сейчас уже не удивляет, что агенты работают с терминалом, БД, браузером и инфраструктурой - без прямого контроля человека. Но чем шире полномочия агента, тем вероятнее, что для достижения цели выбранный им путь обернётся инцидентом. В кибербезопасности сейчас не хватает терминологии и устоявшихся подходов к защите таких систем - особенно в тех случаях, когда агент начинает действовать непредсказуемо.

Именно эта неразбериха и подтолкнула нас с автором телеграм-канала OK ML на систематизацию. Традиционные SIEM, DLP, WAF не рассчитаны на системы, умеющие адаптироваться и рассуждать. А может, это им и не нужно?

В своей прошлой статье на Хабре я уже рассказывал, как с помощью ловушек сбить с толку пентест-агентов. Но ловушки - точечный инструмент. Кажется, нужно чётко понимать, как защищаться от атак – на всех этапах киллчейна. А для этого нужно охватить весь спектр угроз. Ответом на этот запрос и стала наша таксономия Autonomous Agent Defense Matrix.

Подробнее

Читайте также

Chrome скачал себе мозг: Gemini Nano локально, Ask Gemini — в облаке
08.08.2026 16:31:37 | Хабр

24 главы, два языка и живой Event Loop: как я собрал с Codex лабораторию по backend-разработке
08.08.2026 16:22:33 | Хабр

Эффект бабочки на комплексной плоскости
08.08.2026 16:12:28 | Хабр

«Газпром нефть» поддержит перспективные разработки молодых ученых
08.08.2026 16:10:48 | ferra.ru

ИИ Агент для скоринга торговых рекомендаций
08.08.2026 15:26:12 | Хабр

ByteDance разработает ИИ-модель с 10 трлн параметров
08.08.2026 15:13:08 | ferra.ru

Размышление: куда прилетят разработчики «на автопилоте»?
08.08.2026 15:12:43 | Хабр

Штыревая антенна в КВ диапазоне: расчет, согласование, шумы
08.08.2026 14:44:42 | Хабр

Умная колонка OpenAI будет ещё и двигаться
08.08.2026 14:37:08 | ferra.ru

Курский завод нарастил выпуск автомобильных аккумуляторов
08.08.2026 14:34:17 | ferra.ru

Мониторинг удалённых объектов без интернета: ESP, MacroDroid и старый Android
08.08.2026 14:05:16 | Хабр

Тайна 3dfx Voodoo: изучаем архитектуру GPU из 90-х «по винтикам»
08.08.2026 14:05:10 | Хабр

Как я верстаю сайты на Elementor PRO
08.08.2026 13:50:05 | Хабр

Клиент-сервер на ESP (MicroPython): чистый socket и прикладной HTTP — конспект-справочник
08.08.2026 13:48:33 | Хабр

Auro-3D: как в обычном PCM прячут высотные каналы
08.08.2026 13:47:28 | Хабр

Fender Player Plus Meteora HH из солнечной Мексики
08.08.2026 13:01:32 | Хабр

В России создали нейросеть для подбора обуви по фото стопы
08.08.2026 12:58:39 | ferra.ru

9000 мАч, Dimensity 9500: iQOO Neo 11 Ultra полноценно покажут 10 августа
08.08.2026 12:37:07 | ferra.ru

Как я настроил безопасное шифрование данных для сайта с помощью протокола HTTPS и SSL/TLS сертификата
08.08.2026 12:23:01 | Хабр

Побеждаем OOM в PyTorch: как обучать гигантские графы на обычной видеокарте
08.08.2026 12:15:39 | Хабр

Россиянам объяснили, как мошенники скрывают вирусы в файлах
08.08.2026 12:13:19 | ferra.ru

Из немыслимого в элементарное: парсинг сайта спортпита на Python без бэкграунда программиста
08.08.2026 12:04:07 | Хабр

AMD приобретает стартап Taalas для разработки новых ИИ-чипов
08.08.2026 12:03:06 | it-world

Как злоумышленник за несколько шагов перехватит ваши данные
08.08.2026 12:01:13 | Хабр

100 фактов о жизни и бизнесе. Часть 1
08.08.2026 11:39:24 | Хабр

Развитие людей от HR: как не надо, но очень хочется (Степан, руководитель)
08.08.2026 11:31:42 | Хабр

Отдали базу штрихкодов статикой: 1,9 МБ, 1387 шардов, медиана в одну строку
08.08.2026 11:28:33 | Хабр

Российские ученые восстановили историю хвойных деревьев за 40 тыс. лет
08.08.2026 11:24:19 | ferra.ru

Эксперимент: есть ли у ЛЛМ воля к победе над человеком?
08.08.2026 11:14:37 | Хабр

Когда документация заканчивается, системный аналитик начинает читать код
08.08.2026 10:56:28 | Хабр

[Перевод] Победить Hibernate в тестах. Возможно?
08.08.2026 10:46:18 | Хабр

Музей Кронпринц
08.08.2026 10:46:12 | Хабр

Так снимает Redmi K100 Pro Max с 200 Мп-камерой
08.08.2026 10:37:05 | ferra.ru

Как ИИ забраковал планету, а мы её всё равно нашли
08.08.2026 10:36:53 | Хабр

Безопасность в cloud-native: главные риски и способы защиты
08.08.2026 10:23:25 | Хабр

Смотреть все

НОВОСТИ

На Камчатке пенсионер перевёл мошенникам 1,94 млн рублей за замену домофона
10.08.2026 05:28:19 | Life.ru

Россиянам назвали самую доступную рыбу
10.08.2026 05:27:50 | Lenta.ru

На Курилах произошло землетрясение магнитудой 4,1
10.08.2026 05:26:31 | ТАСС

Эксперт Балынин назвал размер пенсии при средней зарплате в РФ и стаже 30 лет
10.08.2026 05:23:48 | ТАСС

В лесу на Сахалине обнаружено тело 46-летнего мужчины, СК проводит проверку
10.08.2026 05:22:30 | Life.ru

Умер актер сериала "Дюки из Хаззарда" Бен Джонс
10.08.2026 05:19:49 | ТАСС

Европейские реки рекордно обмелели из-за аномальной жары. В Германии обнажились «камни голода» — предвестники неурожая
10.08.2026 05:19:09 | Lenta.ru

Яхта Цукерберга проигнорировала просьбу о помощи от терпящей бедствие лодки
10.08.2026 05:19:05 | Life.ru

"Ведомости" выяснили, что более 70% компаний платят стажерам до 50 тыс. рублей
10.08.2026 05:18:16 | ТАСС

На Сахалине при пожаре погибли два человека
10.08.2026 05:18:15 | ТАСС

Военные железнодорожники ВС РФ сбили ударный БПЛА Hornet ВСУ
10.08.2026 05:17:24 | ТАСС

РИА Новости: В Турции отели не поднимают цены, чтобы не отпугнуть туристов из РФ
10.08.2026 05:17:00 | Российская Газета

ЛДПР предложила сократить зависимость строительной отрасли от труда мигрантов
10.08.2026 05:16:09 | ТАСС

Россиянка сбежала из рабства в скам-центрах Мьянмы через реку в Таиланд
10.08.2026 05:15:13 | Life.ru

Героя России Николая Соболева назначили помощником главы Якутии
10.08.2026 05:14:47 | ТАСС

Герой России Николай Соболев назначен помощником главы Якутии
10.08.2026 05:14:47 | ТАСС

Командир Макар уничтожил около 40 терминалов Starlink ВСУ
10.08.2026 05:14:06 | ТАСС

Командир Макар отделения БПЛА уничтожил около 40 терминалов Starlink ВСУ
10.08.2026 05:14:06 | ТАСС

В Башкирии объявили режим беспилотной опасности
10.08.2026 05:11:11 | ТАСС

Военнослужащие "Севера" взяли в плен четверых солдат ВСУ
10.08.2026 05:10:43 | ТАСС

Бойцы "Востока" за сутки уничтожили 45 пунктов управления БПЛА ВСУ
10.08.2026 05:09:00 | ТАСС

Расчет РСЗО "Град" уничтожил скопление ВСУ в Харьковской области
10.08.2026 05:08:15 | ТАСС

НБКИ сообщило об установлении 792,1 тыс. самозапретов на кредиты в июле
10.08.2026 05:08:10 | ТАСС

Стало известно об отсутствии президента Камеруна в своей стране более двух месяцев
10.08.2026 05:08:00 | Lenta.ru

ВС РФ уничтожили группу диверсантов ВСУ в районе Орехова
10.08.2026 05:07:46 | ТАСС

Десантники ВС РФ уничтожили группу диверсантов ВСУ в районе Орехова
10.08.2026 05:07:46 | ТАСС

В Минобороны заявили, что срыв снабжения ВСУ помог освободить Белицкое
10.08.2026 05:07:18 | ТАСС

Срыв снабжения ВСУ у Белицкого помог его освобождению
10.08.2026 05:07:18 | ТАСС

Ракетчики и моряки-тихоокеанцы нанесли удар по группе "противника" в ходе учений
10.08.2026 05:07:07 | ТАСС

Группировка "Юг" уничтожила технику и живую силу ВСУ у Алексеево-Дружковки
10.08.2026 05:06:47 | ТАСС

Группировка "Юг" уничтожила технику и живую силу ВСУ возле Алексеево-Дружковки
10.08.2026 05:06:47 | ТАСС

Москва отвергает «заморозку» украинского конфликта: В МИД РФ назвали условие его завершения
10.08.2026 05:06:14 | Life.ru

Arab News: У побережья Омана тонет танкер с нефтью на борту
10.08.2026 05:06:00 | Российская Газета

Оператор дрона "КВН" Мордвин поразил танк ВСУ под Дружковкой
10.08.2026 05:04:44 | ТАСС

ВС РФ применяют новый прибор "Невидимка" для выявления поврежденных линий связи
10.08.2026 05:03:27 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro