«Агенты Хаоса»: ИИ стирает сервера, или почему нельзя давать языковым моделям права root

info@vsetut.pro

Стать автором

Вернуться

01.03.2026 08:06:08 | Хабр

Хабы: Искусственный интеллект, Информационная безопасность, Машинное обучение, Читальный зал, Тестирование IT-систем

В последнее время ИТ-сообщество активно обсуждает интеграцию автономных ИИ-агентов в реальные рабочие процессы. Свежий препринт под интригующим названием «Агенты Хаоса» подливает масла в огонь: исследователи устроили масштабный red teaming, подключив LLM-агентов к электронной почте, Discord и файловой системе, чтобы посмотреть, насколько легко их взломать.

Группа из двадцати специалистов потратила две недели, атакуя ИИ методами социальной инженерии и инъекциями промптов. Результаты, изложенные в одиннадцати задокументированных кейсах, описывают агентов, которые удаляют системные файлы, сливают пароли и попадают в бесконечные циклы потребления ресурсов.

Подробнее

Читайте также

MSI не торопится списывать AM4 со счетов: свежие платы с поддержкой DDR4 в 2026 году
01.03.2026 08:00:05 | Хабр

[Перевод] Вы — это не только ваш мозг: три мозга в нашем теле
01.03.2026 07:55:01 | Хабр

Как я дверной звонок делал
01.03.2026 07:37:28 | Хабр

Главная уязвимость российских хостингов: как оплачивать членство RIPE NCC в 2026 году
01.03.2026 07:16:05 | Хабр

Сколько раз люди покидали Африку: новые удивительные находки
01.03.2026 07:10:02 | Хабр

Во что поиграть? – Alien Shooter 2
01.03.2026 07:05:59 | Хабр

Элитный вайбкодинг: вид с другой стороны
01.03.2026 06:28:53 | Хабр

[Перевод] Дыра в безопасности, которая обошлась Google в $1 млн. Что скрывает релиз Linux 7.0?
01.03.2026 06:28:17 | Хабр

Не хватило запаса хода: история взлета и падения Marussia Motors
01.03.2026 05:36:48 | Хабр

Как мы пытались научить ИИ судить поединки по кендо
01.03.2026 05:28:42 | Хабр

Я сделал курс по JS, но он бесполезен
01.03.2026 04:56:39 | Хабр

Дайджест технических новостей, переводов и лонгридов инфослужбы Хабра за февраль 2026 года
01.03.2026 04:55:23 | Хабр

Химия цветного принтера для печати
01.03.2026 04:28:18 | Хабр

Смартфон с крутым оптическим зумом и зарядкой за полчаса: обзор Oppo Reno15
01.03.2026 01:06:13 | ferra.ru

[Перевод] Код больше не ваш. Разработка в эпоху AI
28.02.2026 23:01:13 | Хабр

Как я создавал шагающего робота «Регул»: путь от идеи до первых шагов
28.02.2026 22:25:29 | Хабр

Data Mesh, Data Fabric, Lakehouse: разбираем модные термины
28.02.2026 21:33:18 | Хабр

Кастомная галерея на iOS: от лага на 60 000 фото до lazy-загрузки и Combine
28.02.2026 21:11:13 | Хабр

Как запускать LLM локально с LM Studio: Полное руководство 2026
28.02.2026 20:32:29 | Хабр

К 2030 году рынок российского ПО удвоится
28.02.2026 20:28:00 | it-world

[Перевод] Путь к автономному машинному интеллекту
28.02.2026 19:19:51 | Хабр

[Перевод] Пишем игру для Commodore-64 в 2020-е: ретроспектива
28.02.2026 19:17:12 | Хабр

LLM и Дональд Трамп + qwen3.5:122b
28.02.2026 18:51:29 | Хабр

iPhone и iPad получили разрешение на работу с секретными данными НАТО
28.02.2026 18:33:04 | ferra.ru

Claude Opus 4.6 vs Claude Sonnet 4.6: кто лучше?
28.02.2026 18:30:35 | Хабр

Инженер будущего не пишет код. Он строит обвязку для агентов
28.02.2026 18:15:40 | Хабр

«Спасибо вам, доктор Марковиц, за создание профессии, которой мы все зарабатываем на жизнь»
28.02.2026 18:05:37 | Хабр

[Перевод] SaaS мертв, а мы и не заметили: глава Databricks раскрыл неудобную правду об ИИ
28.02.2026 17:57:56 | Хабр

От нуля к единице: MCP и много другого на пути к его пониманию
28.02.2026 17:41:20 | Хабр

Кому нужен Whoop?
28.02.2026 17:26:51 | Хабр

Идея, которую нельзя выдавить из себя
28.02.2026 17:21:49 | Хабр

Vampire: The Masquerade — Bloodlines: через тернии к звездам, почему обе части достойны друг друга
28.02.2026 17:20:41 | Хабр

[Перевод] Как цифровые документы меняют современные архивы
28.02.2026 17:15:30 | Хабр

Когда A/B-тестирование превращается в подбрасывание монетки
28.02.2026 17:00:23 | Хабр

Как починить фронтенд продукта компании за $800B за вечер
28.02.2026 16:39:46 | Хабр

Смотреть все

НОВОСТИ

Названы десять поломок, которые водители готовы починить сами
28.03.2026 14:30:00 | За рулем

В Дубае обломок иранской ракеты упал на судно с моряками из России
01.03.2026 14:19:14 | Lenta.ru

ЦАХАЛ показала кадры удара по штаб-квартире правительства Ирана
01.03.2026 14:17:39 | Life.ru

Министр обороны Украины хочет решить проблему дезертирства наймом иностранцев
01.03.2026 14:17:34 | Life.ru

Новая волна ракетных ударов Ирана будет сопровождаться атаками БПЛА
01.03.2026 14:15:47 | ТАСС

Политолог объяснил, почему конфликт на Ближнем Востоке нельзя было предотвратить
01.03.2026 14:15:32 | Life.ru

В Тегеране пройдут траурные мероприятия в память о Хаменеи
01.03.2026 14:15:12 | ТАСС

Политолог Калачев: события в Иране могут привести к дефициту газа на рынке СПГ
01.03.2026 14:15:07 | ТАСС

Иран запустил новую волну ракет по территории Израиля
01.03.2026 14:14:33 | Life.ru

Путин на неделе проведёт заседание коллегии МВД и встретится с премьером Пакистана
01.03.2026 14:14:22 | Life.ru

В Норвегии назвали Большунова печальным персонажем с жалкими заявлениями
01.03.2026 14:13:09 | Lenta.ru

В ЛНР несколько городов и сел остались без воды
01.03.2026 14:12:38 | ТАСС

В столице Ирака вспыхнули столкновения с полицией у посольства США из-за гибели Хаменеи
01.03.2026 14:12:34 | Life.ru

Пораженный иранской ракетой в Ормузском проливе танкер тонет
01.03.2026 14:12:06 | ТАСС

Актёр Александр Зиновьев из «Интернов» и «Глухаря» умер за месяц до 80-летия
01.03.2026 14:10:05 | Life.ru

Cергей Лавров провел телефонный разговор с главой МИД КНР Ван И
01.03.2026 14:09:00 | Российская Газета

Макрон прокомментировал перехват якобы связанного с Россией танкера
01.03.2026 14:09:00 | Lenta.ru

На российских танках появилась новая защита от дронов
01.03.2026 14:07:03 | Lenta.ru

Над Россией сбили 43 украинских БПЛА
01.03.2026 14:05:54 | ТАСС

Российских туристов в ОАЭ предупредили о рисках выезда через сухопутные границы
01.03.2026 14:05:41 | Life.ru

В Азербайджане рассказали об использовании своей территории для ударов по Ирану
01.03.2026 14:05:32 | Lenta.ru

Климатолог предупредил о риске затопления низменностей в Подмосковье
01.03.2026 14:05:23 | ТАСС

ВС РФ уничтожили HMMWV и укрытие ВСУ у Константиновки
01.03.2026 14:05:13 | ТАСС

Северная Корея назвала незаконными удары США и Израиля по Ирану
01.03.2026 14:04:16 | Lenta.ru

Красный «флаг мести» поднят над мечетью Джамкаран после убийства Хаменеи
01.03.2026 14:03:39 | Life.ru

Глава МИД Китая обсудил с Лавровым ситуацию в Иране
01.03.2026 14:03:03 | Lenta.ru

Матч чемпионата России по хоккею с мячом не состоялся из-за плохого льда
01.03.2026 14:02:57 | ТАСС

В Москве 1 марта стало самым теплым с начала года
01.03.2026 14:02:52 | ТАСС

В Кашмире тысячи людей вышли на улицы, скорбя из-за гибели Хаменеи
01.03.2026 14:02:29 | ТАСС

В России отреагировали на гибель верховного лидера Ирана
01.03.2026 14:02:18 | Lenta.ru

Главы МИД Азербайджана и Ирана обсудили ситуацию после атак Израиля и США
01.03.2026 14:02:04 | ТАСС

В Дубае осколок сбитой иранской ракеты упал на судно с российскими моряками
01.03.2026 14:00:08 | Life.ru

В Москве первая неделя марта начнется дождем и мокрым снегом
01.03.2026 13:59:51 | ТАСС

Иран начал новый ракетный обстрел Израиля
01.03.2026 13:59:31 | ТАСС

Слуцкий: ситуация на Ближнем Востоке может привести к Третьей мировой войне
01.03.2026 13:59:31 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro