«Агенты Хаоса»: ИИ стирает сервера, или почему нельзя давать языковым моделям права root

01.03.2026 08:06:08 | Хабр

Хабы: Искусственный интеллект, Информационная безопасность, Машинное обучение, Читальный зал, Тестирование IT-систем

В последнее время ИТ-сообщество активно обсуждает интеграцию автономных ИИ-агентов в реальные рабочие процессы. Свежий препринт под интригующим названием «Агенты Хаоса» подливает масла в огонь: исследователи устроили масштабный red teaming, подключив LLM-агентов к электронной почте, Discord и файловой системе, чтобы посмотреть, насколько легко их взломать.

Группа из двадцати специалистов потратила две недели, атакуя ИИ методами социальной инженерии и инъекциями промптов. Результаты, изложенные в одиннадцати задокументированных кейсах, описывают агентов, которые удаляют системные файлы, сливают пароли и попадают в бесконечные циклы потребления ресурсов.

Подробнее

Читайте также

MSI не торопится списывать AM4 со счетов: свежие платы с поддержкой DDR4 в 2026 году
01.03.2026 08:00:05 | Хабр

[Перевод] Вы — это не только ваш мозг: три мозга в нашем теле
01.03.2026 07:55:01 | Хабр

Как я дверной звонок делал
01.03.2026 07:37:28 | Хабр

Главная уязвимость российских хостингов: как оплачивать членство RIPE NCC в 2026 году
01.03.2026 07:16:05 | Хабр

Сколько раз люди покидали Африку: новые удивительные находки
01.03.2026 07:10:02 | Хабр

Во что поиграть? – Alien Shooter 2
01.03.2026 07:05:59 | Хабр

Элитный вайбкодинг: вид с другой стороны
01.03.2026 06:28:53 | Хабр

[Перевод] Дыра в безопасности, которая обошлась Google в $1 млн. Что скрывает релиз Linux 7.0?
01.03.2026 06:28:17 | Хабр

Не хватило запаса хода: история взлета и падения Marussia Motors
01.03.2026 05:36:48 | Хабр

Как мы пытались научить ИИ судить поединки по кендо
01.03.2026 05:28:42 | Хабр

Я сделал курс по JS, но он бесполезен
01.03.2026 04:56:39 | Хабр

Дайджест технических новостей, переводов и лонгридов инфослужбы Хабра за февраль 2026 года
01.03.2026 04:55:23 | Хабр

Химия цветного принтера для печати
01.03.2026 04:28:18 | Хабр

Смартфон с крутым оптическим зумом и зарядкой за полчаса: обзор Oppo Reno15
01.03.2026 01:06:13 | ferra.ru

[Перевод] Код больше не ваш. Разработка в эпоху AI
28.02.2026 23:01:13 | Хабр

Как я создавал шагающего робота «Регул»: путь от идеи до первых шагов
28.02.2026 22:25:29 | Хабр

Data Mesh, Data Fabric, Lakehouse: разбираем модные термины
28.02.2026 21:33:18 | Хабр

Кастомная галерея на iOS: от лага на 60 000 фото до lazy-загрузки и Combine
28.02.2026 21:11:13 | Хабр

Как запускать LLM локально с LM Studio: Полное руководство 2026
28.02.2026 20:32:29 | Хабр

К 2030 году рынок российского ПО удвоится
28.02.2026 20:28:00 | it-world

[Перевод] Путь к автономному машинному интеллекту
28.02.2026 19:19:51 | Хабр

[Перевод] Пишем игру для Commodore-64 в 2020-е: ретроспектива
28.02.2026 19:17:12 | Хабр

LLM и Дональд Трамп + qwen3.5:122b
28.02.2026 18:51:29 | Хабр

iPhone и iPad получили разрешение на работу с секретными данными НАТО
28.02.2026 18:33:04 | ferra.ru

Claude Opus 4.6 vs Claude Sonnet 4.6: кто лучше?
28.02.2026 18:30:35 | Хабр

Инженер будущего не пишет код. Он строит обвязку для агентов
28.02.2026 18:15:40 | Хабр

«Спасибо вам, доктор Марковиц, за создание профессии, которой мы все зарабатываем на жизнь»
28.02.2026 18:05:37 | Хабр

[Перевод] SaaS мертв, а мы и не заметили: глава Databricks раскрыл неудобную правду об ИИ
28.02.2026 17:57:56 | Хабр

От нуля к единице: MCP и много другого на пути к его пониманию
28.02.2026 17:41:20 | Хабр

Кому нужен Whoop?
28.02.2026 17:26:51 | Хабр

Идея, которую нельзя выдавить из себя
28.02.2026 17:21:49 | Хабр

Vampire: The Masquerade — Bloodlines: через тернии к звездам, почему обе части достойны друг друга
28.02.2026 17:20:41 | Хабр

[Перевод] Как цифровые документы меняют современные архивы
28.02.2026 17:15:30 | Хабр

Когда A/B-тестирование превращается в подбрасывание монетки
28.02.2026 17:00:23 | Хабр

Как починить фронтенд продукта компании за $800B за вечер
28.02.2026 16:39:46 | Хабр

Смотреть все

НОВОСТИ

Нефть резко подешевела на фоне новостей о соглашении США и Ирана
15.06.2026 15:47:31 | Lenta.ru

Лихачев: "очередной рекорд" ударов по Энергодару установили ВСУ за выходные
15.06.2026 15:47:18 | ТАСС

"Аэрофлот" увеличит число рейсов на курорты Турции из Москвы и шести регионов РФ
15.06.2026 15:45:58 | ТАСС

Певица Елка станет хедлайнером фестиваля "Лето в Тобольском кремле"
15.06.2026 15:45:20 | ТАСС

Комитет СФ поддержал запрет депортации иностранцев, воевавших в составе ВС РФ
15.06.2026 15:45:19 | ТАСС

Испанцы откажутся от премиальных за ЧМ-2026 в одном случае
15.06.2026 15:45:06 | Lenta.ru

Файзуллин назвал плодотворным сотрудничество РФ и Лаоса
15.06.2026 15:45:00 | Российская Газета

Минсельхоз и аграрные вузы обсудят подготовку кадров для АПК на форуме RAEX
15.06.2026 15:44:09 | ТАСС

Объявлено о скором падении последнего рубежа обороны ВСУ в Донбассе
15.06.2026 15:44:02 | Lenta.ru

Самолет-разведчик НАТО зашел в район границы Украины над Черным морем
15.06.2026 15:44:00 | Российская Газета

В Госдуме заявили, что Говорухинские чтения будут ежегодными
15.06.2026 15:43:54 | ТАСС

Россиянам назвали скрытую опасность в квартирах
15.06.2026 15:43:39 | Lenta.ru

В СВР России рассказали о контактах с ЦРУ по Украине
15.06.2026 15:42:28 | Lenta.ru

Первышов: Тамбовской области нужно 10 лет для выхода на самообеспеченность
15.06.2026 15:42:09 | ТАСС

Дело о подрыве основателя батальона "Арбат" рассмотрят в закрытом режиме
15.06.2026 15:42:07 | ТАСС

Нетаньяху: Израиль остаётся в Ливане вопреки сделке США и Ирана
15.06.2026 15:41:51 | Life.ru

Экс-сотрудник СБУ Прозоров рассказал, как шла поставка дронов для ВСУ
15.06.2026 15:41:26 | ТАСС

Мотоциклистка лишилась головы во время аварии с редким автомобилем
15.06.2026 15:41:00 | Lenta.ru

На западе Украины мужчина лопатой отбил соседа от сотрудников военкомата
15.06.2026 15:40:43 | ТАСС

Украинские «Фламинго» сдетонировали при попытке запуска из Одессы
15.06.2026 15:40:01 | Life.ru

Журналист рассказал о «свинцовом облаке» для защиты ядерных ракет
15.06.2026 15:39:29 | Lenta.ru

Сердце замерло, когда чат замолчал: Соседи почувствовали беду и спасли жизнь москвичке
15.06.2026 15:39:13 | Life.ru

В Минске резко осудили попытки Европы избавиться от памятников войны
15.06.2026 15:38:00 | Российская Газета

Спецпредставитель Трампа Баррак прибыл в Багдад, чтобы поддержать новый кабмин Ирака
15.06.2026 15:37:52 | ТАСС

Живущая в Мексике Наталья Андрейченко попросила дать ей работу в России
15.06.2026 15:37:46 | Life.ru

В Московском регионе до вечера 17 июня будет действовать желтый уровень опасности
15.06.2026 15:36:24 | ТАСС

Лобода избавилась от всей недвижимости в России
15.06.2026 15:35:56 | Life.ru

И.о. главы Льговского района грозит выговор за ругань на заседании с Хинштейном
15.06.2026 15:35:19 | ТАСС

В Подмосковье врачи спасли ребенка после укуса гадюки
15.06.2026 15:34:09 | ТАСС

Сына бывшего адвоката Эльмана Пашаева арестовали по делу о мошенничестве
15.06.2026 15:33:29 | Коммерсантъ

Россиянам дали семь советов для борьбы со стрессом на работе
15.06.2026 15:33:20 | Lenta.ru

Прокуратура Финляндии обвинила капитана судна Fitburg в повреждении кабелей
15.06.2026 15:33:05 | ТАСС

Россиянам назвали выгодный момент для рефинансирования ипотеки
15.06.2026 15:32:58 | Lenta.ru

Брюссель приостановил регистрацию аналитического центра MCC, близкого Орбану
15.06.2026 15:32:18 | ТАСС

Украинская сторона заявила о применении ВС РФ новейших ракет «Бандероль»
15.06.2026 15:32:03 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro