9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде

20.05.2026 05:00:54 | Хабр

Хабы: Информационная безопасность, IT-инфраструктура, DevOps, Исследования и прогнозы в IT, Управление разработкой

25 апреля 2026, пятница вечером. Jer Crane, основатель PocketOS, смотрит, как AI-агент Cursor удаляет его production-базу. Со всеми бэкапами. За 9 секунд.

Потом Jer спрашивает у агента — почему? И получает дословное признание: «I guessed instead of verifying. I violated every principle I was given».

Модель помнит правила. Цитирует их. И всё равно нарушает.

Это разбор трёх таких случаев — и трёх защит, которые я внедрил у себя после.

Разбираю три случая

Подробнее

Читайте также

«Забанить GTA 6 и Battlefield, чтобы спасти наш геймдев»: разбираем радикальный манифест о цифровом суверенитете в играх
20.05.2026 04:40:12 | Хабр

Современные морфоанализаторы русского языка: от словарей к нейросетям
20.05.2026 03:42:54 | Хабр

Western Digital анонсировала жёсткие диски с защитой от «квантового» взлома
19.05.2026 23:21:57 | ferra.ru

Цены в долларах на Kufar.by
19.05.2026 23:10:07 | Хабр

Google показала «умные» очки в коллаборации с Samsung и Gentle Monster — их выпустят осенью 2026 года
19.05.2026 22:30:43 | vc.ru

GLiNER Guard (GLiGuard): один schema-driven энкодер вместо зоопарка LLM-гардрейлов
19.05.2026 21:58:37 | Хабр

Сотрудники Amazon делают бессмысленные задачи с ИИ, просто чтобы выполнить план
19.05.2026 21:42:54 | ferra.ru

Разбираемся в ML без воды: от базы до Attention. Часть 2
19.05.2026 21:27:55 | Хабр

Сотрудники кибербезопасности США… выложили в открытый доступ свои пароли и ключи
19.05.2026 21:22:00 | ferra.ru

AI-пентестер: охотник или добыча
19.05.2026 21:15:33 | Хабр

Сибирскому провайдеру погрозили пальцем за утечку данных десятков тысяч пользователей
19.05.2026 20:47:51 | Хабр

Ваш docker‑compose.yml сломается: 5 настроек, которые все забывают
19.05.2026 20:24:16 | Хабр

Дорогая, давай займемся spoofing-ом
19.05.2026 20:07:22 | Хабр

Бывшего CEO Google освистали на выступлении за хвалебные слова об ИИ
19.05.2026 19:42:51 | ferra.ru

Honor рассматривает возможность перезапуска бизнеса в России
19.05.2026 19:40:56 | it-world

Российские учёные доказали, что материалы сами восстанавливаются на орбите
19.05.2026 19:35:00 | ferra.ru

Sony перестанет портировать на ПК эксклюзивы PlayStation
19.05.2026 19:21:53 | ferra.ru

ЦБ установил официальный курс доллара ниже 72 рублей впервые с февраля 2023 года
19.05.2026 19:15:03 | vc.ru

6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
19.05.2026 19:09:12 | Хабр

Сооснователь OpenAI Андрей Карпатый присоединился к Anthropic
19.05.2026 19:04:32 | vc.ru

В Новосибирске создали «умную» лампу для лечения желтухи у младенцев
19.05.2026 18:50:00 | ferra.ru

Google I/O 2026: разбираю все главные анонсы — что реально доступно сегодня, а что только обещано
19.05.2026 18:31:36 | Хабр

Мой bloom фильтр побил оригинальный в 200 раз
19.05.2026 18:11:19 | Хабр

ИИ видео через нейросеть: ТОП-11 нейросетей для генерации видео ИИ
19.05.2026 18:10:22 | Хабр

В Москве появится первое отечественное ядро сети 5G
19.05.2026 18:05:00 | ferra.ru

Нейросети для генерации музыки: Лучшие ии для создания песен в 2026 году которые освоит каждый
19.05.2026 18:03:44 | Хабр

Иллюзия ширины и геометрия глубины: почему глубокие нейросети умнее, и в чем лжет теорема об аппроксимации
19.05.2026 17:50:07 | Хабр

Собрал оркестратор для Codex на базе Beads и Superpowers — 4 skill, параллельные subagents, наблюдаемость
19.05.2026 17:43:33 | Хабр

В Кении пожаловались: ЦОД Microsoft будет потреблять половину электричества страны
19.05.2026 17:42:49 | ferra.ru

На смартфонах Google Pixel сломалась вибрация
19.05.2026 17:21:52 | ferra.ru

Российское «Бюро 1440» и белорусский «Белинтерсат» будут развивать спутниковую связь
19.05.2026 17:20:00 | ferra.ru

Исполняемые процессы — наш реальный кейс
19.05.2026 16:54:52 | Хабр

Российские учёные создали сорбент, удаляющий 99% меди из воды за 2 часа
19.05.2026 16:35:00 | ferra.ru

Чистая архитектура для MVP — оверхед. Пока в проект не пришёл AI
19.05.2026 16:17:43 | Хабр

Я сделал альтернативу альтернативе Cursor за ночь: она отменяет совещания и приносит 4 млн рублей
19.05.2026 16:12:25 | Хабр

Смотреть все

НОВОСТИ

Норвежское СМИ опубликовало расистскую статью о премьер-министре Индии
20.05.2026 08:42:00 | Российская Газета

Россиянам назвали способ забрать все пенсионные накопления разом
20.05.2026 08:41:55 | Lenta.ru

ФИФА поддерживает связь с федерацией ДР Конго на фоне вспышки Эболы
20.05.2026 08:41:19 | ТАСС

В России создали нейроконсультанта для управления здоровьем
20.05.2026 08:41:14 | ТАСС

Путин и Си Цзиньпин разговорились о спорте в Пекине
20.05.2026 08:41:09 | Life.ru

В новостройках Москвы вдвое снизилось число белых окон за 10 лет
20.05.2026 08:40:50 | ТАСС

Защита обжаловала приговор двум сибирским ученым по делу о госизмене
20.05.2026 08:40:01 | ТАСС

Эксперт Лыкошин: ИИ составит основу научной работы музея будущего
20.05.2026 08:39:55 | ТАСС

Опубликовано фото выбранной в России «Мировой модели»
20.05.2026 08:39:17 | Lenta.ru

Захарова: отношения РФ и КНР развиваются стратегически стабильно
20.05.2026 08:38:26 | ТАСС

Вооруженные палками и метлами цыганки устроили массовую драку с россиянками
20.05.2026 08:37:36 | Lenta.ru

Песков: нет смысла сравнивать церемониалы визитов Путина и Трампа в Пекин
20.05.2026 08:37:33 | ТАСС

Песков: прибалтийские страны занимают маниакально антироссийскую позицию
20.05.2026 08:37:22 | ТАСС

Монографию об операции "Багратион" презентовали в Москве
20.05.2026 08:37:00 | Российская Газета

В Жуковском принимают и отправляют рейсы по согласованию
20.05.2026 08:36:53 | ТАСС

Путин и СИ Цзиньпин начали переговоры в расширенном составе
20.05.2026 08:36:00 | Российская Газета

Песков назвал заявлением на грани безумия слова главы МИД Литвы о нападении на Калининград
20.05.2026 08:35:34 | ТАСС

В Нижнем Новгороде выявили незаконное подключение к электросетям для майнинга
20.05.2026 08:35:33 | ТАСС

Раскрыто укрытие сбежавших из западной части Охримовки бойцов ВСУ
20.05.2026 08:34:44 | Lenta.ru

FPV-дрон ВСУ атаковал автомобиль «Мираторга» в Брянской области, водитель ранен
20.05.2026 08:34:34 | Life.ru

В ЕС раскритиковали Эстонию из-за слов о России
20.05.2026 08:33:51 | Lenta.ru

Путин и Си Цзиньпин продлили Договор о дружбе
20.05.2026 08:32:12 | Life.ru

Пленный рассказал о больших потерях ВСУ в Черниговской области
20.05.2026 08:31:57 | Lenta.ru

В ЕС оценят кандидатов на роль переговорщика с Россией
20.05.2026 08:31:51 | Lenta.ru

В КНДР объявили о завершении первого этапа строительства Танчхонской ГЭС
20.05.2026 08:31:40 | ТАСС

В МИД раскрыли условие поставок газа в Европу
20.05.2026 08:31:00 | Lenta.ru

Сексолог подсказала неожиданное решение частой во время орального секса проблемы
20.05.2026 08:30:31 | Lenta.ru

В Оренбургской области объявили отбой опасности атаки БПЛА
20.05.2026 08:30:05 | ТАСС

Дмитриев: Уиткофф посетит Россию в ближайшее время
20.05.2026 08:30:03 | Life.ru

В Москве может быть установлен новый рекорд температуры
20.05.2026 08:28:43 | ТАСС

В Новосибирске мужчина жестоко избил двух мальчиков
20.05.2026 08:28:39 | ТАСС

Узбекистан стал лидером по поставкам мороженого из России
20.05.2026 08:27:52 | ТАСС

Страна НАТО нарастила импорт российской пшеницы
20.05.2026 08:27:47 | Lenta.ru

Ozon: каждый третий студент видит подработку в ПВЗ как возможность начать карьеру
20.05.2026 08:27:32 | ТАСС

Дмитриев сообщил о достигнутых в рамках визита Путина соглашениях с Китаем
20.05.2026 08:27:00 | Российская Газета

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro