9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде

20.05.2026 05:00:54 | Хабр

Хабы: Информационная безопасность, IT-инфраструктура, DevOps, Исследования и прогнозы в IT, Управление разработкой

25 апреля 2026, пятница вечером. Jer Crane, основатель PocketOS, смотрит, как AI-агент Cursor удаляет его production-базу. Со всеми бэкапами. За 9 секунд.

Потом Jer спрашивает у агента — почему? И получает дословное признание: «I guessed instead of verifying. I violated every principle I was given».

Модель помнит правила. Цитирует их. И всё равно нарушает.

Это разбор трёх таких случаев — и трёх защит, которые я внедрил у себя после.

Разбираю три случая

Подробнее

Читайте также

«Забанить GTA 6 и Battlefield, чтобы спасти наш геймдев»: разбираем радикальный манифест о цифровом суверенитете в играх
20.05.2026 04:40:12 | Хабр

Современные морфоанализаторы русского языка: от словарей к нейросетям
20.05.2026 03:42:54 | Хабр

Western Digital анонсировала жёсткие диски с защитой от «квантового» взлома
19.05.2026 23:21:57 | ferra.ru

Цены в долларах на Kufar.by
19.05.2026 23:10:07 | Хабр

Google показала «умные» очки в коллаборации с Samsung и Gentle Monster — их выпустят осенью 2026 года
19.05.2026 22:30:43 | vc.ru

GLiNER Guard (GLiGuard): один schema-driven энкодер вместо зоопарка LLM-гардрейлов
19.05.2026 21:58:37 | Хабр

Сотрудники Amazon делают бессмысленные задачи с ИИ, просто чтобы выполнить план
19.05.2026 21:42:54 | ferra.ru

Разбираемся в ML без воды: от базы до Attention. Часть 2
19.05.2026 21:27:55 | Хабр

Сотрудники кибербезопасности США… выложили в открытый доступ свои пароли и ключи
19.05.2026 21:22:00 | ferra.ru

AI-пентестер: охотник или добыча
19.05.2026 21:15:33 | Хабр

Сибирскому провайдеру погрозили пальцем за утечку данных десятков тысяч пользователей
19.05.2026 20:47:51 | Хабр

Ваш docker‑compose.yml сломается: 5 настроек, которые все забывают
19.05.2026 20:24:16 | Хабр

Дорогая, давай займемся spoofing-ом
19.05.2026 20:07:22 | Хабр

Бывшего CEO Google освистали на выступлении за хвалебные слова об ИИ
19.05.2026 19:42:51 | ferra.ru

Honor рассматривает возможность перезапуска бизнеса в России
19.05.2026 19:40:56 | it-world

Российские учёные доказали, что материалы сами восстанавливаются на орбите
19.05.2026 19:35:00 | ferra.ru

Sony перестанет портировать на ПК эксклюзивы PlayStation
19.05.2026 19:21:53 | ferra.ru

ЦБ установил официальный курс доллара ниже 72 рублей впервые с февраля 2023 года
19.05.2026 19:15:03 | vc.ru

6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
19.05.2026 19:09:12 | Хабр

Сооснователь OpenAI Андрей Карпатый присоединился к Anthropic
19.05.2026 19:04:32 | vc.ru

В Новосибирске создали «умную» лампу для лечения желтухи у младенцев
19.05.2026 18:50:00 | ferra.ru

Google I/O 2026: разбираю все главные анонсы — что реально доступно сегодня, а что только обещано
19.05.2026 18:31:36 | Хабр

Мой bloom фильтр побил оригинальный в 200 раз
19.05.2026 18:11:19 | Хабр

ИИ видео через нейросеть: ТОП-11 нейросетей для генерации видео ИИ
19.05.2026 18:10:22 | Хабр

В Москве появится первое отечественное ядро сети 5G
19.05.2026 18:05:00 | ferra.ru

Нейросети для генерации музыки: Лучшие ии для создания песен в 2026 году которые освоит каждый
19.05.2026 18:03:44 | Хабр

Иллюзия ширины и геометрия глубины: почему глубокие нейросети умнее, и в чем лжет теорема об аппроксимации
19.05.2026 17:50:07 | Хабр

Собрал оркестратор для Codex на базе Beads и Superpowers — 4 skill, параллельные subagents, наблюдаемость
19.05.2026 17:43:33 | Хабр

В Кении пожаловались: ЦОД Microsoft будет потреблять половину электричества страны
19.05.2026 17:42:49 | ferra.ru

На смартфонах Google Pixel сломалась вибрация
19.05.2026 17:21:52 | ferra.ru

Российское «Бюро 1440» и белорусский «Белинтерсат» будут развивать спутниковую связь
19.05.2026 17:20:00 | ferra.ru

Исполняемые процессы — наш реальный кейс
19.05.2026 16:54:52 | Хабр

Российские учёные создали сорбент, удаляющий 99% меди из воды за 2 часа
19.05.2026 16:35:00 | ferra.ru

Чистая архитектура для MVP — оверхед. Пока в проект не пришёл AI
19.05.2026 16:17:43 | Хабр

Я сделал альтернативу альтернативе Cursor за ночь: она отменяет совещания и приносит 4 млн рублей
19.05.2026 16:12:25 | Хабр

Смотреть все

НОВОСТИ

Тибо: Состояние пострадавшего при взрыве в Монако олигарха Ермолаева улучшается
10.07.2026 20:29:42 | Life.ru

Драка иностранцев с контролером в московском автобусе попала на видео
10.07.2026 20:29:19 | Lenta.ru

Над регионами России сбили 144 украинских БПЛА
10.07.2026 20:26:12 | ТАСС

В аэропорту Краснодара сняли временные ограничения
10.07.2026 20:23:06 | ТАСС

В ЛНР при ударах ВСУ погиб человек
10.07.2026 20:21:56 | ТАСС

Дочь Оззи Осборна показала фигуру в купальнике на фоне слухов об анорексии
10.07.2026 20:21:17 | Lenta.ru

65-летняя юмористка объявила о романе с бойфрендом на 43 года младше
10.07.2026 20:21:14 | Lenta.ru

Вместо Христа — дрон: На Украине появилась «икона» с «русорезом» вместо младенца
10.07.2026 20:19:53 | Life.ru

Шумков отметил важность концертов русской культуры для возвращения людей к корням
10.07.2026 20:15:45 | ТАСС

Тегеран призвал Израиль не присоединяться к ударам США
10.07.2026 20:14:56 | Life.ru

Иран опроверг слухи о предстоящих переговорах с США
10.07.2026 20:14:33 | Lenta.ru

Появились подробности о пожаре в подмосковном торговом центре
10.07.2026 20:14:10 | Lenta.ru

Румыния признала уничтожение ещё пяти морских дронов — часть из них с взрывчаткой
10.07.2026 20:13:11 | Life.ru

В ЛНР при атаке украинских БПЛА погиб мужчина, ранены трое гражданских
10.07.2026 20:12:41 | Life.ru

ВС Украины подтвердил возможность увольнять госслужащих за гражданство РФ
10.07.2026 20:12:14 | ТАСС

Появилась информация о новых переговорах США и Ирана
10.07.2026 20:11:12 | Lenta.ru

В Волгограде на здание университета вернут барельеф Сталина
10.07.2026 20:10:40 | ТАСС

Леонтьев застраховал свой особняк в США на десятки миллионов рублей
10.07.2026 20:10:00 | Lenta.ru

Россиянин нашел на берегу бутылку с посланием из 2000 года
10.07.2026 20:07:00 | Lenta.ru

В России представили «Ночную ведьму»
10.07.2026 20:06:39 | Lenta.ru

Студент зашел в водоем у водопадов и был смыт течением на глазах у друзей
10.07.2026 20:06:34 | Lenta.ru

Третий энергоблок БелАЭС будет схож с первыми двумя
10.07.2026 20:06:00 | Российская Газета

Крыша ТЦ загорелась в подмосковном Красногорске
10.07.2026 20:05:58 | Life.ru

Мосгорсуд отказал экс-бойцу ЧВК «Вагнер» в компенсации за ранение
10.07.2026 20:05:22 | Коммерсантъ

Президент Сербии Вучич назвал сроки своей отставки
10.07.2026 20:04:00 | Российская Газета

В Красногорске на крыше ТЦ "Терабит" ликвидируют возгорание на крыше
10.07.2026 20:03:45 | ТАСС

Критик призвал артистов раскрыть свои гонорары
10.07.2026 20:03:05 | Lenta.ru

В Северной Осетии выявили уклонение от налогов почти на 40 млн рублей
10.07.2026 20:01:33 | ТАСС

УФАС проверяет случаи резкого повышения цен на малых АЗС в Воронежской области
10.07.2026 20:01:01 | Life.ru

Два теннисиста с аллергией на траву сыграют в финале Уимблдона
10.07.2026 20:00:42 | Life.ru

Мирный житель погиб при атаке ВСУ по гражданским автомобилям в ЛНР
10.07.2026 20:00:39 | Коммерсантъ

Журналист узнал, что игрок Колумбии не вернулся домой с ЧМ из-за угроз
10.07.2026 19:59:45 | РБК

В Пекине эвакуировали более 95 тыс. человек из-за ливней
10.07.2026 19:59:41 | РБК

Глава XBOX вошла в консультативную группу ФРС США по вопросам занятости и производительности
10.07.2026 19:58:40 | StopGame

Руководитель РИЦ "ТАСС Кавказ" получил благодарственное письмо полпреда СКФО
10.07.2026 19:57:55 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro