9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде

20.05.2026 05:00:54 | Хабр

Хабы: Информационная безопасность, IT-инфраструктура, DevOps, Исследования и прогнозы в IT, Управление разработкой

25 апреля 2026, пятница вечером. Jer Crane, основатель PocketOS, смотрит, как AI-агент Cursor удаляет его production-базу. Со всеми бэкапами. За 9 секунд.

Потом Jer спрашивает у агента — почему? И получает дословное признание: «I guessed instead of verifying. I violated every principle I was given».

Модель помнит правила. Цитирует их. И всё равно нарушает.

Это разбор трёх таких случаев — и трёх защит, которые я внедрил у себя после.

Разбираю три случая

Подробнее

Читайте также

«Забанить GTA 6 и Battlefield, чтобы спасти наш геймдев»: разбираем радикальный манифест о цифровом суверенитете в играх
20.05.2026 04:40:12 | Хабр

Современные морфоанализаторы русского языка: от словарей к нейросетям
20.05.2026 03:42:54 | Хабр

Western Digital анонсировала жёсткие диски с защитой от «квантового» взлома
19.05.2026 23:21:57 | ferra.ru

Цены в долларах на Kufar.by
19.05.2026 23:10:07 | Хабр

Google показала «умные» очки в коллаборации с Samsung и Gentle Monster — их выпустят осенью 2026 года
19.05.2026 22:30:43 | vc.ru

GLiNER Guard (GLiGuard): один schema-driven энкодер вместо зоопарка LLM-гардрейлов
19.05.2026 21:58:37 | Хабр

Сотрудники Amazon делают бессмысленные задачи с ИИ, просто чтобы выполнить план
19.05.2026 21:42:54 | ferra.ru

Разбираемся в ML без воды: от базы до Attention. Часть 2
19.05.2026 21:27:55 | Хабр

Сотрудники кибербезопасности США… выложили в открытый доступ свои пароли и ключи
19.05.2026 21:22:00 | ferra.ru

AI-пентестер: охотник или добыча
19.05.2026 21:15:33 | Хабр

Сибирскому провайдеру погрозили пальцем за утечку данных десятков тысяч пользователей
19.05.2026 20:47:51 | Хабр

Ваш docker‑compose.yml сломается: 5 настроек, которые все забывают
19.05.2026 20:24:16 | Хабр

Дорогая, давай займемся spoofing-ом
19.05.2026 20:07:22 | Хабр

Бывшего CEO Google освистали на выступлении за хвалебные слова об ИИ
19.05.2026 19:42:51 | ferra.ru

Honor рассматривает возможность перезапуска бизнеса в России
19.05.2026 19:40:56 | it-world

Российские учёные доказали, что материалы сами восстанавливаются на орбите
19.05.2026 19:35:00 | ferra.ru

Sony перестанет портировать на ПК эксклюзивы PlayStation
19.05.2026 19:21:53 | ferra.ru

ЦБ установил официальный курс доллара ниже 72 рублей впервые с февраля 2023 года
19.05.2026 19:15:03 | vc.ru

6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
19.05.2026 19:09:12 | Хабр

Сооснователь OpenAI Андрей Карпатый присоединился к Anthropic
19.05.2026 19:04:32 | vc.ru

В Новосибирске создали «умную» лампу для лечения желтухи у младенцев
19.05.2026 18:50:00 | ferra.ru

Google I/O 2026: разбираю все главные анонсы — что реально доступно сегодня, а что только обещано
19.05.2026 18:31:36 | Хабр

Мой bloom фильтр побил оригинальный в 200 раз
19.05.2026 18:11:19 | Хабр

ИИ видео через нейросеть: ТОП-11 нейросетей для генерации видео ИИ
19.05.2026 18:10:22 | Хабр

В Москве появится первое отечественное ядро сети 5G
19.05.2026 18:05:00 | ferra.ru

Нейросети для генерации музыки: Лучшие ии для создания песен в 2026 году которые освоит каждый
19.05.2026 18:03:44 | Хабр

Иллюзия ширины и геометрия глубины: почему глубокие нейросети умнее, и в чем лжет теорема об аппроксимации
19.05.2026 17:50:07 | Хабр

Собрал оркестратор для Codex на базе Beads и Superpowers — 4 skill, параллельные subagents, наблюдаемость
19.05.2026 17:43:33 | Хабр

В Кении пожаловались: ЦОД Microsoft будет потреблять половину электричества страны
19.05.2026 17:42:49 | ferra.ru

На смартфонах Google Pixel сломалась вибрация
19.05.2026 17:21:52 | ferra.ru

Российское «Бюро 1440» и белорусский «Белинтерсат» будут развивать спутниковую связь
19.05.2026 17:20:00 | ferra.ru

Исполняемые процессы — наш реальный кейс
19.05.2026 16:54:52 | Хабр

Российские учёные создали сорбент, удаляющий 99% меди из воды за 2 часа
19.05.2026 16:35:00 | ferra.ru

Чистая архитектура для MVP — оверхед. Пока в проект не пришёл AI
19.05.2026 16:17:43 | Хабр

Я сделал альтернативу альтернативе Cursor за ночь: она отменяет совещания и приносит 4 млн рублей
19.05.2026 16:12:25 | Хабр

Смотреть все

НОВОСТИ

В России определили приоритетные регионы для яхтенной инфраструктуры
10.06.2026 14:38:23 | ТАСС

Житель Тюмени избил на улице подростка металлическим прутом
10.06.2026 14:38:18 | ТАСС

В Якутии в 2026 году намерены ввести 41 соцобъект
10.06.2026 14:38:04 | ТАСС

«Калашников» сообщил о применении катеров БК-16 в Чёрном море
10.06.2026 14:37:53 | Life.ru

У берегов Приморья зафиксировали землетрясение магнитудой 5,7
10.06.2026 14:37:53 | Life.ru

Король Камбоджи поздравил Путина с предстоящим Днем России
10.06.2026 14:37:48 | ТАСС

Дзюба назвал лучшего молодого футболиста РПЛ: в топ-5 попали сразу два игрока «Акрона»
10.06.2026 14:37:45 | Life.ru

«Вопрос уже стоит ребром»: Лавров призвал Армению определиться между ЕС и ЕАЭС
10.06.2026 14:36:35 | Life.ru

Организаторы ЧМ-2026 в Мексике столкнулись с неожиданной проблемой
10.06.2026 14:36:15 | Lenta.ru

Союзник США не захотел отказываться от российского газа
10.06.2026 14:35:00 | Lenta.ru

«Заложники под видом помощи»: Лантратова взялась за «пыточный» рехаб в Луховицах
10.06.2026 14:33:38 | Life.ru

Лавров: Запад окончательно разрушил систему безопасности в Европе
10.06.2026 14:33:00 | Российская Газета

Никаких домиков за границей: Депутатам и сенаторам могут запретить «запасные аэродромы»
10.06.2026 14:32:10 | Life.ru

Оценена опасность тополиного пуха для города
10.06.2026 14:31:41 | Lenta.ru

Психологическую поддержку ветеранам СВО расширят в регионах РФ
10.06.2026 14:31:12 | ТАСС

Звезда «Улиц разбитых фонарей» признался в употреблении обезболивающих
10.06.2026 14:31:10 | Lenta.ru

Ростех показал комплекс перехвата беспилотников для морских акваторий
10.06.2026 14:31:02 | ТАСС

Очевидец: БПЛА ВСУ долго кружили над жилым районом Мелитополя перед ударом
10.06.2026 14:30:30 | ТАСС

ГД разрешила в I чтении иностранным компаниям исследовать рынки РФ
10.06.2026 14:30:25 | ТАСС

Активистку "Открытой России" Шевченко приговорили к 17 годам
10.06.2026 14:30:03 | ТАСС

ПСБ и Движение поддержки флота договорились о партнерстве
10.06.2026 14:29:51 | ТАСС

Послы Британии, Франции и Германии попросились на встречу с замглавы МИД России
10.06.2026 14:29:50 | Lenta.ru

Тарпищев назвал Месси и Роналду "полноценно не живыми" перед ЧМ-2026
10.06.2026 14:29:26 | ТАСС

Бастрыкин затребовал доклад после осквернения воинских захоронений в Архангельске
10.06.2026 14:28:47 | ТАСС

Лавров сообщил о долге Армении по взносам в ОДКБ
10.06.2026 14:28:37 | Life.ru

«Бред космического масштаба»: Захарова обрушилась на Зеленского из-за запрета русских книг
10.06.2026 14:28:26 | Life.ru

Врачи рассказали о методах борьбы со вздутием живота в домашних условиях
10.06.2026 14:28:17 | Lenta.ru

Универсальная малогабаритная торпеда КТРВ прошла предварительные испытания
10.06.2026 14:28:11 | ТАСС

Обманутая покупательница взыскала почти миллион рублей с продавца квартиры в Москве
10.06.2026 14:28:07 | Lenta.ru

Трутнев вручил премию "Звезда Дальнего Востока" корреспонденту ТАСС в Бурятии
10.06.2026 14:27:06 | ТАСС

Трамп пригрозил Ирану расплатой
10.06.2026 14:26:50 | Lenta.ru

Вор в законе наделил криминальным статусом россиянина и подвел его под статью
10.06.2026 14:26:46 | Lenta.ru

ФЛССР обсудила сотрудничество с министром спорта Сербии в Белграде
10.06.2026 14:26:24 | ТАСС

ВС РФ уничтожили ударами дронов два танка ВСУ в Краматорске
10.06.2026 14:26:19 | ТАСС

В Госдуме прокомментировали идею о депортации студентов за неуспеваемость
10.06.2026 14:26:18 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro