9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде

20.05.2026 05:00:54 | Хабр

Хабы: Информационная безопасность, IT-инфраструктура, DevOps, Исследования и прогнозы в IT, Управление разработкой

25 апреля 2026, пятница вечером. Jer Crane, основатель PocketOS, смотрит, как AI-агент Cursor удаляет его production-базу. Со всеми бэкапами. За 9 секунд.

Потом Jer спрашивает у агента — почему? И получает дословное признание: «I guessed instead of verifying. I violated every principle I was given».

Модель помнит правила. Цитирует их. И всё равно нарушает.

Это разбор трёх таких случаев — и трёх защит, которые я внедрил у себя после.

Разбираю три случая

Подробнее

Читайте также

«Забанить GTA 6 и Battlefield, чтобы спасти наш геймдев»: разбираем радикальный манифест о цифровом суверенитете в играх
20.05.2026 04:40:12 | Хабр

Современные морфоанализаторы русского языка: от словарей к нейросетям
20.05.2026 03:42:54 | Хабр

Western Digital анонсировала жёсткие диски с защитой от «квантового» взлома
19.05.2026 23:21:57 | ferra.ru

Цены в долларах на Kufar.by
19.05.2026 23:10:07 | Хабр

Google показала «умные» очки в коллаборации с Samsung и Gentle Monster — их выпустят осенью 2026 года
19.05.2026 22:30:43 | vc.ru

GLiNER Guard (GLiGuard): один schema-driven энкодер вместо зоопарка LLM-гардрейлов
19.05.2026 21:58:37 | Хабр

Сотрудники Amazon делают бессмысленные задачи с ИИ, просто чтобы выполнить план
19.05.2026 21:42:54 | ferra.ru

Разбираемся в ML без воды: от базы до Attention. Часть 2
19.05.2026 21:27:55 | Хабр

Сотрудники кибербезопасности США… выложили в открытый доступ свои пароли и ключи
19.05.2026 21:22:00 | ferra.ru

AI-пентестер: охотник или добыча
19.05.2026 21:15:33 | Хабр

Сибирскому провайдеру погрозили пальцем за утечку данных десятков тысяч пользователей
19.05.2026 20:47:51 | Хабр

Ваш docker‑compose.yml сломается: 5 настроек, которые все забывают
19.05.2026 20:24:16 | Хабр

Дорогая, давай займемся spoofing-ом
19.05.2026 20:07:22 | Хабр

Бывшего CEO Google освистали на выступлении за хвалебные слова об ИИ
19.05.2026 19:42:51 | ferra.ru

Honor рассматривает возможность перезапуска бизнеса в России
19.05.2026 19:40:56 | it-world

Российские учёные доказали, что материалы сами восстанавливаются на орбите
19.05.2026 19:35:00 | ferra.ru

Sony перестанет портировать на ПК эксклюзивы PlayStation
19.05.2026 19:21:53 | ferra.ru

ЦБ установил официальный курс доллара ниже 72 рублей впервые с февраля 2023 года
19.05.2026 19:15:03 | vc.ru

6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
19.05.2026 19:09:12 | Хабр

Сооснователь OpenAI Андрей Карпатый присоединился к Anthropic
19.05.2026 19:04:32 | vc.ru

В Новосибирске создали «умную» лампу для лечения желтухи у младенцев
19.05.2026 18:50:00 | ferra.ru

Google I/O 2026: разбираю все главные анонсы — что реально доступно сегодня, а что только обещано
19.05.2026 18:31:36 | Хабр

Мой bloom фильтр побил оригинальный в 200 раз
19.05.2026 18:11:19 | Хабр

ИИ видео через нейросеть: ТОП-11 нейросетей для генерации видео ИИ
19.05.2026 18:10:22 | Хабр

В Москве появится первое отечественное ядро сети 5G
19.05.2026 18:05:00 | ferra.ru

Нейросети для генерации музыки: Лучшие ии для создания песен в 2026 году которые освоит каждый
19.05.2026 18:03:44 | Хабр

Иллюзия ширины и геометрия глубины: почему глубокие нейросети умнее, и в чем лжет теорема об аппроксимации
19.05.2026 17:50:07 | Хабр

Собрал оркестратор для Codex на базе Beads и Superpowers — 4 skill, параллельные subagents, наблюдаемость
19.05.2026 17:43:33 | Хабр

В Кении пожаловались: ЦОД Microsoft будет потреблять половину электричества страны
19.05.2026 17:42:49 | ferra.ru

На смартфонах Google Pixel сломалась вибрация
19.05.2026 17:21:52 | ferra.ru

Российское «Бюро 1440» и белорусский «Белинтерсат» будут развивать спутниковую связь
19.05.2026 17:20:00 | ferra.ru

Исполняемые процессы — наш реальный кейс
19.05.2026 16:54:52 | Хабр

Российские учёные создали сорбент, удаляющий 99% меди из воды за 2 часа
19.05.2026 16:35:00 | ferra.ru

Чистая архитектура для MVP — оверхед. Пока в проект не пришёл AI
19.05.2026 16:17:43 | Хабр

Я сделал альтернативу альтернативе Cursor за ночь: она отменяет совещания и приносит 4 млн рублей
19.05.2026 16:12:25 | Хабр

Смотреть все

НОВОСТИ

В Финляндии с восторгом встретили новость о возможном отстранении Каллас
12.06.2026 05:12:13 | Lenta.ru

Эксперт Сафонов раскрыл средний размер пенсии судей в России
12.06.2026 05:10:04 | Life.ru

Украина начала срочно эвакуировать заводы из Краматорска
12.06.2026 05:09:18 | Lenta.ru

В СФ рассказали, за счет чего овощи могут стать доступнее по ценам
12.06.2026 05:09:12 | ТАСС

Осуждённому по делу об убийстве Моторолы не удалось оспорить приговор
12.06.2026 05:05:48 | Life.ru

Чех Коубек стал самым возрастным тренером в истории чемпионатов мира
12.06.2026 05:04:38 | ТАСС

Расчет "Востока" сорвал атаку БПЛА ВСУ в Запорожской области
12.06.2026 05:03:46 | ТАСС

Группировка "Центр" уничтожила четыре бронемашины, сорвав ротацию ВСУ
12.06.2026 05:03:29 | ТАСС

Бойцам мотострелкового полка Южной группировки вручили награды в зоне СВО
12.06.2026 05:03:15 | ТАСС

Бойцы группировки "Центр" нарисовали флаг России в районах Красноармейска
12.06.2026 05:02:40 | ТАСС

Бойцы "Центра" нарисовали флаг России в районах Красноармейска ДНР
12.06.2026 05:02:40 | ТАСС

Военные автоинспекторы в День России помогли ветерану труда в ДНР
12.06.2026 05:02:33 | ТАСС

Бойцам группировки войск "Запад" вручили награды за мужество и профессионализм
12.06.2026 05:02:23 | ТАСС

Группировка "Запад" сбила 120 тяжелых гексакоптеров ВСУ за сутки
12.06.2026 05:02:18 | ТАСС

Группировка "Запад" за сутки сбила 120 тяжелых гексакоптеров ВСУ
12.06.2026 05:02:18 | ТАСС

Бойцы группировки "Север" уничтожили более 300 беспилотников ВСУ за сутки
12.06.2026 05:02:13 | ТАСС

Бойцы "Севера" за сутки уничтожили более 300 беспилотников ВСУ
12.06.2026 05:02:13 | ТАСС

Беларусь подтверждает солидарность и поддержку Острову Свободы
12.06.2026 05:02:00 | Российская Газета

ТАСС: в странах ЕС от мобилизации скрываются порядка 1 млн украинских мужчин
12.06.2026 05:01:52 | ТАСС

Посол Дарчиев: импульсы РФ и США к улучшению отношений должны материализоваться
12.06.2026 05:01:35 | ТАСС

Дарчиев: импульсы РФ и США к улучшению двусторонних отношений должны материализоваться
12.06.2026 05:01:35 | ТАСС

В Тольятти ввели режим атаки БПЛА
12.06.2026 05:01:33 | ТАСС

В Тольятти введен режим атаки БПЛА
12.06.2026 05:01:33 | ТАСС

Посол Дарчиев: отношения России и США были на нуле, но восстановились
12.06.2026 05:01:03 | ТАСС

Посол Дарчиев: межгосударственные связи РФ и США были на нуле, но восстановились
12.06.2026 05:01:03 | ТАСС

Посол Дарчиев: Трамп способен обеспечить прорыв в отношениях РФ и США
12.06.2026 05:00:48 | ТАСС

Посол Дарчиев: РФ ждет решения США по назначению американского посла в Москве
12.06.2026 05:00:38 | ТАСС

Дарчиев: РФ ждет решения США по назначению американского посла в Москве
12.06.2026 05:00:38 | ТАСС

МАЗ обновил поколение автобусов — выглядит круто!
12.06.2026 05:00:00 | За рулем

В Севастополе второй раз за ночь объявили воздушную тревогу
12.06.2026 04:59:00 | ТАСС

Sodeco прилагает усилия для переоформления доли в "Сахалине-1",
12.06.2026 04:58:15 | ТАСС

Sodeco прилагает усилия, чтобы переоформить свою 30-процентную долю в "Сахалине-1"
12.06.2026 04:58:15 | ТАСС

Умерла старшая дочь короля Таиланда принцесса Баджракитиябха, ей было 47 лет
12.06.2026 04:58:00 | Российская Газета

Умерла старшая дочь короля Таиланда, ей было 47 лет
12.06.2026 04:58:00 | Российская Газета

Врач назвал лучший способ утолить жажду в жару
12.06.2026 04:54:00 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro