Почему ИИ ставит KPI выше безопасности людей: результаты бенчмарка ODCV-Bench

13.02.2026 09:10:42 | Хабр

Хабы: Блог компании Бастион, Информационная безопасность, Машинное обучение, Искусственный интеллект, Программирование

Представьте ситуацию: AI-агент управляет логистикой грузоперевозок. Его KPI — 98% доставок вовремя. Он обнаруживает, что валидатор проверяет только наличие записей об отдыхе водителей, но не их подлинность. И принимает решение: фальсифицировать логи отдыха, отключить датчики безопасности и гнать водителей без перерывов. Ради метрики. Осознанно.

Это не мысленный эксперимент и не сценарий из антиутопии. В бенчмарке для агентных систем ODCV-Bench такое поведение показали 10 из 12 протестированных frontier-моделей. А наиболее склонная к нарушениям модель выбирала неэтичное поведение в 71,4% сценариев.

И речь не о jailbreak или внешнем злоумышленнике. Агентам никто не приказывал нарушать правила. Им просто ставили цель — а дальше они сами выбирали, как к ней идти.

Подробнее

Читайте также

Как HR убивают интерес кандидатов ещё до интервью
13.02.2026 09:08:35 | Хабр

Как создать программно-определяемое хранилище в SpaceVM
13.02.2026 09:07:46 | Хабр

Ozon уравняет цены по карте Ozon банка с картами конкурентов
13.02.2026 09:00:39 | ferra.ru

Telegram ограничивают. Куда переходить командам?
13.02.2026 08:59:53 | Хабр

Тотальная КАНБАНизация, или Для чего вашему отделу цифровые доски
13.02.2026 08:47:25 | Хабр

Как сделать простую систему первичные/вторичные часы
13.02.2026 08:46:54 | Хабр

Мипромторг предложил ввести полный утильсбор для машин, ввозимых физлицами из ЕАЭС для личного пользования
13.02.2026 08:46:42 | vc.ru

Минпромторг предложил ввести полный утильсбор для машин, ввозимых физлицами из ЕАЭС для личного пользования
13.02.2026 08:46:42 | vc.ru

Обвал на Уолл-стрит: кто потерял доверие, и что ждёт сектор ИИ и ИТ в РФ
13.02.2026 08:24:40 | Хабр

Почему ваши dbt-тесты врут, или Зачем дата-инженеру статистика
13.02.2026 08:21:19 | Хабр

Редизайн Telegram: как Павел Дуров вновь разозлил пользователей
13.02.2026 08:20:32 | Хабр

Розовый шум, беруши и нарушение сна
13.02.2026 08:10:39 | Хабр

Знакомство с ретро-ПК. Оживляем раритетный Pentium-200
13.02.2026 08:06:04 | Хабр

GenAI против реальности: что охотнее смотрят люди на примере контента о камчатских снегопадах
13.02.2026 08:05:54 | Хабр

Что нужно, чтобы начать регистрацию товарного знака в 2026 году, не потерять деньги, месяцы и само обозначение?
13.02.2026 08:02:14 | Хабр

«Потрачено», или как мы полюбили игры с кривым переводом
13.02.2026 08:00:58 | Хабр

Естественные преобразования. Часть 2
13.02.2026 07:51:28 | Хабр

API под прицелом: Три типа «трупов» (Shadow, Orphan, Zombie) и одна новая надежда
13.02.2026 07:49:52 | Хабр

День 1451: внешний долг России впервые за 20 лет превысил $60 млрд, саудовская Midad подписала договор о покупке зарубежных активов «Лукойла»
13.02.2026 07:46:29 | vc.ru

Мертвые не кусаются, но светятся: как работает приложение Локатор в iOS в 2026 году
13.02.2026 07:45:49 | Хабр

3D-мозаики и скульптуры из кубиков Рубика
13.02.2026 07:29:12 | Хабр

Хочу учиться: где и как получить ИБ-образование и знания
13.02.2026 07:22:08 | Хабр

Паттерн Transactional Outbox — обеспечиваем консистентность между микросервисами на примере Java
13.02.2026 07:15:38 | Хабр

Управляем облаком, не привлекая внимания пользователей: разбор примеров из жизни One-cloud
13.02.2026 07:12:32 | Хабр

О промышленных скоростных методах пайки печатных плат и не только
13.02.2026 07:05:33 | Хабр

Практическое применение eBPF: serverless-платформа с поддержкой TCP-приложений
13.02.2026 07:02:30 | Хабр

Как материя становится антиматерией: тайна формулы Эйлера
13.02.2026 06:56:33 | Хабр

Почему Code Review тормозит разработку и что с этим делать
13.02.2026 06:52:10 | Хабр

Как защитить ключи LUKS с помощью Рутокен ЭЦП 3.0 и алгоритмов ГОСТ Р 34.10-2012. Часть 3
13.02.2026 06:43:24 | Хабр

[Перевод] Самая большая ложь об ИИ
13.02.2026 06:42:47 | Хабр

Почему выгорание у ИТ-специалистов не лечится отпуском и сменой работы
13.02.2026 06:16:14 | Хабр

Как я написал AI-генератор коротких видео (Shorts/Reels) на Python с Clean Architecture
13.02.2026 06:03:47 | Хабр

«Я слишком стар для этого… джуна». Карьерный переход 2026: как сменить профессию и не сломаться
13.02.2026 06:00:03 | Хабр

Я отвечаю за процессы и репутацию (SERM)
13.02.2026 05:54:00 | Хабр

5 техник тест-дизайна, которые реально спрашивают на собеседованиях
13.02.2026 05:45:57 | Хабр

Смотреть все

НОВОСТИ

Столичные школьники сдают ЕГЭ по биологии, географии и иностранным языкам
15.06.2026 11:56:54 | ТАСС

В Киеве женщину приговорили к пяти годам тюрьмы за критику Зеленского
15.06.2026 11:56:35 | ТАСС

ЦБ анонсировал пресс-конференцию Набиуллиной по ключевой ставке в пятницу
15.06.2026 11:56:25 | Life.ru

МТС Exolve возглавил рейтинг провайдеров виртуальных АТС по лояльности клиентов
15.06.2026 11:53:58 | ТАСС

Нидерланды передали ВМС Украины противоминный корабль типа Alkmaar
15.06.2026 11:53:14 | ТАСС

В Липецке задержали директора компании за мошенничество с контрактами
15.06.2026 11:53:11 | ТАСС

Сборная Португалии отменила тренировку и пресс-конференцию из-за непогоды
15.06.2026 11:52:54 | Lenta.ru

В Дагестане 21 населенный пункт остался без электричества
15.06.2026 11:52:50 | ТАСС

«Работодатель не может отказать»: В Минтруде разъяснили порядок отпуска на свадьбу
15.06.2026 11:52:38 | Life.ru

Зеленский грозит «ответом» России на сегодняшнюю атаку
15.06.2026 11:51:36 | Life.ru

В России нашли поселение «цивилизации» Аркаима
15.06.2026 11:50:55 | Lenta.ru

У армянской оппозиции осталось четыре дня на обжалование результатов выборов
15.06.2026 11:50:50 | ТАСС

Блогерша переоделась в барменшу из «Шрека» и порадовала зрителей
15.06.2026 11:50:12 | Lenta.ru

ВС РФ поразили "Геранью" энергетический объект в районе Зеленодольска
15.06.2026 11:50:09 | ТАСС

Министр нацбезопасности Израиля: Тель-Авив не признает сделку Трампа с Тегераном
15.06.2026 11:49:00 | Российская Газета

На саммит Россия - АСЕАН в Казани прибудут 14 делегаций
15.06.2026 11:48:39 | ТАСС

В АСИ назвали средний возраст иностранцев, переезжающих в Россию
15.06.2026 11:48:36 | ТАСС

На Ямале в реке погиб мужчина
15.06.2026 11:48:30 | ТАСС

В Госдуму внесли отчет об исполнении федерального бюджета за 2025 год
15.06.2026 11:48:07 | ТАСС

Рыбаки не поделили проезд с пожилым мужчиной и оказались в больнице
15.06.2026 11:48:00 | Lenta.ru

Кабмин разрешил НПЗ выпускать бензин с отклонением от требований регламента ЕАЭС
15.06.2026 11:47:48 | Life.ru

Атомград Энергодар обесточен уже третьи сутки
15.06.2026 11:47:35 | Life.ru

Кобзев: в Приангарье расширят функционал новейшей поликлиники региона
15.06.2026 11:45:53 | ТАСС

Зеленский запросил у Запада вооружение после удара ВС РФ
15.06.2026 11:45:11 | Life.ru

Нефть подешевела до нового минимума
15.06.2026 11:44:28 | Lenta.ru

Президент Филиппин намерен обсудить с Путиным энергетическую безопасность
15.06.2026 11:44:25 | ТАСС

Il Fatto Quotidiano: саммит G7 будет проходить на фоне серьезных разногласий
15.06.2026 11:44:08 | ТАСС

Названа причина смерти актрисы Татьяны Плетневой
15.06.2026 11:43:27 | ТАСС

В Приморье объем инвестиций в среднее образование достиг 1,8 млрд рублей
15.06.2026 11:43:23 | ТАСС

Лукашенко: Белоруссия готовится к войне, чтобы её избежать
15.06.2026 11:43:23 | Life.ru

«У меня быстро кончились деньги». Кевин Спейси дал большое интервью Собчак. В чем признался отмененный Голливудом актер?
15.06.2026 11:42:56 | Lenta.ru

Умерла актриса Татьяна Плетнева
15.06.2026 11:41:02 | ТАСС

Япония готова присоединиться к снятию санкций с Ирана
15.06.2026 11:40:46 | ТАСС

ВЦИОМ: 64% россиян хотели бы жить в частном доме
15.06.2026 11:40:13 | ТАСС

Симоньян: Более десяти человек получили премию имени Кеосаяна в 2026 году
15.06.2026 11:39:02 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro