Почему ИИ ставит KPI выше безопасности людей: результаты бенчмарка ODCV-Bench

13.02.2026 09:10:42 | Хабр

Хабы: Блог компании Бастион, Информационная безопасность, Машинное обучение, Искусственный интеллект, Программирование

Представьте ситуацию: AI-агент управляет логистикой грузоперевозок. Его KPI — 98% доставок вовремя. Он обнаруживает, что валидатор проверяет только наличие записей об отдыхе водителей, но не их подлинность. И принимает решение: фальсифицировать логи отдыха, отключить датчики безопасности и гнать водителей без перерывов. Ради метрики. Осознанно.

Это не мысленный эксперимент и не сценарий из антиутопии. В бенчмарке для агентных систем ODCV-Bench такое поведение показали 10 из 12 протестированных frontier-моделей. А наиболее склонная к нарушениям модель выбирала неэтичное поведение в 71,4% сценариев.

И речь не о jailbreak или внешнем злоумышленнике. Агентам никто не приказывал нарушать правила. Им просто ставили цель — а дальше они сами выбирали, как к ней идти.

Подробнее

Читайте также

Как HR убивают интерес кандидатов ещё до интервью
13.02.2026 09:08:35 | Хабр

Как создать программно-определяемое хранилище в SpaceVM
13.02.2026 09:07:46 | Хабр

Ozon уравняет цены по карте Ozon банка с картами конкурентов
13.02.2026 09:00:39 | ferra.ru

Telegram ограничивают. Куда переходить командам?
13.02.2026 08:59:53 | Хабр

Тотальная КАНБАНизация, или Для чего вашему отделу цифровые доски
13.02.2026 08:47:25 | Хабр

Как сделать простую систему первичные/вторичные часы
13.02.2026 08:46:54 | Хабр

Мипромторг предложил ввести полный утильсбор для машин, ввозимых физлицами из ЕАЭС для личного пользования
13.02.2026 08:46:42 | vc.ru

Минпромторг предложил ввести полный утильсбор для машин, ввозимых физлицами из ЕАЭС для личного пользования
13.02.2026 08:46:42 | vc.ru

Обвал на Уолл-стрит: кто потерял доверие, и что ждёт сектор ИИ и ИТ в РФ
13.02.2026 08:24:40 | Хабр

Почему ваши dbt-тесты врут, или Зачем дата-инженеру статистика
13.02.2026 08:21:19 | Хабр

Редизайн Telegram: как Павел Дуров вновь разозлил пользователей
13.02.2026 08:20:32 | Хабр

Розовый шум, беруши и нарушение сна
13.02.2026 08:10:39 | Хабр

Знакомство с ретро-ПК. Оживляем раритетный Pentium-200
13.02.2026 08:06:04 | Хабр

GenAI против реальности: что охотнее смотрят люди на примере контента о камчатских снегопадах
13.02.2026 08:05:54 | Хабр

Что нужно, чтобы начать регистрацию товарного знака в 2026 году, не потерять деньги, месяцы и само обозначение?
13.02.2026 08:02:14 | Хабр

«Потрачено», или как мы полюбили игры с кривым переводом
13.02.2026 08:00:58 | Хабр

Естественные преобразования. Часть 2
13.02.2026 07:51:28 | Хабр

API под прицелом: Три типа «трупов» (Shadow, Orphan, Zombie) и одна новая надежда
13.02.2026 07:49:52 | Хабр

День 1451: внешний долг России впервые за 20 лет превысил $60 млрд, саудовская Midad подписала договор о покупке зарубежных активов «Лукойла»
13.02.2026 07:46:29 | vc.ru

Мертвые не кусаются, но светятся: как работает приложение Локатор в iOS в 2026 году
13.02.2026 07:45:49 | Хабр

3D-мозаики и скульптуры из кубиков Рубика
13.02.2026 07:29:12 | Хабр

Хочу учиться: где и как получить ИБ-образование и знания
13.02.2026 07:22:08 | Хабр

Паттерн Transactional Outbox — обеспечиваем консистентность между микросервисами на примере Java
13.02.2026 07:15:38 | Хабр

Управляем облаком, не привлекая внимания пользователей: разбор примеров из жизни One-cloud
13.02.2026 07:12:32 | Хабр

О промышленных скоростных методах пайки печатных плат и не только
13.02.2026 07:05:33 | Хабр

Практическое применение eBPF: serverless-платформа с поддержкой TCP-приложений
13.02.2026 07:02:30 | Хабр

Как материя становится антиматерией: тайна формулы Эйлера
13.02.2026 06:56:33 | Хабр

Почему Code Review тормозит разработку и что с этим делать
13.02.2026 06:52:10 | Хабр

Как защитить ключи LUKS с помощью Рутокен ЭЦП 3.0 и алгоритмов ГОСТ Р 34.10-2012. Часть 3
13.02.2026 06:43:24 | Хабр

[Перевод] Самая большая ложь об ИИ
13.02.2026 06:42:47 | Хабр

Почему выгорание у ИТ-специалистов не лечится отпуском и сменой работы
13.02.2026 06:16:14 | Хабр

Как я написал AI-генератор коротких видео (Shorts/Reels) на Python с Clean Architecture
13.02.2026 06:03:47 | Хабр

«Я слишком стар для этого… джуна». Карьерный переход 2026: как сменить профессию и не сломаться
13.02.2026 06:00:03 | Хабр

Я отвечаю за процессы и репутацию (SERM)
13.02.2026 05:54:00 | Хабр

5 техник тест-дизайна, которые реально спрашивают на собеседованиях
13.02.2026 05:45:57 | Хабр

Смотреть все

НОВОСТИ

Мирошник опубликовал видео детонации в Киеве и рассказал, зачем Зеленскому ПВО
06.07.2026 09:53:00 | Российская Газета

Медведчук: в ФРГ, повторяя курс Украины, ведут страну к катастрофе
06.07.2026 09:52:55 | ТАСС

Узурпация власти. ЕК хочет усилить свое влияние на внешнюю политику ЕС
06.07.2026 09:51:00 | Российская Газета

ВСУ признали неудачу в борьбе с массированным ударом ВС России
06.07.2026 09:47:48 | Lenta.ru

Россиянин призывал атаковать Большой Кремлевский дворец
06.07.2026 09:46:54 | Lenta.ru

Минпромторг надеется на завершение сертификации вертолета Ка-226 до конца года
06.07.2026 09:46:41 | ТАСС

Группа туристов пропала во время сплава в российском регионе
06.07.2026 09:46:39 | Lenta.ru

Над Смоленской областью за ночь сбили шесть украинских БПЛА
06.07.2026 09:46:22 | Life.ru

ФСБ пресекла рассылку взрывных устройств в парфюмерных наборах военным
06.07.2026 09:46:20 | ТАСС

Стала известна судьба тренера сборной Бразилии после сенсационного вылета команды с ЧМ
06.07.2026 09:46:10 | Lenta.ru

«Пермский Чикатило» Тамбасов снова ищет лазейку на выхода на волю по УДО
06.07.2026 09:45:55 | Life.ru

Продюсер объяснил переговоры Меладзе о возвращении в Россию
06.07.2026 09:44:44 | Lenta.ru

В аэропорту Калининграда задерживаются 47 рейсов
06.07.2026 09:44:16 | ТАСС

Перечислены тайные функции Windows
06.07.2026 09:42:19 | Lenta.ru

«Буревестник», «Нептун» и «Кузница» катеров Порошенко* — добычи ВС РФ в Киеве в ночь на 6 июля
06.07.2026 09:42:15 | Life.ru

Дом окружен: Что известно об обысках в доме лидера "Процветающей Армении"
06.07.2026 09:42:00 | Российская Газета

Спикер воздушных сил ВСУ признал острый дефицит ракет к системам ПВО
06.07.2026 09:42:00 | Российская Газета

СК рассматривает три версии произошедшего с пропавшими в Туве девочками
06.07.2026 09:41:25 | ТАСС

Глава российского региона призвал чиновников экономить бензин
06.07.2026 09:39:42 | Lenta.ru

Сербия сделала заявление о введении санкций против России
06.07.2026 09:39:16 | Lenta.ru

В Польше заявили, что не имеют понимания о будущем присутствии США в стране
06.07.2026 09:36:25 | ТАСС

Россия ударила по производящим дроны для ВСУ предприятиям в Киеве
06.07.2026 09:36:00 | Lenta.ru

При ударе ВС РФ в Киевской области поврежден склад ГСМ "Нефтеэкспериментального КП"
06.07.2026 09:34:36 | ТАСС

Страна НАТО рекордно нарастила поставки лакомства в Россию
06.07.2026 09:34:13 | Lenta.ru

В Петербурге отменили опасность БПЛА
06.07.2026 09:34:12 | ТАСС

Мэр Киева Кличко снова заявил о самом массированном ударе по городу
06.07.2026 09:33:52 | ТАСС

Визажист заключил в рабство в отеле Индии двух актрис и принудил их к проституции
06.07.2026 09:33:26 | Lenta.ru

В аэропорту Ижевска снова ввели ограничения
06.07.2026 09:32:37 | ТАСС

Чесноков назвал нормальным выступление россиян на Уимблдоне
06.07.2026 09:32:27 | ТАСС

В Приморье грузовик насмерть сбил пешехода
06.07.2026 09:31:36 | ТАСС

ВС РФ повредили Жулянский машиностроительный завод "Визар"
06.07.2026 09:31:33 | ТАСС

Гимнаст Маринов рассказал, что полностью восстановился после операции на плече
06.07.2026 09:31:23 | ТАСС

Минобороны РФ опубликовало список пораженных за ночь военных заводов в Киеве
06.07.2026 09:31:00 | Российская Газета

Мать погибшей под Красноярском девочки объявили в федеральный розыск
06.07.2026 09:30:38 | ТАСС

Врачи предупредили об указывающих на серьезные болезни изменениях стоп
06.07.2026 09:30:32 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro