Почему ИИ-боты более уязвимы, чем их базовые LLM-модели?

19.05.2026 10:35:10 | Хабр

Хабы: Информационная безопасность, Искусственный интеллект, Python, Тестирование IT-систем

В прошлой статье я показал, как защищен Open Source проект телеграм-бота. В комментариях меня спросили о иных инструментах и методах проверки в связи с чем, мы вышли к ключевому вопросу: почему, если основная LLM защищена, кастомные боты на ее основе остаются уязвимыми?

Базовые LLM проходят отдельное safety-training и RLHF-выравнивание. Но production-бот, построенный поверх модели, добавляет новый attack surface: system prompts, память диалога, RAG, tools, webhook-логику и внешние API. Именно этот orchestration layer часто становится слабым местом. Вот данные:

Из анализа 14 904 кастомных GPT:

Подробнее

Читайте также

Google убрала из Gemini Thinking модель. Обзор обновления Gemini
19.05.2026 10:13:37 | Хабр

Вы неправильно тестируете асинхронный код: тест проходит раньше, чем выполняется проверка
19.05.2026 10:10:11 | Хабр

Shared-хостинг: технология уходит, а услуга остается?
19.05.2026 10:05:47 | Хабр

Почему ваши инициативы в компаниях не взлетают? Продвигаем изменения через истории
19.05.2026 09:59:01 | Хабр

[Перевод] Flutter 3.44 Конец эпохи CocoaPods и начало расцвета Swift Package Manager
19.05.2026 09:53:27 | Хабр

Держим ИИ в узде. Как при разработке сложных продуктов обеспечить преемственность и масштабируемость проекта
19.05.2026 09:47:41 | Хабр

ИИ Google Gemini Intelligence заработает лишь на считанных Android-смартфонах
19.05.2026 09:42:44 | ferra.ru

Авторизация в Go без боли: как Casbin заменяет километры if-проверок
19.05.2026 09:30:02 | Хабр

Почему в эпоху GPT, бизнесу важно конкурировать в поисковиках
19.05.2026 09:23:23 | Хабр

ИИ разработке нужны не спецификации, а полноценная трассировка требований
19.05.2026 09:17:32 | Хабр

Тихое присутствие вместо вымогательства: особенности национальных киберугроз в промышленности
19.05.2026 09:17:06 | Хабр

Нейросеть GPT Image 2: Как пользоваться в России + 20 промптов для генерации изображений и фото
19.05.2026 09:16:19 | Хабр

INFOSTART A&PM EVENT 2026 открыл прием заявок на доклады
19.05.2026 09:14:35 | Хабр

Великий парадокс VRAM: почему мы платим миллионы за память, чтобы делать всё, лишь бы ей не пользоваться
19.05.2026 09:04:27 | Хабр

Pollux: LLM-as-a-judge для русского
19.05.2026 09:00:56 | Хабр

YARL: как мы развиваем распределённый Rate Limiter
19.05.2026 09:00:54 | Хабр

М.Видео открыла предзаказ на ультратонкий планшет HUAWEI MatePad Mini
19.05.2026 09:00:47 | ferra.ru

Realme 16 5G с «зеркалом» рядом с камерами вышел в России
19.05.2026 09:00:44 | ferra.ru

Выгорание — главная IT-эпидемия нашей бытности
19.05.2026 09:00:32 | Хабр

Строим машину времени для данных (SCD-2) на движке Trino под управлением Airflow
19.05.2026 08:59:51 | Хабр

Почему 4 сеньёра могут быть эффективнее команды из 15 человек
19.05.2026 08:58:52 | Хабр

ИИ не разгружает сотрудников. Он просто повышает планку ожиданий
19.05.2026 08:55:58 | Хабр

«Норма» как закономерный результат закона о норме
19.05.2026 08:54:47 | Хабр

Устройства дополненной реальности в патентах на изобретения (в мире и в России)
19.05.2026 08:48:27 | Хабр

Не могла найти стильную одежду 60-го размера — и создала бренд с оборотом 1,7 млн рублей
19.05.2026 08:30:07 | Хабр

Тянем-потянем, вытянуть не можем. Или можем? ;-)
19.05.2026 08:24:32 | Хабр

День 1546: спрос на деловые поездки в Санкт-Петербург в дни проведения ПМЭФ снизился вдвое год к году
19.05.2026 08:22:29 | vc.ru

Агент — это не новый пользователь. Это новый посредник. Что медицина знает об этом 100 лет
19.05.2026 08:00:22 | Хабр

Цены на SSD в Японии взлетели втрое. Разбираемся, что происходит
19.05.2026 08:00:19 | Хабр

Почему нельзя штрафовать за непропуск пешеходов?
19.05.2026 07:51:18 | Хабр

Кинематика вместо нейросетей: швейцарский фреймворк против vendor lock-in в робототехнике
19.05.2026 07:50:47 | Хабр

Миграции конфигурации Битрикс24 CRM: как мы перестали делать это руками
19.05.2026 07:45:43 | Хабр

Honor 600 для Китая оснастят 7-кратным зумом и селфи-камерой с 4K
19.05.2026 07:42:42 | ferra.ru

Лидогенерация девелопера в 2026 году: как продвигать недвижимость в новых условиях
19.05.2026 07:41:00 | Хабр

Полиморфные ссылки в реляционных базах данных, или об ещё одном узком месте в 1С
19.05.2026 07:40:16 | Хабр

Смотреть все

НОВОСТИ

Пожар в здании панорамы Севастополя локализован, есть риск обрушения купола
10.06.2026 15:55:52 | Life.ru

«Не базовое умение, а головоломка»: Почему зумеры теряются перед циферблатом и стремянкой
10.06.2026 15:54:50 | Life.ru

Путин на совещании с членами правительства. Видеотрансляция
10.06.2026 15:53:55 | ТАСС

Лантратова: новый омбудсмен Москвы хорошо знаком с социальной сферой
10.06.2026 15:53:37 | ТАСС

ВСУ атаковали здание Панорамы Севастополя дроном с кумулятивным зарядом
10.06.2026 15:53:23 | Life.ru

В Крыму предложили переименовать улицы, названные именами убивших Александра II
10.06.2026 15:53:16 | ТАСС

США и страны НАТО обвинили Иран в "покушениях на убийство" евреев
10.06.2026 15:52:28 | ТАСС

В деле о нападении на одну из крупнейших букмекерских контор России поставили точку
10.06.2026 15:51:43 | Lenta.ru

Людмила Бабушкина поздравила Свердловскую филармонию с 90-летием
10.06.2026 15:51:08 | ТАСС

Постпред США: Трамп задействует ВС, если Иран не заключит сделку в разумные сроки
10.06.2026 15:50:02 | ТАСС

Власти потребовали от российской многодетной семьи снести свой дом
10.06.2026 15:49:53 | Lenta.ru

Туристка умерла в Австралии после укуса комара с редчайшим вирусом
10.06.2026 15:49:35 | Life.ru

Древаль назвал удар по панораме в Севастополе атакой на культурную идентичность
10.06.2026 15:49:31 | ТАСС

Врач назвал бессмысленной тратой денег один гаджет для здоровья
10.06.2026 15:49:23 | Lenta.ru

В Словакии впервые за 17 лет родились сиамские близнецы
10.06.2026 15:49:00 | Российская Газета

В Словакии впервые за почти 20 лет родились сиамские близнецы
10.06.2026 15:49:00 | Российская Газета

ВСУ ударили не менее восьми раз по зданию МЧС в Каменке-Днепровской
10.06.2026 15:48:29 | ТАСС

Депутаты Госдумы приняли закон о создании суда Путинского района в Грозном
10.06.2026 15:48:12 | Life.ru

Россиянок призвали носить кольца на пальцах ног
10.06.2026 15:47:02 | Lenta.ru

В Канаде пилота обвинили в совершении 900 авиарейсов без действующей лицензии
10.06.2026 15:47:00 | Российская Газета

В БК "Пари НН" опровергли информацию о долгах по зарплате
10.06.2026 15:46:56 | ТАСС

Все здание панорамы обороны Севастополя выгорело после удара ВСУ
10.06.2026 15:46:38 | ТАСС

Трамп закончил пост словами «слава Аллаху»
10.06.2026 15:46:35 | Lenta.ru

Кладоискатель-любитель нашел редчайшее золотое кольцо времен Древнего Рима
10.06.2026 15:45:15 | Lenta.ru

«Подсунули пасквиль»: В России раскрыли, кто состряпал письмо Путину от лица Зеленского
10.06.2026 15:45:09 | Life.ru

Несколько фрагментов полотна "Оборона Севастополя" вынесены из здания панорамы
10.06.2026 15:43:56 | ТАСС

Юмор не прогрузился: Учительнице пришлось уволиться после шутки про «Лёшу-404»
10.06.2026 15:43:30 | Life.ru

Создан ИИ-эксперт для оценки экономических последствий градостроительных решений
10.06.2026 15:43:26 | ТАСС

Студент из Екатеринбурга лично представил свою разработку главе Apple
10.06.2026 15:43:16 | Life.ru

Отец пленного солдата ВСУ сдал координаты сослуживцев и попытался обмануть ВС РФ
10.06.2026 15:43:00 | Российская Газета

Офис Нетаньяху жестко ответил на заявления Эрдогана
10.06.2026 15:42:59 | Lenta.ru

Развожаев: удар по зданию панорамы в Севастополе был осуществлен кумулятивным зарядом
10.06.2026 15:42:31 | ТАСС

В Москве более 500 активистов МГЕР провели флешмоб ко Дню России
10.06.2026 15:42:31 | ТАСС

ТАСС: британский самолет-разведчик прошел у границ Прибалтики и Финляндии с РФ
10.06.2026 15:42:24 | ТАСС

В Петербурге подросток утонул в реке Охте
10.06.2026 15:42:06 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro