[Перевод] Пять документов ломают ваш RAG: где реальная уязвимость и что с ней делать

29.04.2026 18:40:38 | Хабр

Хабы: Блог компании OTUS, Машинное обучение, Искусственный интеллект, Информационная безопасность

RAG часто воспринимают как аккуратный способ «заземлить» LLM на документах и снизить риск галлюцинаций. Но у этой архитектуры есть менее очевидная проблема: контекст из базы знаний обычно считается доверенным, хотя именно через него в модель могут попасть вредоносные инструкции.

В статье разбираем, как несколько отравленных документов могут повлиять на ответы системы, почему эмбеддинги нельзя считать безопасной абстракцией и какие уровни защиты нужны, если RAG используется не в демо, а в реальном продакшене.

К рискам RAG

Подробнее

Читайте также

В России упростили производство оптических решеток для лазерной связи
29.04.2026 18:38:08 | ferra.ru

Кибер Бэкап 18.5 делает акцент на производительность в крупных инфраструктурах
29.04.2026 18:36:08 | it-world

«Google Переводчик» добавил в США и Индии функцию для практики произношения слов на иностранном языке
29.04.2026 18:31:55 | vc.ru

Уязвимости ИИ-сервисов в российских компаниях выросли с 2% до 5%
29.04.2026 18:25:00 | ferra.ru

Samsung подтвердила «незамысловатое» название своих умных очков
29.04.2026 18:23:52 | ferra.ru

Как проектировать SEO-страницы под скрытую декомпозицию интента
29.04.2026 18:19:46 | Хабр

В России создали технологию переработки алюминиевых шлаков
29.04.2026 18:16:55 | ferra.ru

Так выглядят умные очки Samsung за 380 долларов
29.04.2026 17:55:44 | ferra.ru

TECNO представила серию CAMON 50 с ИИ, влагозащитой IP69K и 60-кратным зумом
29.04.2026 17:45:16 | it-world

RGG-LAND: от стримерского ивента до игры
29.04.2026 17:44:10 | Хабр

Хакерская группа HeartlessSoul начала атаковать российские компании
29.04.2026 17:40:00 | ferra.ru

В Красноярске напечатали на 3D-принтере авиационный алюминиево-кремниевый сплав
29.04.2026 17:39:57 | ferra.ru

«ECS — like» вектор на с++
29.04.2026 17:16:27 | Хабр

В Москве запланировали отключить мобильный интернет на майские праздники — «Ъ»
29.04.2026 17:08:59 | vc.ru

165 Гц, 8 600 мА·ч: OnePlus представила мощный игровой смартфон Ace 6 Ultra
29.04.2026 17:06:24 | ferra.ru

Я просил Claude перестать мне льстить. 16 апреля получил. Беру свои слова назад
29.04.2026 17:05:11 | Хабр

Ростех и БЕЛАЗ создали СП для выпуска водородных и беспилотных самосвалов
29.04.2026 16:55:00 | ferra.ru

Пять координат ценности продукта: разбор Trust & Safety Циана
29.04.2026 16:53:58 | Хабр

50 оттенков порока: за что команды ненавидят тимлидов
29.04.2026 16:19:18 | Хабр

Простой гайд как на одном и том же сервере иметь и панель 3X-UI за NGINX, и свой сервис
29.04.2026 16:16:13 | Хабр

Те, кто не любит отлаживать — против тех, кто не любит писать
29.04.2026 16:12:26 | Хабр

Стоит ли покупать китайскую колонку в стиле JBL Flip 6 c такой же мощностью, но на 30% дешевле
29.04.2026 16:02:36 | ferra.ru

Спецификация, ворота, метрики: как SENAR закрывает вход и выход задачи
29.04.2026 16:01:02 | Хабр

Год к психологу — а надо было сдать ТТГ
29.04.2026 16:00:04 | Хабр

Новые процессоры Intel Wildcat Lake в первых тестах оказались быстрее решений Apple
29.04.2026 15:55:32 | ferra.ru

Архитектурные решения в backend: 5 практических приёмов, которые помогают держать баланс
29.04.2026 15:50:58 | Хабр

Долгие миграции на старте сервиса — это не startup-проблема. Это ошибка в архитектуре релиза
29.04.2026 15:31:53 | Хабр

Что такое RAG-система? Полный разбор от теории до продакшена
29.04.2026 15:01:55 | Хабр

Александр Кротов: Управление сложной инфраструктурой в 2026 году
29.04.2026 14:57:00 | it-world

Возвращение блудного программиста (ч.3)
29.04.2026 14:50:52 | Хабр

OpenWebUI: System Prompt vs Skills vs MCP Tools — разбираем на живом примере валидации URL
29.04.2026 14:47:07 | Хабр

Nano Banana 2 vs GPT Image 2: Сравнение нейросетей для генерации изображений с промптами и тестами
29.04.2026 14:43:16 | Хабр

О баллистической кривой
29.04.2026 14:31:00 | Хабр

Подделывал отчётности и лгал о масштабах бизнеса: суд приговорил к девяти годам тюрьмы основателя индонезийского стартапа eFishery, разрабатывающего «умные» кормушки для рыб
29.04.2026 14:30:04 | vc.ru

Aigentix: зачем ИИ агентам адреса и поисковая система
29.04.2026 14:27:01 | Хабр

Смотреть все

НОВОСТИ

Видео с «эффектом зеркала» и участием Трампа набирает популярность в Сети
05.07.2026 12:38:19 | Life.ru

В Астраханской области продолжаются поиски унесённого течением подростка
05.07.2026 12:35:44 | Life.ru

В Москве ночной велофестиваль собрал более 47 тыс. участников
05.07.2026 12:34:57 | ТАСС

Вратарь сборной Парагвая рассказал, что Мбаппе отказался пожать ему руку
05.07.2026 12:34:21 | ТАСС

Убийцу 12-летней школьницы из Ленобласти отправили в СИЗО на два месяца
05.07.2026 12:33:40 | Life.ru

Убийцу 12-летней школьницы в Ленобласти отправили в СИЗО на два месяца
05.07.2026 12:33:40 | Life.ru

Le Point: во Франции проводят испытания подразделения боевых роботов
05.07.2026 12:33:03 | ТАСС

Оценена угроза начала нового конфликта возле российских границ
05.07.2026 12:31:42 | Lenta.ru

Москвичей предупредили об огуречных дождях
05.07.2026 12:31:26 | Lenta.ru

Россиянин описал посещение перевала Дятлова фразой «рождает новые сомнения»
05.07.2026 12:30:27 | Lenta.ru

В Петербурге арестовали обвиняемого в убийстве 12-летней девочки
05.07.2026 12:29:56 | ТАСС

У москвича развилась редкая болезнь из-за голубей
05.07.2026 12:29:30 | Lenta.ru

Екатерина Жемчужная умерла, когда врачи уже давали надежду
05.07.2026 12:29:26 | Life.ru

Боец UFC из США назвал Москву безопасным и недорогим городом
05.07.2026 12:29:11 | ТАСС

Министр обороны ФРГ высказался о самой большой помощи для Киева
05.07.2026 12:27:13 | Lenta.ru

Миллион рублей нашли у убийцы 12-летней девочки при задержании в Гатчине
05.07.2026 12:26:26 | Life.ru

Молния сожгла несколько ресторанов в курортном посёлке около Сочи
05.07.2026 12:25:09 | Life.ru

В Британии предложили сменить власть на Украине ради мирного урегулирования
05.07.2026 12:24:52 | Life.ru

Анна Нетребко отменила выступления в Мадриде из-за сильного истощения
05.07.2026 12:23:38 | Life.ru

Чемпиона мира по хоккею в составе сборной России внесли в базу «Миротворца»
05.07.2026 12:22:26 | Lenta.ru

Россиянка из Краснодара попала в больницу во Вьетнаме с лихорадкой денге
05.07.2026 12:21:40 | Life.ru

Размер маткапитала увеличится 1 февраля 2027 по фактической инфляции
05.07.2026 12:21:34 | ТАСС

UKMTO: недалеко от побережья Йемена вооруженная группа людей атаковала судно
05.07.2026 12:18:26 | ТАСС

Мик Джаггер рассказал, что пользовался словарем рифм при написании песен
05.07.2026 12:16:04 | ТАСС

Стало известно о переговорах Меладзе о возвращении в Россию
05.07.2026 12:15:00 | Lenta.ru

Свои лучше: Российские арбузы и дыни вытесняют импорт с прилавков
05.07.2026 12:13:47 | Life.ru

Гросси сравнил работу генсека ООН с дирижированием оркестром
05.07.2026 12:13:18 | Life.ru

"Страна": вратаря сборной Украины мобилизовали на хоккейной площадке
05.07.2026 12:12:49 | ТАСС

В Москве задержали устроившего конфликт в метро из-за замечания иностранца
05.07.2026 12:12:44 | ТАСС

Подозреваемый в убийстве 12-летней девочки в Ленобласти признал вину
05.07.2026 12:12:21 | Коммерсантъ

Над ДНР за неделю сбили 122 дрона ВСУ
05.07.2026 12:11:32 | ТАСС

Гольфист Ерошенко отметил рост популярности и доступности гольфа в России
05.07.2026 12:10:37 | ТАСС

Рособрнадзор назвал типичные ошибки на ЕГЭ по географии 2026 года
05.07.2026 12:08:22 | Life.ru

«Ситуация тревожная». Китай и Япония начали борьбу за спорные острова. Может ли их противостояние перерасти в большой конфликт?
05.07.2026 12:06:52 | Lenta.ru

Премьер Киргизии 5-6 июля посетит Россию
05.07.2026 12:06:27 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro