Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

[Перевод] Пять документов ломают ваш RAG: где реальная уязвимость и что с ней делать

29.04.2026 18:40:38 | Хабр

Хабы: Блог компании OTUS, Машинное обучение, Искусственный интеллект, Информационная безопасность

RAG часто воспринимают как аккуратный способ «заземлить» LLM на документах и снизить риск галлюцинаций. Но у этой архитектуры есть менее очевидная проблема: контекст из базы знаний обычно считается доверенным, хотя именно через него в модель могут попасть вредоносные инструкции.

В статье разбираем, как несколько отравленных документов могут повлиять на ответы системы, почему эмбеддинги нельзя считать безопасной абстракцией и какие уровни защиты нужны, если RAG используется не в демо, а в реальном продакшене.

К рискам RAG

Подробнее

Читайте также

В России упростили производство оптических решеток для лазерной связи
29.04.2026 18:38:08 | ferra.ru

Кибер Бэкап 18.5 делает акцент на производительность в крупных инфраструктурах
29.04.2026 18:36:08 | it-world

«Google Переводчик» добавил в США и Индии функцию для практики произношения слов на иностранном языке
29.04.2026 18:31:55 | vc.ru

Уязвимости ИИ-сервисов в российских компаниях выросли с 2% до 5%
29.04.2026 18:25:00 | ferra.ru

Samsung подтвердила «незамысловатое» название своих умных очков
29.04.2026 18:23:52 | ferra.ru

Как проектировать SEO-страницы под скрытую декомпозицию интента
29.04.2026 18:19:46 | Хабр

В России создали технологию переработки алюминиевых шлаков
29.04.2026 18:16:55 | ferra.ru

Так выглядят умные очки Samsung за 380 долларов
29.04.2026 17:55:44 | ferra.ru

TECNO представила серию CAMON 50 с ИИ, влагозащитой IP69K и 60-кратным зумом
29.04.2026 17:45:16 | it-world

RGG-LAND: от стримерского ивента до игры
29.04.2026 17:44:10 | Хабр

Хакерская группа HeartlessSoul начала атаковать российские компании
29.04.2026 17:40:00 | ferra.ru

В Красноярске напечатали на 3D-принтере авиационный алюминиево-кремниевый сплав
29.04.2026 17:39:57 | ferra.ru

«ECS — like» вектор на с++
29.04.2026 17:16:27 | Хабр

В Москве запланировали отключить мобильный интернет на майские праздники — «Ъ»
29.04.2026 17:08:59 | vc.ru

165 Гц, 8 600 мА·ч: OnePlus представила мощный игровой смартфон Ace 6 Ultra
29.04.2026 17:06:24 | ferra.ru

Я просил Claude перестать мне льстить. 16 апреля получил. Беру свои слова назад
29.04.2026 17:05:11 | Хабр

Ростех и БЕЛАЗ создали СП для выпуска водородных и беспилотных самосвалов
29.04.2026 16:55:00 | ferra.ru

Пять координат ценности продукта: разбор Trust & Safety Циана
29.04.2026 16:53:58 | Хабр

50 оттенков порока: за что команды ненавидят тимлидов
29.04.2026 16:19:18 | Хабр

Простой гайд как на одном и том же сервере иметь и панель 3X-UI за NGINX, и свой сервис
29.04.2026 16:16:13 | Хабр

Те, кто не любит отлаживать — против тех, кто не любит писать
29.04.2026 16:12:26 | Хабр

Стоит ли покупать китайскую колонку в стиле JBL Flip 6 c такой же мощностью, но на 30% дешевле
29.04.2026 16:02:36 | ferra.ru

Спецификация, ворота, метрики: как SENAR закрывает вход и выход задачи
29.04.2026 16:01:02 | Хабр

Год к психологу — а надо было сдать ТТГ
29.04.2026 16:00:04 | Хабр

Новые процессоры Intel Wildcat Lake в первых тестах оказались быстрее решений Apple
29.04.2026 15:55:32 | ferra.ru

Архитектурные решения в backend: 5 практических приёмов, которые помогают держать баланс
29.04.2026 15:50:58 | Хабр

Долгие миграции на старте сервиса — это не startup-проблема. Это ошибка в архитектуре релиза
29.04.2026 15:31:53 | Хабр

Что такое RAG-система? Полный разбор от теории до продакшена
29.04.2026 15:01:55 | Хабр

Александр Кротов: Управление сложной инфраструктурой в 2026 году
29.04.2026 14:57:00 | it-world

Возвращение блудного программиста (ч.3)
29.04.2026 14:50:52 | Хабр

OpenWebUI: System Prompt vs Skills vs MCP Tools — разбираем на живом примере валидации URL
29.04.2026 14:47:07 | Хабр

Nano Banana 2 vs GPT Image 2: Сравнение нейросетей для генерации изображений с промптами и тестами
29.04.2026 14:43:16 | Хабр

О баллистической кривой
29.04.2026 14:31:00 | Хабр

Подделывал отчётности и лгал о масштабах бизнеса: суд приговорил к девяти годам тюрьмы основателя индонезийского стартапа eFishery, разрабатывающего «умные» кормушки для рыб
29.04.2026 14:30:04 | vc.ru

Aigentix: зачем ИИ агентам адреса и поисковая система
29.04.2026 14:27:01 | Хабр

Смотреть все

НОВОСТИ

Больше всего денег в марте россияне потратили на легковушки старше 10 лет
03.05.2026 06:20:00 | За рулем

Ночной концерт у капота: чем опасна «чуткая» сигнализация
02.05.2026 03:28:42 | За рулем

Трамп допустил схожие сроки завершения конфликтов на Украине и с Ираном
29.04.2026 23:00:10 | РБК

В Дагестане для пострадавших от паводков планируют подготовить 80 участков под ИЖС
29.04.2026 22:59:14 | ТАСС

Путин провёл встречу с Кадыровым и поблагодарил чеченцев за помощь в СВО
29.04.2026 22:56:26 | Life.ru

Цена на нефть Brent превысила $120 за баррель впервые с июня 2022 года
29.04.2026 22:56:19 | Ведомости

Замминистра вел активный образ жизни // Имущество бывшего высокопоставленного чиновника Минтранса на миллиарды рублей обращено в доход государства
29.04.2026 22:56:17 | Коммерсантъ

Путин провел встречу с Кадыровым в Кремле
29.04.2026 22:56:15 | РБК

Трамп анонсировал публикацию данных об НЛО
29.04.2026 22:55:06 | Lenta.ru

Журналист Херш: Трамп перестал доверять Израилю
29.04.2026 22:54:46 | ТАСС

КЧР и Чечня договорились о сотрудничестве в сфере туризма
29.04.2026 22:54:20 | ТАСС

Модуль с GeForce RTX 5070 12GB Laptop стоит почти вдвое больше, чем в случае версии с 8 ГБ. Как минимум в случае предложения Framework
29.04.2026 22:54:00 | iXBT.com

Суд изъял активы бывшего замминистра транспорта и его коллег на ₽6 млрд
29.04.2026 22:51:31 | РБК

На всех водных объектах Дагестана установят охранные зоны
29.04.2026 22:50:48 | ТАСС

Захарова рассказала, как "далась диву чехарде" в выданных ИИ-платформами фактах о ней
29.04.2026 22:50:36 | ТАСС

Глава ФРС заявил, что 15 мая покинет свой пост
29.04.2026 22:49:18 | ТАСС

Россиян предупредили о риске случайно купить семена опасного растения
29.04.2026 22:48:00 | Lenta.ru

Трамп: США обнародуют массив данных об НЛО
29.04.2026 22:47:57 | ТАСС

Путин: Чечня за последние годы кардинально поменялась
29.04.2026 22:46:22 | ТАСС

Путин: многие регионы РФ должны брать пример с Чечни в плане рождаемости
29.04.2026 22:46:05 | ТАСС

X Международный фестиваль документального кино "Евразия.DOC" начал прием заявок
29.04.2026 22:45:48 | ТАСС

Путин надеется, что жители Чечни вновь поддержат Кадырова на выборах главы республики
29.04.2026 22:45:39 | ТАСС

В российском регионе при атаке ВСУ пострадали несколько человек
29.04.2026 22:45:24 | Lenta.ru

Путин: свыше 71 тыс. чеченцев принимают участие в СВО
29.04.2026 22:44:49 | ТАСС

Путин поблагодарил Кадырова и всех чеченцев за вклад в СВО
29.04.2026 22:44:24 | ТАСС

В Харькове при взрыве автомобиля, принадлежащего военным, пострадал человек
29.04.2026 22:44:08 | Life.ru

Международный кинофестиваль "Евразия.DOC" пройдет в сентябре и октябре в Смоленске, Минске
29.04.2026 22:44:04 | ТАСС

В Дагестане имущественные налоги выросли в четыре раза за три года
29.04.2026 22:42:04 | ТАСС

Путин провел встречу с Кадыровым
29.04.2026 22:41:19 | ТАСС

В Грузии заявили, что ЕС осознал необходимость диалога с Тбилиси
29.04.2026 22:41:11 | ТАСС

В Великом Новгороде в двух классах новой школы обрушились потолки
29.04.2026 22:40:19 | ТАСС

Замглавы АП назвал стабильным состояние межнациональных отношений в стране
29.04.2026 22:39:42 | ТАСС

В Ставрополе при падении с восьмого этажа дома погибли два строителя
29.04.2026 22:38:58 | ТАСС

Axios: Трампу предложили план «коротких и мощных» ударов по Ирану
29.04.2026 22:38:57 | Life.ru

Глава ФРС: война с Ираном сильнее ударила по Западной Европе и Азии, чем по США
29.04.2026 22:37:59 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro