Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Как защитить LLM-агентов от gradient-based adversarial attacks-атак: VRF + LoRA подход

29.07.2026 21:42:00 | Хабр

Хабы: Анализ и проектирование систем

Представьте LLM-агента, который читает торговые сигналы из публичных источников, анализирует их и принимает решение покупать/продавать токены. Каждый день он управляет миллионами долларов. Такие агенты встречаются везде: в Discord, Twitter, Telegram, на собственных серверах компаний.

Проблема? Как и большинство LLM-систем в production, они работают на открытых моделях - LLaMA, Mistral и т.д.

Открытая модель означает одно: атакующий может скачать её веса и локально оптимизировать адверсариальную атаку через градиентный спуск. И самое страшное - найденная атака будет работать на всех инстансах одновременно, независимо от платформы.

Это не персональный фишинг. Это архитектурная уязвимость класса adversarial attacks.

Читать далее

Подробнее

Читайте также

В России появятся повязки для быстрой остановки кровотечения
29.07.2026 21:24:25 | ferra.ru

Как я собрал на одном Angular коде: личный кабинет для сайта, Telegram Mini App, iOS и Android
29.07.2026 21:07:41 | Хабр

Платформа «МосМедИИ» заработала в 75 регионах России
29.07.2026 21:03:00 | ferra.ru

Postgresso #6 (91)
29.07.2026 20:59:35 | Хабр

6 ошибок миграции в Битрикс24 Диск, из-за которых портал приходится переделывать через полгода
29.07.2026 20:31:24 | Хабр

Российский космонавт рассказал о сложностях обучения ИИ для работы на МКС
29.07.2026 20:28:44 | ferra.ru

Дизайн как у Honor Power 2: в Сеть попали живые фото Huawei Nova 16 SE
29.07.2026 20:24:29 | ferra.ru

У MediaTek выйдет три версии процессора Dimensity 9600
29.07.2026 20:10:13 | ferra.ru

Глобальная Управляющая Система: интерпретация высшего разума через призму ТАУ и кибернетики
29.07.2026 20:07:19 | Хабр

Мой путь в имитационное моделирование: от физры до AnyLogic
29.07.2026 20:07:08 | Хабр

В России создали электронный испаритель анестетиков
29.07.2026 19:55:16 | ferra.ru

В МИСИС создали наночастицы, которые маскируются под рак и точечно доставляют лекарство
29.07.2026 19:40:00 | ferra.ru

ОДК изготовила четвертую серийную турбину большой мощности для энергетики
29.07.2026 19:26:45 | ferra.ru

Смартфоны Samsung Galaxy Z Flip 8 назвали более удобной заменой веб-камерам
29.07.2026 19:24:25 | ferra.ru

Как попасть в голосовые ответы Алисы — и почему разметка тут почти ни при чём
29.07.2026 19:15:14 | Хабр

Вторую фазу испытаний российского онкопрепарата оценили в 500 млн рублей
29.07.2026 18:55:00 | ferra.ru

В КБГУ разработали метод ускоренного отбора устойчивой к болезням кукурузы
29.07.2026 18:54:21 | ferra.ru

«Магнит Маркет» предупредил продавцов о приостановке работы «основной витрины» с 6 сентября 2026 года — он откажется от «стратегии универсального маркетплейса»
29.07.2026 18:31:57 | vc.ru

SpaceXAI Илона Маска подала в суд из-за запрета на «раздевающие» приложения в США
29.07.2026 18:24:21 | ferra.ru

В умные очки Samsung рядом с камерой встроят светодиод, загорающийся при съемке
29.07.2026 18:12:10 | ferra.ru

Nothing опровергла слухи об уходе с 12 рынков
29.07.2026 18:10:13 | ferra.ru

Вирус жёлтой лихорадки из вакцины подавил рак поджелудочной железы у мышей
29.07.2026 18:10:00 | ferra.ru

Как распознать резьбу без помощи ИИ
29.07.2026 18:08:21 | Хабр

Культовую The Elder Scrolls III: Morrowind перенесли в браузер
29.07.2026 17:43:48 | ferra.ru

В БФУ нейросеть обучили по голосу выявлять нарушения работы мозга
29.07.2026 17:25:00 | ferra.ru

Интеграция 1С: 6 разрывов между заказом, складом и оплатой
29.07.2026 17:12:11 | Хабр

В России создали антибактериальные мембраны для стетофонендоскопов
29.07.2026 17:02:04 | ferra.ru

В России разработали плазменный космический двигатель на криптоне
29.07.2026 16:53:27 | ferra.ru

Почему умные менеджеры выбирают неправильные фреймворки
29.07.2026 16:51:49 | Хабр

Учёные: в Ленобласти риск заражения клещевой инфекцией вдвое выше, чем в Петербурге
29.07.2026 16:40:00 | ferra.ru

Ученые МИСИС нашли способ повысить прочность сплавов для энергетики
29.07.2026 16:27:36 | ferra.ru

Рекурсия в RegEx с условиями выхода
29.07.2026 16:26:17 | Хабр

Меня сокращают. Что делать? Отвечаю на 7 самых частых вопросов
29.07.2026 16:19:00 | Хабр

Российские банки начинают большую криптогонку
29.07.2026 16:18:40 | it-world

Массовый сбой Xbox не давал играть даже с дисков
29.07.2026 16:10:20 | ferra.ru

Смотреть все

НОВОСТИ

Юрист объяснил, можно ли пользоваться Telegram после объявления Дурова в розыск
30.07.2026 10:48:57 | Life.ru

Словак с ножом в парике и женском костюме попытался убить бывшую жену в Уфе
30.07.2026 10:48:07 | Life.ru

Заммэра Багреева: бот на столичном портале поставщиков помог заказчикам сэкономить
30.07.2026 10:47:57 | ТАСС

РФ контролирует 40% ключевого для ДНР канала Северский Донец - Донбасс
30.07.2026 10:47:35 | ТАСС

За 2 месяца до выгорания: Как длина рабочей переписки выдаёт уставшего сотрудника
30.07.2026 10:47:09 | Life.ru

В Тюменской области ввели режим беспилотной опасности
30.07.2026 10:45:39 | ТАСС

В Москве при модернизации Морозовской больницы сохранят облик корпуса 1904 года постройки
30.07.2026 10:44:43 | ТАСС

Серкана Болата допросили в Турции по делу об участии в ОПГ
30.07.2026 10:44:05 | Life.ru

Американская мечта по-русски: Леонтьев красиво провернул схему с налогами в США
30.07.2026 10:43:40 | Life.ru

Совбез России: число совершенных иностранцами преступлений упало почти на 40%
30.07.2026 10:43:30 | Коммерсантъ

На Украине начали операцию "Чистый призыв", обыски идут в сотне ТЦК
30.07.2026 10:43:00 | Российская Газета

Иностранные сайты хотят обязать ввести вход по номеру телефона в России
30.07.2026 10:42:49 | Life.ru

WGC: спрос мировых центробанков на золото в II квартале достиг рекордных 289 тонн
30.07.2026 10:42:31 | ТАСС

Лукашенко посетит в Бресте электроламповый завод
30.07.2026 10:42:00 | Российская Газета

Вторым задержанным за избиение учёного Зезина оказался партнёр первого фигуранта
30.07.2026 10:40:45 | Life.ru

Нетаньяху ответил на неудобный вопрос о Трампе
30.07.2026 10:39:47 | Lenta.ru

Строительство дорожного обхода города Грозного намерены завершить до 2030 года
30.07.2026 10:39:24 | ТАСС

ЦБ купил юани на 4,8 млрд рублей с расчетами 29 июля
30.07.2026 10:38:32 | ТАСС

Чемпионат Южной Азии по футболу впервые может пройти без Непала после решения ФИФА
30.07.2026 10:37:52 | ТАСС

Fox: в США арестовали более 900 причастных к торговле людьми во время ЧМ-2026
30.07.2026 10:37:29 | ТАСС

В Удмуртии начали мониторинг качества воздуха после возгорания на Wildberries
30.07.2026 10:37:05 | ТАСС

Грохот на несколько километров: Мощный взрыв в Польше оставил воронку в земле
30.07.2026 10:36:53 | Life.ru

СБ назвал число трудовых мигрантов, которые являются квалифицированными специалистами
30.07.2026 10:36:34 | ТАСС

Стало известно о массовых обысках на Украине
30.07.2026 10:36:12 | Lenta.ru

Больницы Подмосковья получили более 220 единиц техники для спасения недоношенных детей
30.07.2026 10:36:00 | ТАСС

Свищев назвал вредительством гонения на фигуриста Петренко
30.07.2026 10:35:46 | ТАСС

В Курганской области объявили угрозу беспилотной опасности
30.07.2026 10:35:36 | ТАСС

Латвийскую чемпионку мира возмутили связанные с россиянами действия властей
30.07.2026 10:35:28 | Lenta.ru

В ДНР сбили дрон ВСУ с фугасной боеголовкой
30.07.2026 10:35:22 | ТАСС

Сальдо: ВСУ начали минировать дороги с помощью туш животных
30.07.2026 10:34:47 | ТАСС

Врач рассказал об опасных жировых отложениях на теле и способе от них избавиться
30.07.2026 10:34:47 | Lenta.ru

Россияне застряли без еды и воды в самолете после приземления в аэропорту Подмосковья
30.07.2026 10:33:58 | Lenta.ru

Молодой мужчина пожаловался на комок в горле и стал радиоактивным после лечения
30.07.2026 10:32:51 | Lenta.ru

Беспилотники ударили по порту Тамань // Прокуратура: в порту Тамань есть пострадавшие и повреждения из-за атаки БПЛА
30.07.2026 10:31:58 | Коммерсантъ

Здоровье не купишь! Как бедность разрушает мозг и провоцирует деменцию
30.07.2026 10:31:13 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro