Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Как защитить LLM-агентов от gradient-based adversarial attacks-атак: VRF + LoRA подход

29.07.2026 21:42:00 | Хабр

Хабы: Анализ и проектирование систем

Представьте LLM-агента, который читает торговые сигналы из публичных источников, анализирует их и принимает решение покупать/продавать токены. Каждый день он управляет миллионами долларов. Такие агенты встречаются везде: в Discord, Twitter, Telegram, на собственных серверах компаний.

Проблема? Как и большинство LLM-систем в production, они работают на открытых моделях - LLaMA, Mistral и т.д.

Открытая модель означает одно: атакующий может скачать её веса и локально оптимизировать адверсариальную атаку через градиентный спуск. И самое страшное - найденная атака будет работать на всех инстансах одновременно, независимо от платформы.

Это не персональный фишинг. Это архитектурная уязвимость класса adversarial attacks.

Читать далее

Подробнее

Читайте также

В России появятся повязки для быстрой остановки кровотечения
29.07.2026 21:24:25 | ferra.ru

Как я собрал на одном Angular коде: личный кабинет для сайта, Telegram Mini App, iOS и Android
29.07.2026 21:07:41 | Хабр

Платформа «МосМедИИ» заработала в 75 регионах России
29.07.2026 21:03:00 | ferra.ru

Postgresso #6 (91)
29.07.2026 20:59:35 | Хабр

6 ошибок миграции в Битрикс24 Диск, из-за которых портал приходится переделывать через полгода
29.07.2026 20:31:24 | Хабр

Российский космонавт рассказал о сложностях обучения ИИ для работы на МКС
29.07.2026 20:28:44 | ferra.ru

Дизайн как у Honor Power 2: в Сеть попали живые фото Huawei Nova 16 SE
29.07.2026 20:24:29 | ferra.ru

У MediaTek выйдет три версии процессора Dimensity 9600
29.07.2026 20:10:13 | ferra.ru

Глобальная Управляющая Система: интерпретация высшего разума через призму ТАУ и кибернетики
29.07.2026 20:07:19 | Хабр

Мой путь в имитационное моделирование: от физры до AnyLogic
29.07.2026 20:07:08 | Хабр

В России создали электронный испаритель анестетиков
29.07.2026 19:55:16 | ferra.ru

В МИСИС создали наночастицы, которые маскируются под рак и точечно доставляют лекарство
29.07.2026 19:40:00 | ferra.ru

ОДК изготовила четвертую серийную турбину большой мощности для энергетики
29.07.2026 19:26:45 | ferra.ru

Смартфоны Samsung Galaxy Z Flip 8 назвали более удобной заменой веб-камерам
29.07.2026 19:24:25 | ferra.ru

Как попасть в голосовые ответы Алисы — и почему разметка тут почти ни при чём
29.07.2026 19:15:14 | Хабр

Вторую фазу испытаний российского онкопрепарата оценили в 500 млн рублей
29.07.2026 18:55:00 | ferra.ru

В КБГУ разработали метод ускоренного отбора устойчивой к болезням кукурузы
29.07.2026 18:54:21 | ferra.ru

«Магнит Маркет» предупредил продавцов о приостановке работы «основной витрины» с 6 сентября 2026 года — он откажется от «стратегии универсального маркетплейса»
29.07.2026 18:31:57 | vc.ru

SpaceXAI Илона Маска подала в суд из-за запрета на «раздевающие» приложения в США
29.07.2026 18:24:21 | ferra.ru

В умные очки Samsung рядом с камерой встроят светодиод, загорающийся при съемке
29.07.2026 18:12:10 | ferra.ru

Nothing опровергла слухи об уходе с 12 рынков
29.07.2026 18:10:13 | ferra.ru

Вирус жёлтой лихорадки из вакцины подавил рак поджелудочной железы у мышей
29.07.2026 18:10:00 | ferra.ru

Как распознать резьбу без помощи ИИ
29.07.2026 18:08:21 | Хабр

Культовую The Elder Scrolls III: Morrowind перенесли в браузер
29.07.2026 17:43:48 | ferra.ru

В БФУ нейросеть обучили по голосу выявлять нарушения работы мозга
29.07.2026 17:25:00 | ferra.ru

Интеграция 1С: 6 разрывов между заказом, складом и оплатой
29.07.2026 17:12:11 | Хабр

В России создали антибактериальные мембраны для стетофонендоскопов
29.07.2026 17:02:04 | ferra.ru

В России разработали плазменный космический двигатель на криптоне
29.07.2026 16:53:27 | ferra.ru

Почему умные менеджеры выбирают неправильные фреймворки
29.07.2026 16:51:49 | Хабр

Учёные: в Ленобласти риск заражения клещевой инфекцией вдвое выше, чем в Петербурге
29.07.2026 16:40:00 | ferra.ru

Ученые МИСИС нашли способ повысить прочность сплавов для энергетики
29.07.2026 16:27:36 | ferra.ru

Рекурсия в RegEx с условиями выхода
29.07.2026 16:26:17 | Хабр

Меня сокращают. Что делать? Отвечаю на 7 самых частых вопросов
29.07.2026 16:19:00 | Хабр

Российские банки начинают большую криптогонку
29.07.2026 16:18:40 | it-world

Массовый сбой Xbox не давал играть даже с дисков
29.07.2026 16:10:20 | ferra.ru

Смотреть все

НОВОСТИ

«Молодой, глупый был»: Баста рассказал, о чём жалеет до сих пор
30.08.2026 13:49:56 | Life.ru

Рэпера Потапа задумали «разжаловать» на Украине за русский язык
30.08.2026 13:49:10 | Life.ru

Румыния подняла истребители F-16 из-за воздушной цели вблизи с украинской границой
30.08.2026 13:47:22 | Lenta.ru

Нурмагомедов заявил о желании вернуться в октагон
30.08.2026 13:46:26 | Lenta.ru

Дачники Петербурга и Ленобласти похвастались богатым урожаем и цветущими садами
30.08.2026 13:44:31 | Life.ru

В Киеве после утренней атаки потушили пожар на площади 3000 «квадратов»
30.08.2026 13:43:41 | Life.ru

В России с 1 сентября заработает новый ГОСТ на булочки, сдобу и лепёшки
30.08.2026 13:42:05 | Life.ru

Момент обрушения гигантского ледника в Гималаях попал на видео
30.08.2026 13:42:00 | Российская Газета

Дорогая оборона требует врага: Песков объяснил европейские страшилки о России
30.08.2026 13:38:41 | Life.ru

Песков: Армия России продвигается по всей линии фронта
30.08.2026 13:37:27 | Life.ru

Герой-учитель спас жизни более 1600 детей во время наводнения в Непале
30.08.2026 13:37:00 | Российская Газета

Baza: Российскую семью не выпускают из Таиланда из-за открытой двери такси
30.08.2026 13:36:00 | Российская Газета

«Заметен невооружённым взглядом»: Песков оценил эффект от «ударов возмездия» по Украине
30.08.2026 13:35:32 | Life.ru

Принцесса будет править: Как богатейшая династия монархов Европы незаметно укрепила власть
30.08.2026 13:34:46 | Life.ru

«Золотой полковник» Захарченко встретил 48-летие в ШИЗО из-за опоздания
30.08.2026 13:34:19 | Life.ru

Песков: Каждый день приближает поражение Украины, в Киеве это понимают
30.08.2026 13:32:50 | Life.ru

Песков заявил о системных ударах ВС РФ по военным объектам на Украине
30.08.2026 13:31:58 | Life.ru

Известный комик устроил хаос в студии канала и сорвал прямой эфир
30.08.2026 13:31:32 | Lenta.ru

50 россиян переплыли Дарданеллы
30.08.2026 13:29:41 | Life.ru

В Тибете после мощного селя погибли 16 человек, ещё 546 пропали
30.08.2026 13:28:09 | Life.ru

Два россиянина не пережили отравление самогоном
30.08.2026 13:26:55 | Lenta.ru

По факту смерти двух человек от отравления суррогатным спиртным в Туве завели дело
30.08.2026 13:25:51 | Коммерсантъ

Рыба дороже Брюсселя: Жители Исландии проголосовали против вступления в ЕС
30.08.2026 13:25:47 | Life.ru

«Никогда не заходит солнце»: Кожемяко и Лимаренко рассказали, как работают с «отстающей» по времени Москвой
30.08.2026 13:23:17 | Life.ru

Самолет со 190 людьми на борту потерял герметичность на высоте 10 тысяч метров
30.08.2026 13:23:15 | Lenta.ru

Самолет с 184 пассажирами на борту потерял герметичность на высоте 10 тысяч метров
30.08.2026 13:23:00 | Lenta.ru

Рэпер Icegergert сомневается, что концерты Канье Уэста в России состоятся
30.08.2026 13:22:52 | Life.ru

Госдолг Украины может вырасти до $240 млрд к концу 2026 года
30.08.2026 13:21:15 | Life.ru

Число жертв наводнения в Непале и Китае достигло 750 человек. Последние данные
30.08.2026 13:21:00 | Российская Газета

Почти 300 кошек и собак вылечили от рака на ядерном реакторе в Сибири
30.08.2026 13:19:46 | Life.ru

Россиянин съездил в Египет и заразился неизвестной болезнью
30.08.2026 13:19:33 | Lenta.ru

Из ржи, гречки, овса или проса: В России с 2027 года вступает новый ГОСТ на пиво
30.08.2026 13:19:09 | Life.ru

Украинцы жалуются на опустевшие полки сетевых супермаркетов в Киеве и Львове
30.08.2026 13:17:00 | Российская Газета

Советник Зеленского пожаловался на тактику ударов беспилотников России
30.08.2026 13:16:00 | Lenta.ru

Российский посол заявил о провокации в мире эскалации со стороны НАТО
30.08.2026 13:15:23 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro