Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Сканеры ML-моделей: разбор инструментов и некоторых методов обхода их проверок

20.01.2026 11:58:34 | Хабр

Хабы: Блог компании Positive Technologies, Информационная безопасность, Искусственный интеллект

Не у всех нас имеется достаточное количество ресурсов (вычислительных, умственных и других) для проектирования и обучения моделей машинного обучения с нуля. Поэтому кажется логичным взять уже готовые модели — к счастью, за нас многое уже сделано. Для понимания масштаба: на одном только HF уже доступно для скачивания более двух миллионов моделей.

Не все они были загружены авторитетными компаниями или экспертами, не все имеют десятки тысяч скачиваний в сутки. Даже изначально легитимные открытые репозитории могут оказаться источником риска. Компания Mitiga недавно поделилась статистикой о проценте репозиториев в мире AI/ML, содержащих уязвимости критического или высокого уровня опасности в GitHub Actions Workflows.

В этой статье я расскажу о том, какие существуют инструменты для проверки ML-моделей, как они сканируют артефакты различных ML-фреймворков, о том, какой еще функционал заложен в них. А в финале несколькими способами попробуем обойти проверки рассматриваемых инструментов.

Читать далее

Подробнее

Читайте также

[Перевод] Атомарные операции против мьютексов в Go: когда скорость становится проблемой
20.01.2026 11:57:40 | Хабр

Какими будут угрозы облачным средам в 2026 году — и как это повлияет на ИБ
20.01.2026 11:45:35 | Хабр

Эффект Зейгарник: многозадачность и продуктивность
20.01.2026 11:35:51 | Хабр

Процедурное SQL-расширение в Lakehouse-платформе – новые возможности для работы с данными
20.01.2026 11:32:37 | Хабр

Слово ректору: говорим про ННГУ, студентов, ИИ и будущее молодёжной науки
20.01.2026 11:25:28 | Хабр

Атом в Виртуальной Вселенной (Часть II)
20.01.2026 11:15:25 | Хабр

KodaCode для JetBrains IDE [Beta]: AI-помощник разработчика – бесплатно, без VPN, с поддержкой русского языка
20.01.2026 11:14:27 | Хабр

Мультизональный PostgreSQL своими руками: декомпозиция трудозатрат
20.01.2026 11:04:11 | Хабр

Стоматологи выяснили: курица, орехи и сыр защищают зубы от кариеса и налета
20.01.2026 11:01:38 | ferra.ru

Как строить карьеру в IT-маркетинге и коммуникациях
20.01.2026 10:59:38 | Хабр

Инсайд: Huawei выпустит новое поколение ноутбука с гибким экраном MateBook Fold
20.01.2026 10:58:43 | ferra.ru

Молодость не равно производительности: что я узнал о Gen Z в финтехе
20.01.2026 10:54:02 | Хабр

Конец эры «одноядерного» разума: Почему будущее ИИ — это гонка архитектур, а не параметров
20.01.2026 10:52:47 | Хабр

Годовая выручка OpenAI от регулярных платежей в 2025-м превысила $20 млрд
20.01.2026 10:52:15 | vc.ru

Как вжарить на С++ 23 или захватываем больницу и переписываем рантайм под Windows 95 и точка
20.01.2026 10:43:11 | Хабр

[Перевод] Лучшие устройства выставки «CES 2026» по версии портала «Tech Advisor»
20.01.2026 10:31:07 | Хабр

Я сделал AI-анализатор договоров и проверил его на 5 кейсах, где люди потеряли 1,6 млн
20.01.2026 10:21:38 | Хабр

[Перевод] Мультиагенты — это скрытые распределённые монолиты
20.01.2026 10:17:55 | Хабр

Домашняя рендер-ферма для Blender
20.01.2026 10:15:15 | Хабр

Складной смартфон с самой качественной камерой: HUAWEI Mate X7
20.01.2026 10:11:41 | ferra.ru

Почему большинство российских компаний не умеют разбирать инциденты?
20.01.2026 10:10:11 | Хабр

Как работать с Claude Code, Antigravity и Codex в 2026: база вайбкодинга
20.01.2026 10:05:21 | Хабр

Продажи электромобилей в России по итогам 2025 года упали на 30%, но рынок гибридов вырос на 9%
20.01.2026 10:04:24 | vc.ru

Микроэлектроника уходит под контроль «Сбера»: зачем АФК «Система» продала долю в ГК «Элемент»
20.01.2026 09:57:28 | it-world

Книга: «Go на практике. 2-е изд.»
20.01.2026 09:54:50 | Хабр

Лучшие нейросети для решения задач по фото: Как решать примеры и уравнения с помощью ИИ
20.01.2026 09:47:37 | Хабр

Дочерние процессы в Node.js
20.01.2026 09:47:06 | Хабр

Честный разговор о техническом долге (в цифрах)
20.01.2026 09:35:22 | Хабр

Детская дата-книжка “Кристина в стране диаграмм”
20.01.2026 09:24:00 | Хабр

Повторяющиеся задачи без RRULE: мой опыт реализации в своём таск-трекере
20.01.2026 09:21:42 | Хабр

Почему бизнес покупает технологии, но не получает результат
20.01.2026 09:17:55 | Хабр

Экспресс-анализ безопасности криптофлэшек: реальная защита или маркетинговый ход?
20.01.2026 09:07:47 | Хабр

Ловушка туториалов: почему просмотр видео не сделает вас программистом
20.01.2026 09:05:21 | Хабр

Новые CSS-фичи, появившиеся к началу 2026 года
20.01.2026 09:01:45 | Хабр

Как работают микросервисы. Сравниваю с биологией
20.01.2026 09:00:43 | Хабр

Смотреть все

НОВОСТИ

Ночной концерт у капота: чем опасна «чуткая» сигнализация
02.05.2026 03:28:42 | За рулем

Сикорский: Вопрос о пролёте борта Фицо в Россию через Польшу снят с повестки
27.04.2026 20:13:56 | Life.ru

Буданов и Федоров дистанцируются от Зеленского и ведут собственную игру
27.04.2026 20:13:00 | Российская Газета

Украинские дроны будут выпускаться в Норвегии
27.04.2026 20:12:00 | Российская Газета

47-летняя звезда сериала «Кухня» восхитила фанатов внешностью в мини-платье
27.04.2026 20:09:08 | Lenta.ru

В Европе резко раскритиковали решение ЕС против России
27.04.2026 20:08:39 | Lenta.ru

Goldman Sachs допустил рост цен на нефть Brent почти до 120 долларов за баррель
27.04.2026 20:08:11 | Life.ru

В Чечне на помощь семьям участников СВО направили более 3 млрд рублей
27.04.2026 20:07:54 | ТАСС

Лидер правящей фракции назвал слова посла в Грузии о "темном времени" оскорблением
27.04.2026 20:07:34 | ТАСС

Прием заявок на VII сезон чемпионата "АртМастерс" продлен до мая 2026 года
27.04.2026 20:07:21 | ТАСС

Житель Кубани осуждён на семь лет за подготовку теракта в местной администрации
27.04.2026 20:06:02 | Life.ru

Закрылся Udaff.com — культовый и скандальный сайт 2000-х. Он был территорией свободы и научил россиян говорить на «олбанском»
27.04.2026 20:05:56 | Lenta.ru

Женщина попыталась трижды расправиться с бывшим партнером и не преуспела
27.04.2026 20:05:55 | Lenta.ru

В Москве рекомендуют горожанам не выходить на улицы 28 апреля
27.04.2026 20:05:25 | ТАСС

Нефтяное пятно дотянулось до Сочи // Что происходит в Краснодарском крае из-за разлива нефти
27.04.2026 20:04:54 | Коммерсантъ

Родители пожаловались на плесень в детских пюре «Фрутоняня»
27.04.2026 20:04:50 | Life.ru

Франция изучит возможность производства баллистических ракет в Германии
27.04.2026 20:03:28 | Lenta.ru

Бывшая пресс-секретарь Зеленского призвала не верить воинстенным опросам Киева
27.04.2026 20:03:01 | Life.ru

Лежащее в машине с 12-летней российской школьницей ружье внезапно выстрелило
27.04.2026 20:02:03 | Lenta.ru

Заключительный этап Всероссийской олимпиады по истории показал активность регионов
27.04.2026 20:01:11 | ТАСС

Украинских полицейских отправят на полигоны после теракта в Киеве
27.04.2026 20:01:08 | ТАСС

Шуфутинский назвал истинно русский жанр музыки
27.04.2026 20:00:57 | Lenta.ru

Создатель ChatGPT разорвал соглашение с Microsoft
27.04.2026 20:00:29 | Lenta.ru

ICAN: отмена ядерного запрета в Финляндии приближает "ядерную зиму" в Европе
27.04.2026 20:00:01 | ТАСС

УК «Космосервис» переходит на прозрачную тарификацию и новые стандарты
27.04.2026 19:59:24 | РБК

Белоусов в Бишкеке провел переговоры с замминистра обороны Ирана
27.04.2026 19:58:38 | ТАСС

Музаев: домашнее задание нужно трансформировать с учетом технологий
27.04.2026 19:58:04 | ТАСС

Reuters: НАТО откажется от проведения саммитов из-за США
27.04.2026 19:58:00 | Российская Газета

В Москве завели еще одно дело против обвиняемого в убийстве женщины в офисе
27.04.2026 19:57:39 | ТАСС

В Одессе задержали ОПГ, использовавшую поддельные дипномера посольства США
27.04.2026 19:57:37 | ТАСС

В Полтавской области сотрудников СБУ задержали за вымогательство
27.04.2026 19:57:25 | ТАСС

Топливу подтянули лимиты // Предел снижения биржевых цен на бензин и дизтопливо сократили с 5% до 3%
27.04.2026 19:57:14 | Коммерсантъ

Яровая: отсрочка погашения бюджетных кредитов направлена на сбережение средств
27.04.2026 19:57:05 | ТАСС

Суд не стал взыскивать почти два миллиона со второй помощницы Блиновской
27.04.2026 19:56:58 | Life.ru

В Сумах произошел новый взрыв
27.04.2026 19:56:52 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro