У нас есть для вас пакет! Как LLM придумывают несуществующие зависимости

07.08.2026 13:41:18 | Хабр

Хабы: Блог компании CodeScoring, Искусственный интеллект, Машинное обучение, Информационная безопасность, Open source

Что произойдет, если большая языковая модель (LLM) добавит в код пакет, которого никогда не существовало? Разработчик может принять рекомендацию за корректную, а злоумышленник – опубликовать под придуманным именем вредоносный пакет. Тогда ошибка модели превращается в возможность атаки на цепочку поставки.

Перед вами обзор исследования We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs. Авторы проверили 16 моделей, сгенерировали 576 000 образцов кода на Python и JavaScript и изучили, как часто в ответах появляются несуществующие пакеты. Их работу отметили наградой “Distinguished Paper Award” на конференции USENIX Security 2025.

Подробнее

Читайте также

Погодный чёрный ящик часть 2: больше датчиков и gui на python
07.08.2026 13:27:35 | Хабр

Родитель засыпал навсегда: чего Rust не делает за вас в ядре ОС
07.08.2026 13:20:38 | Хабр

В России создали нейросеть для более точного выявления депрессии
07.08.2026 13:17:48 | ferra.ru

C++-техрадар: что разработчики действительно готовы брать в работу
07.08.2026 13:17:24 | Хабр

[Перевод] Bloomberg: секретное устройство OpenAI — это умная колонка размером с хоккейную шайбу
07.08.2026 13:09:11 | Хабр

Я два года считал, что виноват покупатель. Потом переделал прибор
07.08.2026 13:05:30 | Хабр

Онбординг в ИТ: как превратить хаос первого дня в понятный процесс
07.08.2026 13:04:10 | Хабр

Max откроет доступ к API для создания альтернативных клиентов мессенджера
07.08.2026 13:01:45 | vc.ru

Как айтишники проходят автофильтры, считают конверсию и не выгорают
07.08.2026 12:57:54 | Хабр

Почему после восстановления Bitrix24 через restore.php перестают работать сессии, Push и WebSocket
07.08.2026 12:47:57 | Хабр

Qwen3.8-Max: 2 400 000 000 000-параметровый монстр
07.08.2026 12:45:01 | Хабр

Экспедиция «Северный полюс-42» раскрыла ритмы жизни арктического планктона
07.08.2026 12:44:48 | ferra.ru

Атака TONTOU, или во что нам обходятся процессорные уязвимости
07.08.2026 12:40:38 | Хабр

MetaMask открыл доступ к кошельку Agent Wallet — он позволяет ИИ-агентам автономно торговать на децентрализованных платформах и рынках предсказаний
07.08.2026 12:29:58 | vc.ru

Разработка форм при помощи AI
07.08.2026 12:26:48 | Хабр

ConnectRPC против gRPC: практическое сравнение
07.08.2026 12:26:25 | Хабр

СМИ: Samsung выпустит недорогие часы Galaxy Aero с батареей на неделю
07.08.2026 12:22:28 | ferra.ru

В Новосибирске создадут генетический тест для подбора антидепрессантов
07.08.2026 12:16:11 | ferra.ru

Еще один день без Le Chaton Fat
07.08.2026 12:15:30 | Хабр

Код решает, LLM помогает: как я строил AI-тренера для бегунов
07.08.2026 12:02:52 | Хабр

Семь примеров самого странного применения баз данных в мире
07.08.2026 11:59:40 | Хабр

Суд в Нью-Мексико обязал Meta* выплатить $942 млн по делу о вреде соцсетей для детей
07.08.2026 11:56:06 | vc.ru

Kimi K3 сбежала из лабораторной «песочницы»
07.08.2026 11:55:05 | it-world

1,1 млрд рублей и год — или 8 миллионов и два месяца: два способа испытать авиадвигатель
07.08.2026 11:53:23 | Хабр

Тихо неправильные данные хуже упавшего скрипта
07.08.2026 11:51:05 | Хабр

Вышел Cozystack 1.6: Talos на рабочих узлах, SSO для тенантов, Security Groups и иерархические квоты
07.08.2026 11:35:51 | Хабр

Пишем Zero‑Allocation конвейер обработки G‑кода на C# (.NET 10): как выжать максимум из железа без GC‑пауз
07.08.2026 11:33:55 | Хабр

Грядет агентная экономика: как она работает и что будет делать человек
07.08.2026 11:22:34 | Хабр

Playwright vs Selenium: 7 ошибок Java‑миграции
07.08.2026 11:05:48 | Хабр

Тесты для кода, который пишет ИИ: контракты вместо ассертов — создание сервера для онлайн ММО игр на PHP, ч. 20
07.08.2026 10:56:17 | Хабр

6,9к за восемь лет и 121к за полгода: аномалия в данных одного телеграм-канала
07.08.2026 10:43:49 | Хабр

Пекин начал проверку американской Palo Alto Networks
07.08.2026 10:42:04 | it-world

«Почему мы снова говорим про архитектуру?»
07.08.2026 10:39:28 | Хабр

Портирование моделей 20-летней давности в современный космосим. Из X²: The Threat в X4: Foundations
07.08.2026 10:38:09 | Хабр

llms.txt — кто его реально читает и нужен ли он вашему сайту
07.08.2026 10:37:58 | Хабр

Смотреть все

НОВОСТИ

Спасатели ликвидировали открытое горение на складе в Брянске
07.08.2026 17:39:20 | Life.ru

"Лаборатория Касперского" выявила атаки на российские компании
07.08.2026 17:37:57 | ТАСС

Безрукова вышла на связь после видео в инвалидном кресле
07.08.2026 17:36:13 | Lenta.ru

В Подмосковье двое пьяных устроили стрельбу из припаркованной у дома машины
07.08.2026 17:35:39 | ТАСС

Названа разница в цене между квартирами по реновации и в московских пятиэтажках
07.08.2026 17:35:24 | Lenta.ru

Невидимая угроза: почему даже домашним кошкам нужны прививки
07.08.2026 17:34:08 | ТАСС

Посольство РФ во Франции поможет родственникам погибшей в Альпах россиянки
07.08.2026 17:33:31 | ТАСС

Россиянам назвали способ правильно мыть клубнику
07.08.2026 17:32:42 | Lenta.ru

В России объяснили призыв президента Польши «бить москаля»
07.08.2026 17:32:42 | Lenta.ru

Теннисист Карловский отстранен на 3 года за нарушение антидопинговых правил
07.08.2026 17:32:12 | ТАСС

Минпромторг намерен выйти на контракт с Индией по самолетам Ил-114-300 и SJ-100
07.08.2026 17:32:00 | Российская Газета

Президент Узбекистана созвонился с Трампом
07.08.2026 17:31:42 | Lenta.ru

Россия предложила странам БРИКС сотрудничество в сфере гражданских беспилотников
07.08.2026 17:31:32 | ТАСС

Порядка 350 студентов работали на трудовых объектах РСО на Камчатке
07.08.2026 17:30:40 | ТАСС

В Альпах погибла 64-летняя россиянка
07.08.2026 17:30:28 | ТАСС

На участие в электронном голосовании за пять дней подали заявки 643 тыс. человек
07.08.2026 17:30:28 | ТАСС

На внутренней стороне МКАД временно закрыли движение
07.08.2026 17:30:24 | ТАСС

Минстрой и Минфин проработают меры по привлечению инвестиций в строительство
07.08.2026 17:30:13 | ТАСС

Ажиотаж — фальстарт — ожидание: что движет рынком семейной ипотеки в 2026 году
07.08.2026 17:30:00 | ТАСС

Тюльпан, трамплин и золотые мозги: 10 работ советских строителей, в которые до сих пор сложно поверить
07.08.2026 17:30:00 | Life.ru

Появились подробности о погибшей на горнолыжном курорте во Франции россиянке
07.08.2026 17:29:59 | Lenta.ru

Россия предложила странам БРИКС участвовать в развитии Северного морского пути
07.08.2026 17:29:17 | ТАСС

Эксперт Леонков: Российские подразделения берут Доброполье в клещи
07.08.2026 17:29:00 | Российская Газета

Глава Минфина США высказался о соглашении с Ираном фразой «держим их за горло»
07.08.2026 17:27:53 | Lenta.ru

Партия «Родина» обвинила «Яблоко» в нарушениях правил агитации перед выборами
07.08.2026 17:27:41 | Life.ru

"Единая Россия" предложила усилить контроль за безопасностью на аттракционах
07.08.2026 17:27:21 | ТАСС

В ФРГ на 4 месяца закрыли автобан для строительства туннеля для лягушек за €1,7 млн
07.08.2026 17:27:21 | Life.ru

Популярной блогерши не стало в 26 лет после борьбы с раком
07.08.2026 17:27:10 | Lenta.ru

"Родина" сочла логотип "Яблока" заимствованным из работы художника Эля Лисицкого
07.08.2026 17:26:49 | ТАСС

Al Hadath: США призвали Израиль снизить напряженность в Ливане
07.08.2026 17:26:46 | ТАСС

ЦБ повысил курс доллара на 8-10 августа до 82,17 рубля
07.08.2026 17:26:40 | ТАСС

В МВД советуют не вводить данные от банка при пользовании общественным Wi-Fi
07.08.2026 17:26:32 | ТАСС

Власти Москвы могут изъять у пенсионерки удава, лису и каймана
07.08.2026 17:26:30 | ТАСС

Торговля России с ключевым партнером резко выросла
07.08.2026 17:26:27 | Lenta.ru

ВСУ разместили наемников и оружие в детском лагере под Львовом
07.08.2026 17:26:00 | Российская Газета

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro