01.12.2025 12:47:00
| iXBT.com
Компания Microsoft недавно заявила, что собирается сделать из Windows 11 агентскую ОС, а потом и вовсе запустила соответствующую тестовую функцию. Теперь вот оказалось, что с этими самыми ИИ-агентами есть проблемы: они галлюцинируют и в целом создают новые риски для безопасности.
Компания опубликовала целое предупреждение о таких нюансах, которые пользователи должны учитывать.
Сегодня агентный ИИ обладает мощными возможностями — например, он может выполнять множество сложных задач в ответ на запросы пользователя, преобразуя взаимодействие пользователей со своими компьютерами. Несмотря на внедрение этих возможностей, модели ИИ по-прежнему сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут создавать галлюцинации и выдавать неожиданные результаты. Кроме того, приложения агентного ИИ создают новые риски безопасности, такие как внедрение через перекрестные запросы (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносного ПО
Компания объясняет, что должны делать агенты и где сейчас есть проблемы с безопасностью и призывает пользователей ознакомиться с этими деталями. Учитывая саму основу текущих моделей ИИ, пока неясно, сможет ли Microsoft решить эту проблему на 100% в ближайшее время.
Читайте также
-
Ничего личного, просто бизнес: подразделение Samsung по производству памяти не горит желание поставлять чипы памяти для смартфонов Samsung Galaxy
01.12.2025 12:46:00 | iXBT.com
7000 мАч, 100 Вт, тройная 50-мегапиксельная камера и 100-кратный зум, IP69 и 7 лет обновлений. Глобальная версия флагманского смартфона iQOO 15 поступила в продажу
01.12.2025 12:43:00 | iXBT.com
Стало известно, насколько большой аккумулятор получит суперфлагман Vivo X300 Ultra
01.12.2025 12:30:00 | iXBT.com
Li Auto сдаёт позиции, продажи просели на треть за год. Компания продаёт меньше машин, чем новичок рынка Xiaomi
01.12.2025 12:27:00 | iXBT.com
«Первый в мире шлем с дополненной реальностью». Представлен GT-Air 3 Smart
01.12.2025 12:18:00 | iXBT.com
Сколько минимально денег нужно россиянину для покупки нового авто. Опубликован ТОП-10 самых дешёвых машин на начало зимы
01.12.2025 12:13:00 | iXBT.com
Британский автопром загибается: выпуск машин сократился с 1,5 млн до 700 тыс. машин за последние семь лет
01.12.2025 12:10:00 | iXBT.com
В «Шедевруме» Яндекса теперь можно зарабатывать на сгенерированных ИИ картинках и видео
01.12.2025 11:53:00 | iXBT.com
Назначение без пояснений: российского космонавта на следующем корабле Crew Dragon поменяли
01.12.2025 11:49:00 | iXBT.com
Рама, полный привод, 8-ступенчатый «автомат», официальная гарантия 3 года — и цена на 300 тыс. рублей ниже. Внедорожники Foton Tunland V7 и V9 подешевели в России
01.12.2025 11:47:00 | iXBT.com
«Это очень плохой показатель». Глава Минпромторга назвал средний возраст машин в РФ
01.12.2025 11:46:00 | iXBT.com
144-тонная конструкция на Байконуре упала с большой высоты, доступа к МКС пока нет: появились подробности о повреждениях после последнего запуска «Союза»
01.12.2025 10:43:00 | iXBT.com
Первый подключаемый гибрид Geely с официальной гарантией в России 6 лет или 150 000 км. Автомобили Geely EX5 EM-i, которые могут проехать почти 1000 км на полном баке, поступили в продажу
01.12.2025 10:29:00 | iXBT.com
Так снимает первый в мире смартфон на Snapdragon 8 Gen 5. Опубликованы фото с камеры OnePlus Ace 6T
01.12.2025 10:06:00 | iXBT.com
Представлен смартфон Lotus Diplomat в духе BlackBerry, с физической клавиатурой, 24 ГБ ОЗУ и 1,5 ТБ флеш-памяти
01.12.2025 10:06:00 | iXBT.com
В Санкт-Петербурге наблюдаются массовые перебои в работе мобильного Интернета и мессенджеров
01.12.2025 09:53:00 | iXBT.com
Солнце снова «взрывается»: после нескольких недель затишья зафиксирована новая вспышка высшего класса X
01.12.2025 09:50:00 | iXBT.com
Urus от мира смартфонов. Motorola Edge 70 Ultra получит новейшую однокристальную систему Snapdragon 8 Gen 5
01.12.2025 09:50:00 | iXBT.com
Kia Soluto за 8 млн тенге (1,2 млн рублей) официально вышел на рынок Казахстана
01.12.2025 09:27:00 | iXBT.com
Современный проектор на Android с Wi-Fi 6 и лампой, рассчитанной на 30 000 часов — дешевле $80. Представлен TecSox Aura
01.12.2025 09:10:00 | iXBT.com
Snapdragon 8 Elite Gen 5, 200 Мп и батарея 7100 мАч с зарядкой 100 Вт. Honor выпускает Magic 8 Pro на мировом рынке
01.12.2025 09:06:00 | iXBT.com
Какие смартфоны покупали в России осенью 2025: Realme, Redmi и Tecno лидировали по штукам, Apple и Samsung — по выручке
01.12.2025 09:00:00 | iXBT.com
Россияне переключились с Zeekr 001 и Li Auto L7 на «Амберавто А5» и Voyah Free — теперь это новые лидеры рынка электромобилей и гибридов
01.12.2025 08:58:00 | iXBT.com
Xiaomi 17 Ultra получит переработанную камеру Leica с новым покрытием, 1-дюймовый сенсор и аккумулятор до 7000 мАч
01.12.2025 08:44:00 | iXBT.com
iPhone 17 не просто удался — запуск позволил Apple установить абсолютный рекорд по доле рынка
01.12.2025 08:32:00 | iXBT.com
Экраны Huawei Mate 80 Pro Max и Samsung Galaxy S25 Ultra сравнили между собой
01.12.2025 08:27:00 | iXBT.com
Новая подвеска, полный привод и увеличенные размеры, с официальной гарантией в России. Полный список оснащения нового Changan CS75 Plus
01.12.2025 08:16:00 | iXBT.com
ЛЕНТА
-
В Санкт-Петербурге импортозаместили титановые трубы для флота и атомной отрасли
03.03.2026 23:03:00 | ferra.ru
CJM для аналитика: что это, зачем нужно и как строить на данных (с примерами SQL скриптов)
03.03.2026 20:56:24 | Хабр
В соцсетях новый «вирусный» формат генераций Seedance 2.0 — героев мелодрам и боевиков заменяют на реалистичных котов
03.03.2026 20:55:58 | vc.ru
Акции Pinterest выросли на 7% после новостей, что Elliott Investment Management инвестирует в компанию $1 млрд
03.03.2026 20:32:59 | vc.ru
Пять ресторанов с постным меню и один гастроужин, на котором точно стоит побывать
03.03.2026 20:20:43 | Woman.ru
Покупатели AliExpress выбрали топ-10 смартфонов зимы — среди них нет ни одного Samsung
03.03.2026 20:00:45 | ferra.ru
6520 мАч, Dimensity 7100 Elite, 2К AMOLED: недорогой Honor 600 Lite раскрыт до анонса
03.03.2026 19:33:22 | ferra.ru
Цифра дня: сколько процентов россиян «попадаются» на ИИ-контент ежедневно
03.03.2026 19:30:57 | ferra.ru
Assassin’s Creed: Shadows — проливая свет. Художественный обзор и внутреннее устройство игры. Guest Post
03.03.2026 19:11:19 | Хабр
BYD обошла Tesla по продажам в 22 странах в период с 2020-го по 2025 год — Nikkei
03.03.2026 18:51:16 | vc.ru
[Перевод] Уволить 40% штата из-за ИИ: как плохой менеджмент прячут за красивыми технологиями
03.03.2026 18:13:23 | Хабр
Дива Собчак, Карпуть в подиумном луке и совсем взрослая Кассель прогулялись по саду Тюильри на шоу Dior
03.03.2026 18:01:43 | Woman.ru
Криптовалюту на $ 5 миллионов украли у полиции из-за фото в пресс-релизе
03.03.2026 17:34:04 | ferra.ru
СМИ: Samsung Galaxy S27 Ultra получит «почти 1-дюймовую камеру на 200 Мп»
03.03.2026 17:33:18 | ferra.ru
Рулет из лаваша с копченым куриным филе, морковкой по-корейски и сыром
03.03.2026 17:00:00 | SAY7.INFO
Ягоды или листья: названа польза облепихового чая — читать на Gastronom.ru
03.03.2026 17:00:00 | ГАСТРОНОМЪ
От Vibe Coding к Agentic Engineering: что изменилось в ИИ-разработке за 1 год
03.03.2026 16:57:52 | Хабр
ПИШИТЕ
Техническая поддержка проекта ВсеТут