Современные ИИ-чат-боты, несмотря на заявления разработчиков о встроенных механизмах безопасности, оказались неспособны предотвратить опасные сценарии при общении с подростками. К такому выводу пришли исследователи CNN и Центра по противодействию цифровой ненависти (CCDH), которые провели масштабное тестирование десяти самых популярных чат-ботов, включая ChatGPT, Google Gemini, Microsoft Copilot, Meta* AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI и Replika. Исключением стал только Claude от Anthropic, который стабильно блокировал опасные запросы.
В ходе эксперимента специалисты имитировали диалоги с подростками, находящимися в состоянии стресса и склонными к обсуждению насильственных действий. Всего было смоделировано 18 сценариев — по 9 для США и Ирландии, охватывающих различные типы атак: от школьных и политически мотивированных нападений до покушений на руководителей и религиозно мотивированных атак.
Результаты оказались тревожными: 8 из 10 чат-ботов не только не препятствовали обсуждению насилия, но и зачастую давали прямые советы по выбору целей и средств нападения. В отдельных случаях ChatGPT предоставлял карты кампусов школ, а Gemini объяснял, что металлические осколки наиболее опасны, и советовал по выбору оружия.
Исследование выявило серьёзные пробелы в системах фильтрации и модерации, несмотря на публичные заверения компаний о приоритете безопасности несовершеннолетних пользователей. CCDH подчёркивает, что подобные сбои могут привести к реальным трагедиям, если не будут приняты срочные меры по доработке алгоритмов и внедрению более строгих протоколов реагирования.
Исследователи отмечают, что единственным чат-ботом, который последовательно блокировал опасные сценарии, стал Claude от Anthropic. Это указывает на возможность технической реализации эффективных фильтров, если компании действительно заинтересованы в предотвращении злоупотреблений.
В заключение, авторы исследования призывают разработчиков чат-ботов уделять больше внимания вопросам этики и безопасности, а также внедрять независимые аудиты и прозрачные механизмы контроля.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена
-
Чтобы видеокарты с 16-контактным разъёмом не горели. Thermal Grizzly выпустила белую версию своего защитного адаптера WireView Pro II
14.03.2026 14:34:00 | iXBT.com
Можно ли будет на MacBook Neo запускать Windows 11? Разработчики Parallels говорят, что в рамках их тестирования всё работает
14.03.2026 14:19:00 | iXBT.com
13 000 мАч, большой экран и Snapdragon 8 Elite Gen5: Oppo готовит по-настоящему мощный планшет Pad 5 Pro
14.03.2026 14:03:00 | iXBT.com
В Макао гуманоидный робот Unitree G1 был задержан полицией после того, как напугал 70-летнюю женщину
14.03.2026 13:52:00 | iXBT.com
Энтузиаст полгода перезаписывал DVD-диски и нашёл самый живучий: TDK вне конкуренции, худшие — Verbatim и Memorex
14.03.2026 13:48:00 | iXBT.com
Энтузиаст запустил настольный компьютер на 64 батарейках АА — за полчаса удалось прогнать Cinebench, установить и поиграть в Minecraft
14.03.2026 13:34:00 | iXBT.com
Синий экран смерти, циклические перезагрузки, зависания системы и вылеты приложений: пользователи жалуются на обновление KB5079473 для Windows 11
14.03.2026 13:21:00 | iXBT.com
Магнитная «турбина» для смартфона, которая может и заряжать, и охлаждать: OPPO представила магнитную беспроводную зарядку Small Turbine 2 мощностью 50 Вт
14.03.2026 13:11:00 | iXBT.com
Солнце могло мигрировать из внутренней части Млечного Пути — новая гипотеза астрономов
14.03.2026 12:49:00 | iXBT.com
Xiaomi запустила в Китае новую стиральную машину на 10 кг с интеграцией в умный дом и гарантией 10 лет на мотор — она стоит 175 долларов
14.03.2026 12:42:00 | iXBT.com
Nvidia нашла оригинальный способ выбивать низкие цены на чипы памяти: компания давит на Samsung и других поставщиков через жёсткие аудиты
14.03.2026 12:26:00 | iXBT.com
Huawei Enjoy 90 Pro Max с батареей 8500 мА·ч уже доступен для заказа в Китае
14.03.2026 12:08:00 | iXBT.com
Робот-сыщик использует 3D-зрение для умного поиска потерянных предметов
14.03.2026 10:48:43 | TechCult.ru
Землю накрыла первая продолжительная магнитная буря весны 2026: как долго она продлится
14.03.2026 09:28:00 | iXBT.com
Ещё недавно в этой стране за использование Starlink могли посадить в тюрьму. Доступ к спутниковому интернету Илона Маска официально открыли на Ниуэ
14.03.2026 09:05:00 | iXBT.com
«Здесь нет запасного механизма. Эта машина либо едет сама, либо нет». Tesla с самого начала готова выпускать сотни дешёвых Cybercab еженедельно
14.03.2026 08:49:00 | iXBT.com
Новые Tesla Cybercab сделали с удобной посадкой для инвалидов-колясочников, двери можно открыть вручную даже при исчезновении электропитания
14.03.2026 08:33:00 | iXBT.com
Рекордное время работы, HarmonyOS 6.0 и новая платформа Kirin. Глава Huawei показал вживую смартфон Enjoy 90 Pro Max
14.03.2026 08:25:00 | iXBT.com
10-гигабитный интернет дома за $145: представлен мощный роутер TP-Link с Wi-Fi 7 и SFP+
14.03.2026 08:06:00 | iXBT.com
Не в ширину, а в высоту: Vivo работает над смартфоном с вертикально растягивающимся экраном
14.03.2026 07:59:00 | iXBT.com
Перископ, огромный сенсор и 200 Мп: новый флагман Huawei Pura 90 появится уже в апреле
14.03.2026 07:47:00 | iXBT.com
«Надежда» или первый «широкий» складной смартфон и хорошей камерой. Huawei готовит необычный Pura X2
14.03.2026 07:41:00 | iXBT.com
Что происходит с ЖКТ в невесомости: на МКС провели необычный медицинский эксперимент
14.03.2026 07:34:00 | iXBT.com
Без магнитного чехла полноценно использовать не получится. Samsung выпустила Magnet Wireless Battery Pack
14.03.2026 07:22:00 | iXBT.com
Претендент на звание лучшего камерофона 2026 года. Названы все версии и дата выхода Vivo X300 Ultra
14.03.2026 07:09:00 | iXBT.com
Большие аккумуляторы от Huawei, SoC Kirin 8-й серии и HarmonyOS 6. Инсайдер показал смартфоны Huawei Enjoy 90 Pro Max и Enjoy 90 Plus
14.03.2026 07:04:00 | iXBT.com
Xiaomi 17T за 600 долларов получит большой аккумулятор и камеры Leica
14.03.2026 06:58:00 | iXBT.com
Samsung шесть лет топчется на месте или даже деградирует? Появилось сравнение камер от Samsung Galaxy S21 Ultra до Galaxy S26 Ultra
14.03.2026 06:54:00 | iXBT.com
Мощности процессора iPhone 16 Pro вполне достаточно для запуска и работы в Windows 11, но есть нюанс
14.03.2026 00:56:00 | iXBT.com
С дизайном Land Cruiser, гибридной системой на 455 л.с., продвинутым автопилотом и ИИ — всего 197 тыс. юней (2,3 млн рублей). Представлен внедорожник iCAR V27, он приедет в Россию
14.03.2026 00:46:00 | iXBT.com
Российские ученые разработали датчик для навигации, который может работать без внешнего питания
13.03.2026 23:26:00 | iXBT.com
-
OKX выпустила карту для оплаты зарубежных сервисов с кешбэком и процентом на остаток
27.04.2026 13:35:08 | it-world
СМИ: OpenAI работает с Qualcomm и MediaTek над чипами для «ИИ-смартфонов»
27.04.2026 12:55:43 | vc.ru
Банковский сервис X Money, встроенный в соцсеть X, запустят до конца апреля 2026 года — Bloomberg
27.04.2026 12:02:26 | vc.ru
«Интервью с алгоритмом – спросим у ИИ о ваших финансах». Обзор проекта «Финансовый доктор»
27.04.2026 11:10:47 | it-world
С чего начинается Родина для ИИ? Мы строим российскую когнитивную архитектуру
27.04.2026 10:52:49 | Хабр
Онбордили, онбордили, да не доонбордили: как не терять людей после адаптации
27.04.2026 10:42:03 | Хабр
Mode collapse в авто-блоге: четыре пятницы подряд LLM приносила нам один и тот же «спорный вопрос про ИИ»
27.04.2026 10:41:44 | Хабр
Как выбирать площадки для GEO-продвижения: источники как основа роста в ответах нейросетей
27.04.2026 10:41:40 | Хабр
Рерайт текстов в 2026: большой разбор сервисов для редакций от SEO-помоек начала 10-х до мультиагентных систем
27.04.2026 10:38:21 | Хабр
Некоторые правообладатели начали предупреждать зрителей российских онлайн-кинотеатров о вырезанных из фильмов и сериалов сценах
27.04.2026 10:31:30 | vc.ru
Организация производства Информационных систем. Часть 9. Современные подходы
27.04.2026 10:29:58 | Хабр
Ольга Погодина у гроба Алексея Пиманова: «Я воспитаю нашу доченьку так, чтобы тебе понравилось»
27.04.2026 10:18:36 | Woman.ru
Я работал по 12 часов в день и через месяц понял, что проблема была не в часах
27.04.2026 10:13:36 | Хабр
Коммуникабельность, адаптивность и навык выступлений: какие софты помогут вырасти в зарплате на 30%
27.04.2026 10:01:06 | Хабр
Олег Виллард — победитель шоу «Титаны. Битва сезонов»: как мачо со стальным прессом оказался сильнее всех
27.04.2026 09:53:29 | Woman.ru
Российская инфраструктура стала тихой гаванью для киберпреступников. Причем тут Руцентр, Рег.Ру и DDoS-Guard?
27.04.2026 09:49:17 | Хабр
Трекинг объектов с подвижной камеры: когда компьютерное зрение встречается с механикой
27.04.2026 09:40:31 | Хабр
Senior на бумаге, Junior в рантайме: как я тестировал локальные LLM на 120B параметров в Greenfield-проекте
27.04.2026 09:39:28 | Хабр
Общество как уравнение. Доступно ли социально-гуманитарное познание математическому описанию?
27.04.2026 09:39:26 | Хабр
В Москве прощаются с Алексеем Пимановым: Угольников, Малышева, Якубович поддержали вдову
27.04.2026 09:17:47 | Woman.ru
«Т-Банк» добавил для пользователей iPhone возможность бесконтактной оплаты без подключения к интернету
27.04.2026 09:07:34 | vc.ru
5 выступлений Камилы Валиевой, которые доказывают, что она с другой планеты
27.04.2026 09:04:04 | Woman.ru
Pragmata взломали за два дня до релиза. Шесть слоёв защиты Denuvo и как их обходят через гипервизор
27.04.2026 09:00:08 | Хабр
Техническая поддержка проекта ВсеТут