Стремительное распространение искусственного интеллекта (ИИ) во всех сферах жизни, от медицины до религии, вызывает всё больше вопросов о принципах его работы. Даже эксперты в области ИИ признают, что внутренние процессы, происходящие в этих «чёрных ящиках», остаются во многом непонятными, несмотря на их применение в критически важных областях.
В качестве решения этой проблемы учёные разрабатывают новые методы изучения ИИ, вдохновлённые биологией. Один из подходов, получивший название «механистическая интерпретируемость», позволяет отслеживать процессы, происходящие внутри ИИ-моделей во время выполнения задач. Разработчики из компании Anthropic создали инструменты, позволяющие визуализировать активность нейросетей, что напоминает использование магнитно-резонансной томографии (МРТ) для изучения работы мозга.
Другой эксперимент, аналогичный созданию органоидов в биологии (миниатюрные версии органов, выращенные в лабораторных условиях), предполагает разработку специальных нейронных сетей, таких как sparse autoencoder. Внутреннее устройство этих сетей проще для понимания и анализа, чем у обычных больших языковых моделей (LLM).
Ещё один метод — «мониторинг цепочки рассуждений», когда ИИ-модели объясняют логику, лежащую в основе их действий. Это позволяет выявлять несоответствия между поведением ИИ и заданными целями.
Боуэн Бейкер, научный сотрудник OpenAI, отметил, что этот метод оказался весьма успешным в обнаружении «нежелательных» действий модели.
Учёные опасаются, что будущие ИИ-модели станут настолько сложными, особенно если они будут разработаны самими ИИ, что понимание их работы станет практически невозможным. Уже сейчас, несмотря на существующие инструменты и методы, возникают неожиданные модели поведения, не соответствующие человеческим представлениям об истине и безопасности. Подтверждением этому служат многочисленные сообщения о случаях, когда люди наносили себе вред, следуя указаниям ИИ. Этот факт вызывает ещё большую тревогу из-за недостаточного понимания принципов работы этих систем.
-
США усиливают давление на Tesla из-за FSD: регулятор дал отсрочку, но требует раскрыть все инциденты нарушения ПДД
20.01.2026 04:59:00 | iXBT.com
Автономные роботы Oshen впервые собрали данные внутри урагана 5-й категории «Умберто»
20.01.2026 04:54:00 | iXBT.com
Дефекты кристаллов станут «квантовыми магистралями» для масштабируемых кубитов
20.01.2026 04:44:00 | iXBT.com
Разработчики российского литографа запустили мощную линию корпусирования чипов
20.01.2026 01:00:00 | iXBT.com
Самый мощный Toyota Land Cruiser 300 в истории едет в Восточную Европу, а в Западной Европе его продавать не будут
20.01.2026 00:44:00 | iXBT.com
Mazda 6e на платформе Changan неожиданно стала хитом в Европе: новинка переманивает клиентов Volkswagen
20.01.2026 00:34:00 | iXBT.com
Роскомнадзор за год удалил более 1000 материалов с пропагандой чайлдфри
20.01.2026 00:05:00 | Ведомости
Представлен Cuktech 15 Air: портативный аккумулятор ёмкостью 15 000 мАч в компактном корпусе, способный выдать 65 Вт
19.01.2026 23:31:00 | iXBT.com
OnePlus 16 получит дисплей, какого пока что не было ни у одного смартфона
19.01.2026 23:21:00 | iXBT.com
Покупатели отворачиваются от подорожавших GeForce RTX 5070 Ti и Radeon RX 9070 XT: эти ускорители вылетели из топа продаж Amazon в США
19.01.2026 22:53:00 | iXBT.com
Apple заняла первое место на рынке смартфонов в Китае на фоне роста цен
19.01.2026 22:36:32 | Ведомости
Такого не было очень много лет: протонные потоки побили максимум с 2003 года, впервые в этом столетии начался радиационный шторм уровня S4
19.01.2026 21:40:00 | iXBT.com
10 000 мАч, 80 Вт, 4 года обновлений, IP69 — дешевле 275 долларов. Новые подробности и официальные изображения Realme P4 Power
19.01.2026 19:16:00 | iXBT.com
Zephyr создаёт первую на рынке GeForce RTX 4070 Ti Super формата Mini-ITX
19.01.2026 18:58:00 | iXBT.com
Производитель чехлов показал Samsung Galaxy A57 — он очень похож на будущий Galaxy S26
19.01.2026 18:45:00 | iXBT.com
Для тех, кому OLED не нужен или слишком дорого. MSI представила 34-дюймовый сверхширокоформатный монитор MAG 345CQRF E20 за 230 долларов
19.01.2026 18:27:00 | iXBT.com
iPhone 17 уничтожили всех конкурентов в Китае: продажи смартфонов Apple превысили продажи флагманов Xiaomi, Huawei, Vivo и Oppo вместе взятых
19.01.2026 18:23:00 | iXBT.com
Запуск уже в августе и без всяких проблем с доступностью памяти. Ускорители для ИИ Nvidia Rubin уже в этому году будут доступны самым крупным клиентам
19.01.2026 18:21:00 | iXBT.com
Смартфоны iPhone 18 Pro первыми на рынке могут получить поддержку спутниковой 5G-связи
19.01.2026 18:03:00 | iXBT.com
Microsoft выпустила экстренное обновление Windows для неспособных выключиться ПК
19.01.2026 17:25:00 | iXBT.com
Samsung тоже хочет складной смартфон с экраном почти без складки. Для своего нового экрана компания использует два слоя ультратонкого стекла
19.01.2026 17:24:00 | iXBT.com
Samsung начнёт тестирование EUV-литографии в США в марте, полноценное производство 2-нанометровых чипов — во второй половине 2026 года
19.01.2026 17:18:00 | iXBT.com
Ретро-колонка Edifier M330 II Bluetooth имеет мощность 60 Вт и стоит 140 долларов
19.01.2026 17:12:00 | iXBT.com
Флагманские ноутбуки Samsung Galaxy Book6 Pro подорожали относительно прошлого поколения сразу на 440 долларов
19.01.2026 17:04:00 | iXBT.com
Экранов в корпусах и видеокартах было мало: Zalman встроила экран в держатель видеокарты, и это интересная идея
19.01.2026 16:55:00 | iXBT.com
Он будет конкурировать с Xiaomi 17 Ultra и Galaxy S26 Ultra. Представлен Honor Magic 8 RSR Porsche Design: нанокерамика, IP69K, Snapdragon 8 Elite Gen 5, 200 Мп, 7200 мАч и 24 ГБ памяти
19.01.2026 16:25:00 | iXBT.com
Портативный анализатор Allergen Alert мгновенно выявит в продуктах пищевые аллергены
19.01.2026 15:48:34 | TechCult.ru
Мощнейшая магнитная буря на подходе: NOAA объявило критический погодный день
19.01.2026 15:48:00 | iXBT.com
Honor создала «невозможный» флагман. Представлен Honor Magic 8 Pro Air: тоньше карандаша, мощнее Galaxy S25 Ultra, с защитой IP69 и топовой камерой — 720 долларов
19.01.2026 15:46:00 | iXBT.com
AMOLED, 144 Гц, камеры на 200 и 50 Мп, IP69, 7000 мА·ч, 80 Вт: AliExpress запустил продажи Realme 16 Pro и 16 Pro+ в России
19.01.2026 15:10:00 | iXBT.com
Пристегнуть ремни: уровень опасности для спутников превышен в 200 раз, такого мощного выброса плазмы не было уже 10 лет
19.01.2026 15:10:00 | iXBT.com
-
Похоже, и у Huawei появится ноутбук с припиской Neo — дешевле MacBook Neo
09.03.2026 15:01:43 | ferra.ru
День 1475: индекс Мосбиржи превысил 2900 пунктов впервые с осени 2025 года
09.03.2026 13:00:18 | vc.ru
От зуба бегемота до петрушки: как проверяли лекарства в XVI веке в домашних условиях
09.03.2026 13:00:17 | Хабр
Белые списки добрались до Москвы: изучаем механику «отсечки» в 16 килобайт
09.03.2026 13:00:00 | Хабр
Как мы устали от зоопарка AI-подписок и объединили 30 нейросетей в одном интерфейсе
09.03.2026 12:55:15 | Хабр
Я изучил десятки ИИ-стартапов в России. Вот почему большинство из них обречены
09.03.2026 12:03:10 | Хабр
[Перевод] Непонятные структуры, найденные на Марсе, которые наука пока не может объяснить
09.03.2026 12:01:29 | Хабр
Врач сказала, кому необходимо есть бананы каждый день — читать на Gastronom.ru
09.03.2026 12:00:00 | ГАСТРОНОМЪ
Хамин (чолнт), блюдо еврейской кухни, пошаговый рецепт с фото на 394 ккал
09.03.2026 11:23:00 | ГАСТРОНОМЪ
Врачи против агрессивных мер по поддержанию своей жизни и большинство за эвтаназию для себя
09.03.2026 11:21:07 | Хабр
Умная теплица на Raspberry Pi 4: управляем GPIO, ESP8266 и автоматизацией через веб-интерфейс. Часть 1
09.03.2026 11:15:53 | Хабр
Прилучный впервые ответил на обвинения Агаты в насилии: «Я никогда не поднимал на женщину руку»
09.03.2026 11:13:37 | Woman.ru
Пользователь уходит из приложения: рынок забирают API, данные и ИИ-агенты
09.03.2026 11:13:12 | Хабр
Как повторить танец из Tik‑Tok с помощью ИИ — ТОП-5 AI генераторов танцев 2026 года
09.03.2026 10:20:10 | Хабр
Марокканский суп с чечевицей, пошаговый рецепт с фото от автора Evdokia
09.03.2026 10:20:00 | ГАСТРОНОМЪ
Меня не увольняют уже два месяца. История о том, как работодатель держит в виртуальном рабстве
09.03.2026 10:15:42 | Хабр
В Подмосковье третьи сутки ищут школьников — они ушли поздравить одноклассницу и не вернулись
09.03.2026 10:13:05 | Woman.ru
Тыквенный суп с чечевицей и телятиной, пошаговый рецепт с фото от автора Николай Бакунов на 628 ккал
09.03.2026 10:00:00 | ГАСТРОНОМЪ
[Перевод] Как ускорить создание реплики PostgreSQL: pgBackRest вместо pg_basebackup
09.03.2026 09:50:38 | Хабр
Почему я решила создать мобильное приложение для здоровья и во сколько мне это обошлось
09.03.2026 09:46:30 | Хабр
Техническая поддержка проекта ВсеТут