Учёные предупредили: автономные системы ИИ снижают аварии, но создают риски для экономики и этики

12.03.2025 18:39:00 | iXBT.com

Прогресс искусственного интеллекта в инженерии продолжает набирать обороты, однако масштабное внедрение технологии сопровождается не только прорывами, но и комплексными вызовами. Отправной точкой для дискуссии стал конкурс DARPA 2004 года, где автономные автомобили пытались преодолеть 150 миль по бездорожью — лучший результат тогда не превысил 8 миль. Всего через год пять машин завершили 132-мильную трассу, а сегодня беспилотные такси стали реальностью в десятках мегаполисов — от Сан-Франциско до Пекина.

В статье журнала PNAS Nexus группа учёных под руководством Рамы Челлаппы, Гуру Мадхавана, Эда Шлезингера и Джона Андерсона провела анализ потенциала ИИ в ключевых отраслях: от транспорта и роботизированной хирургии до разработки новых материалов. Авторы отмечают, что энтузиазм вокруг технологии часто игнорирует системные риски. Например, автономные системы демонстрируют меньший процент аварий по сравнению с человеческим управлением, что ставит вопрос: допустимо ли сохранять ручной контроль там, где ИИ объективно безопаснее?

Источник: Unsplash / CC0 Public Domain

Однако за технологическим оптимизмом скрываются фундаментальные проблемы. Модели на основе данных страдают от «смещения домена» (domain shift) — снижения точности при работе со входными данными, отличающимися от обучающей выборки. Алгоритмы уязвимы к атакам, когда минимальные изменения во входных сигналах (например, наклейки на дорожных знаках) дезориентируют системы. Более того, предвзятость решений, отсутствие объяснимости и этические дилеммы — от утечек персональных данных до автоматизации дискриминации — остаются нерешёнными.

Особое внимание авторы уделяют макроэкономическим последствиям. По их оценкам, внедрение ИИ-решений в промышленности и медицине может оставить без работы целые профессиональные группы, усиливая социальное неравенство. Это требует пересмотра не только технических стандартов, но и глобальных регуляторных рамок.

Учёные настаивают: разработка систем ИИ должна сопровождаться исследованиями в области управления рисками, включая перераспределение ответственности за решения алгоритмов, унификацию протоколов безопасности и создание международных правовых норм.

Как подчёркивают исследователи, успехи в закрытых лабораторных условиях не гарантируют устойчивости в реальном мире. Пример автономных авиационных систем иллюстрирует проблему: даже 99,9% надёжности недостаточно для отрасли, где каждая ошибка приводит к катастрофе.

«Эра автономных машин, принимающих решения без человека, уже наступила, — отмечают авторы. — Нам необходимы не просто инкрементальные улучшения алгоритмов, а принципиально новые подходы к их интеграции в социотехнические системы». Заключительный акцент сделан на необходимости междисциплинарного диалога: инженеры, юристы, экономисты и философы должны совместно разработать рамки, которые позволят использовать потенциал ИИ, минимизируя риски для человечества.

Подробнее