Google отказывается от обещания не использовать ИИ для оружия и наблюдения

08.02.2025 13:38:00 | iXBT.com

В минувший вторник компания Google отказалась от своего обещания не использовать искусственный интеллект для разработки оружия и систем наблюдения.

Ещё в 2018 году Google оказалась под серьёзным давлением после того, как стало известно о контракте компании с Министерством обороны США по проекту Maven, использующему ИИ для анализа изображений с дронов. Вскоре после этого Google выпустила заявление, излагающее «наши принципы», которые включали обещание не допустить использования их ИИ для технологий, «причиняющих или способных причинить общий вред», оружия, наблюдения и всего, что «противоречит общепринятым принципам международного права и прав человека».

Фото: Jason Alden / Bloomberg

Однако теперь на веб-странице с этим заявлением от 2018 года, автором которого является генеральный директор Сундар Пичаи, появилась заметка в верхней части страницы: «Мы обновили наши принципы ИИ», направляющая читателей на сайт AI.Google для ознакомления с последними изменениями.

Все упоминания о неиспользовании ИИ для оружия и наблюдения исчезли. Вместо этого перечислены три принципа, главным из которых является «Смелые инновации».

«Мы разрабатываем ИИ, который помогает, расширяет возможности и вдохновляет людей практически во всех областях человеческой деятельности; стимулирует экономический прогресс; улучшает жизнь, способствует научным прорывам и помогает решать самые большие проблемы человечества», – гласит веб-сайт.

Под заголовком об инновациях можно найти обещание разрабатывать ИИ там, «где вероятные общие преимущества существенно перевешивают предсказуемые риски». В остальной части раздела упоминается «передний край исследований ИИ» и надежда на возможность «ускорить научные открытия».

Второй раздел, озаглавленный «Ответственная разработка и внедрение», затрагивает вопросы этики ИИ, но в гораздо более мягкой форме, чем то, что компания публиковала в 2018 году. Компания заявила, что верит в «применение строгого проектирования, тестирования, мониторинга и мер защиты для смягчения непреднамеренных или вредных последствий и избежания несправедливой предвзятости».

Другие изменения более тонкие. Ранее компания заявляла: «мы не будем разрабатывать или внедрять ИИ» для «технологий, цель которых противоречит общепринятым принципам международного права и прав человека». Теперь упоминание о правах человека обещает, что компания будет «внедрять соответствующий человеческий надзор, должную осмотрительность и механизмы обратной связи для согласования с целями пользователей, социальной ответственностью и общепринятыми принципами международного права и прав человека». Это небольшое изменение, но оно гипотетически оставляет гораздо больше пространства для манёвра.

Компания также заявляет, что будет «продвигать конфиденциальность и безопасность, а также уважать права интеллектуальной собственности», возможно, признавая, что многие инструменты ИИ были обучены на огромных объёмах материалов, защищённых авторским правом.

Подробнее