Всё сильно поменялось: Google отказалась от обещаний не использовать ИИ для оружия и слежки

05.02.2025 08:14:00 | iXBT.com

Google отменила обязательство воздерживаться от использования ИИ в потенциально вредоносных целях, таких как оружие и наблюдение, о чем пишет CNBC.

В предыдущей версии принципов компании в области искусственного интеллекта говорилось, что компания не будет заниматься «оружием или другими технологиями, основной целью или реализацией которых является причинение или прямое содействие причинению вреда людям», а также «технологиями, которые собирают или используют информацию для наблюдения, нарушая международно признанные нормы». Эти цели больше не отображаются на веб-сайте «Принципы ИИ».

«Идет глобальная конкуренция за лидерство в области ИИ в условиях все более сложного геополитического ландшафта, — говорится в сообщении в блоге, написанном во вторник совместно с Демисом Хассабисом, генеральным директором Google DeepMind. — Мы считаем, что демократии должны лидировать в разработке ИИ, руководствуясь такими основными ценностями, как свобода, равенство и уважение прав человека».

Изображение Midjourney

Обновленные принципы компании отражают намерения Google предлагать свои технологии и услуги ИИ большему количеству пользователей и клиентов, включая правительства. Изменение также соответствует усиливающейся риторике лидеров Кремниевой долины о гонке ИИ между США и Китаем, где победитель получает все. Технический директор Palantir Шьям Санкар заявил в понедельник, что «это будут общенациональные усилия, которые выйдут далеко за рамки Министерства обороны, чтобы мы как нация победили».

В предыдущей версии принципов ИИ компании говорилось, что Google «будет учитывать широкий спектр социальных и экономических факторов». В новых принципах ИИ говорится, что Google «будет действовать там, где мы считаем, что общие вероятные выгоды существенно превышают прогнозируемые риски и недостатки».

Компания Google заявила, что будет «оставаться в соответствии с общепринятыми принципами международного права и прав человека — всегда оценивать конкретную работу, тщательно оценивая, перевешивают ли преимущества потенциальные риски».

Google установила свои принципы ИИ в 2018 году после отказа продлить государственный контракт под названием Project Maven, который помогал правительству анализировать и интерпретировать видео с дронов с использованием искусственного интеллекта. Перед расторжением сделки несколько тысяч сотрудников подписали петицию против контракта, а десятки уволились в знак протеста против участия Google. Компания также вышла из торгов за облачный контракт Пентагона на сумму 10 миллиардов долларов отчасти потому, что компания «не могла быть уверена», что он будет соответствовать принципам ИИ компании, о чем она заявила в то время.

Подробнее