Илон Маск анонсировал человекоподобного робота, призванного помочь в выполнении тех повторяющихся, скучных задач, которые люди ненавидят делать. Маск предположил, что робот сможет сбегать за вас в продуктовый магазин, но, предположительно, он будет выполнять любое количество задач, связанных с ручным трудом.

Предсказуемо, социальные сети наполнились ссылками на ряд антиутопических фантастических фильмов о роботах, где все идет ужасно плохо.

Как бы ни вызывало беспокойство будущее роботов в таких фильмах, как "Я, робот", "Терминатор" и других, именно технологии, лежащие в основе реальных человекоподобных роботов, и намерения, стоящие за ними, должны вызывать беспокойство.

Робот Маска разрабатывается компанией Tesla. На первый взгляд, это отход от автомобильного бизнеса компании, если не учитывать, что Tesla не является типичным производителем автомобилей. Так называемый "Tesla Bot" - это концепция изящного человекоподобного робота весом 125 килограммов, который будет использовать автомобильный искусственный интеллект Tesla и технологии автопилота, чтобы планировать и следовать маршрутам, ориентироваться в дорожном движении - в данном случае, пешеходах - и избегать препятствий.

Если отбросить антиутопические научно-фантастические нотки, план имеет смысл, хотя и в рамках бизнес-стратегии Маска. Построенная среда создана людьми и для людей. И как утверждал Маск во время анонса Tesla Bot, успешные передовые технологии должны научиться ориентироваться в ней так же, как это делают люди.

Однако автомобили и роботы Tesla - это лишь видимые продукты более широкого плана, направленного на создание будущего, в котором передовые технологии освободят человека от биологических корней, объединив биологию и технологии. Ученые, изучающие этическое и социально ответственное развитие и использование новых технологий, считают, что этот план вызывает опасения, которые выходят за рамки спекулятивных фантастических страхов о сверхумных роботах.

Самоуправляемые автомобили, межпланетные ракеты и интерфейсы мозг-машин - это шаги к будущему, которое Маск представляет себе как спаситель человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой, люди будут работать в гармонии с разумными машинами и даже сливаться с ними.

Это будущее, которое, судя по различным начинаниям Маска, будет построено на наборе базовых взаимосвязанных технологий, включающих датчики, исполнительные механизмы, инфраструктуру энергии и данных, системную интеграцию и значительный прогресс в компьютерной мощности. Все это вместе составляет мощный набор инструментов для создания преобразующих технологий.

Маск представляет себе, как люди в конечном итоге преодолевают наше эволюционное наследие с помощью технологий, которые выходят за пределы человека, или "сверх" человека. Но прежде чем технология станет сверхчеловеческой, она должна стать человеческой - или, по крайней мере, быть спроектированной так, чтобы процветать в мире, спроектированном человеком.

Такой подход к инновациям, основанный на принципе "сделать технологию более человечной", лежит в основе технологий, используемых в автомобилях Tesla, включая широкое применение оптических камер. Они, будучи подключенными к "мозгу" ИИ, призваны помочь автомобилям автономно ориентироваться в дорожных системах, которые, по словам Маска, "разработаны для биологических нейронных сетей с оптическими имиджерами" - другими словами, для людей. По словам Маска, это небольшой шаг от вдохновленных человеком "роботов на колесах" к человекоподобным роботам на ногах.

Технология "полного самообучения" компании Tesla, включающая сомнительное название Autopilot, является отправной точкой для разработчиков Tesla Bot. Эта технология впечатляет, но она оказалась не совсем надежной. Аварии и смертельные случаи, связанные с режимом автопилота Tesla - последний из них связан с тем, что алгоритмы не могут распознать припаркованные автомобили экстренных служб - ставят под сомнение целесообразность столь скорого выпуска этой технологии на рынок.

Такой послужной список не сулит ничего хорошего человекоподобным роботам, работающим по той же технологии. Однако дело не только в правильности технологии. Сбои в работе автопилота Tesla усугубляются поведением людей. Например, некоторые водители Tesla относились к своим усовершенствованным технологиями автомобилям как к полностью автономным транспортным средствам и не уделяли должного внимания вождению. Может ли что-то подобное произойти с Tesla Bot?

В своей работе, посвященной социально полезным технологическим инновациям, ученые особенно интересуются "сиротскими" рисками - рисками, которые трудно оценить количественно и легко упустить из виду, но которые неизбежно ставят в тупик инноваторов.

Бот Tesla Bot поставляется с целым портфелем бесхозных рисков. К ним относятся возможные угрозы неприкосновенности частной жизни и автономности, поскольку бот собирает, делится и действует на основе потенциально чувствительной информации; проблемы, связанные с тем, как люди будут думать о человекоподобных роботах и реагировать на них; потенциальные несоответствия между этическими или идеологическими взглядами - например, при борьбе с преступностью или поддержании порядка во время гражданских протестов; и многое другое. Это проблемы, которые редко рассматриваются в ходе обучения инженеров, но их игнорирование может привести к катастрофе.

Хотя бот Tesla может показаться доброкачественным - или даже немного шуточным - для того, чтобы он был полезным и коммерчески успешным, его разработчики, инвесторы, будущие потребители и другие должны задавать жесткие вопросы о том, как он может угрожать тому, что для них важно, и как справиться с этими угрозами.

Эти угрозы могут быть как специфическими, когда люди вносят несанкционированные изменения, повышающие производительность робота - например, заставляют его двигаться быстрее, чем предполагалось конструкторами, - не задумываясь о рисках, так и общими, когда технология может быть использована в качестве оружия новыми способами. Они также могут быть такими тонкими, как то, как человекоподобный робот может угрожать безопасности рабочих мест, или как робот, включающий в себя передовые системы наблюдения, может подорвать неприкосновенность частной жизни.

Кроме того, существуют проблемы технологической предвзятости, которые уже некоторое время беспокоят ИИ, особенно в тех случаях, когда это приводит к выученному поведению, которое оказывается в высшей степени дискриминационным. Например, алгоритмы ИИ выдают сексистские и расистские результаты.

Бот Tesla может показаться маленьким шагом на пути к видению Маском сверхчеловеческих технологий, и его легко списать не более чем на хвастливую показуху. Но дерзкие планы, лежащие в его основе, серьезны - и они вызывают не менее серьезные вопросы.

Например, насколько ответственно видение Маска? Только потому, что он может работать над созданием будущего своей мечты, кто сказал, что он должен это делать? Является ли будущее, к которому стремится Маск, лучшим для человечества или даже хорошим? И кто будет страдать от последствий, если все пойдет не так?

Это те глубокие вопросы, которые вызывает Tesla Bot у меня как у человека, изучающего и пишущего о будущем и о том, как наши действия влияют на него. Это не значит, что Tesla Bot - плохая идея, или что Илон Маск не должен иметь возможность поразмять свои мышцы для создания будущего. При правильном использовании эти идеи и технологии могут открыть будущее, полное перспектив, для миллиардов людей.

Но если потребители, инвесторы и другие ослеплены блеском новых технологий и пренебрегают шумихой и не видят общей картины, общество рискует отдать будущее в руки богатых новаторов, чье видение превосходит их понимание. Если их видение будущего не совпадает с тем, к чему стремится большинство людей, или катастрофически ошибочно, они рискуют встать на пути построения справедливого и равноправного будущего.

Возможно, именно этот урок из антиутопических научно-фантастических фильмов о будущем роботов люди должны вынести для себя, когда бот Tesla переходит от идеи к реальности - не более очевидные проблемы создания человекоподобных роботов, которые разгуливают на свободе, а гораздо более серьезная проблема решения вопроса о том, кто получит право представлять будущее и участвовать в его построении.