Илон Маск анонсировал человекоподобного робота, призванного помочь в выполнении тех повторяющихся, скучных задач, которые люди ненавидят делать. Маск предположил, что робот сможет сбегать за вас в продуктовый магазин, но, предположительно, он будет выполнять любое количество задач, связанных с ручным трудом.
Предсказуемо, социальные сети наполнились ссылками на ряд антиутопических фантастических фильмов о роботах, где все идет ужасно плохо.
Как бы ни вызывало беспокойство будущее роботов в таких фильмах, как "Я, робот", "Терминатор" и других, именно технологии, лежащие в основе реальных человекоподобных роботов, и намерения, стоящие за ними, должны вызывать беспокойство.
Робот Маска разрабатывается компанией Tesla. На первый взгляд, это отход от автомобильного бизнеса компании, если не учитывать, что Tesla не является типичным производителем автомобилей. Так называемый "Tesla Bot" - это концепция изящного человекоподобного робота весом 125 килограммов, который будет использовать автомобильный искусственный интеллект Tesla и технологии автопилота, чтобы планировать и следовать маршрутам, ориентироваться в дорожном движении - в данном случае, пешеходах - и избегать препятствий.
Если отбросить антиутопические научно-фантастические нотки, план имеет смысл, хотя и в рамках бизнес-стратегии Маска. Построенная среда создана людьми и для людей. И как утверждал Маск во время анонса Tesla Bot, успешные передовые технологии должны научиться ориентироваться в ней так же, как это делают люди.
Однако автомобили и роботы Tesla - это лишь видимые продукты более широкого плана, направленного на создание будущего, в котором передовые технологии освободят человека от биологических корней, объединив биологию и технологии. Ученые, изучающие этическое и социально ответственное развитие и использование новых технологий, считают, что этот план вызывает опасения, которые выходят за рамки спекулятивных фантастических страхов о сверхумных роботах.
Человек с большими планами
Самоуправляемые автомобили, межпланетные ракеты и интерфейсы мозг-машин - это шаги к будущему, которое Маск представляет себе как спаситель человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой, люди будут работать в гармонии с разумными машинами и даже сливаться с ними.
Это будущее, которое, судя по различным начинаниям Маска, будет построено на наборе базовых взаимосвязанных технологий, включающих датчики, исполнительные механизмы, инфраструктуру энергии и данных, системную интеграцию и значительный прогресс в компьютерной мощности. Все это вместе составляет мощный набор инструментов для создания преобразующих технологий.
Маск представляет себе, как люди в конечном итоге преодолевают наше эволюционное наследие с помощью технологий, которые выходят за пределы человека, или "сверх" человека. Но прежде чем технология станет сверхчеловеческой, она должна стать человеческой - или, по крайней мере, быть спроектированной так, чтобы процветать в мире, спроектированном человеком.
Такой подход к инновациям, основанный на принципе "сделать технологию более человечной", лежит в основе технологий, используемых в автомобилях Tesla, включая широкое применение оптических камер. Они, будучи подключенными к "мозгу" ИИ, призваны помочь автомобилям автономно ориентироваться в дорожных системах, которые, по словам Маска, "разработаны для биологических нейронных сетей с оптическими имиджерами" - другими словами, для людей. По словам Маска, это небольшой шаг от вдохновленных человеком "роботов на колесах" к человекоподобным роботам на ногах.
Легче сказать, чем сделать
Технология "полного самообучения" компании Tesla, включающая сомнительное название Autopilot, является отправной точкой для разработчиков Tesla Bot. Эта технология впечатляет, но она оказалась не совсем надежной. Аварии и смертельные случаи, связанные с режимом автопилота Tesla - последний из них связан с тем, что алгоритмы не могут распознать припаркованные автомобили экстренных служб - ставят под сомнение целесообразность столь скорого выпуска этой технологии на рынок.
Такой послужной список не сулит ничего хорошего человекоподобным роботам, работающим по той же технологии. Однако дело не только в правильности технологии. Сбои в работе автопилота Tesla усугубляются поведением людей. Например, некоторые водители Tesla относились к своим усовершенствованным технологиями автомобилям как к полностью автономным транспортным средствам и не уделяли должного внимания вождению. Может ли что-то подобное произойти с Tesla Bot?
Сиротские риски Tesla Bot
В своей работе, посвященной социально полезным технологическим инновациям, ученые особенно интересуются "сиротскими" рисками - рисками, которые трудно оценить количественно и легко упустить из виду, но которые неизбежно ставят в тупик инноваторов.
Бот Tesla Bot поставляется с целым портфелем бесхозных рисков. К ним относятся возможные угрозы неприкосновенности частной жизни и автономности, поскольку бот собирает, делится и действует на основе потенциально чувствительной информации; проблемы, связанные с тем, как люди будут думать о человекоподобных роботах и реагировать на них; потенциальные несоответствия между этическими или идеологическими взглядами - например, при борьбе с преступностью или поддержании порядка во время гражданских протестов; и многое другое. Это проблемы, которые редко рассматриваются в ходе обучения инженеров, но их игнорирование может привести к катастрофе.
Хотя бот Tesla может показаться доброкачественным - или даже немного шуточным - для того, чтобы он был полезным и коммерчески успешным, его разработчики, инвесторы, будущие потребители и другие должны задавать жесткие вопросы о том, как он может угрожать тому, что для них важно, и как справиться с этими угрозами.
Эти угрозы могут быть как специфическими, когда люди вносят несанкционированные изменения, повышающие производительность робота - например, заставляют его двигаться быстрее, чем предполагалось конструкторами, - не задумываясь о рисках, так и общими, когда технология может быть использована в качестве оружия новыми способами. Они также могут быть такими тонкими, как то, как человекоподобный робот может угрожать безопасности рабочих мест, или как робот, включающий в себя передовые системы наблюдения, может подорвать неприкосновенность частной жизни.
Кроме того, существуют проблемы технологической предвзятости, которые уже некоторое время беспокоят ИИ, особенно в тех случаях, когда это приводит к выученному поведению, которое оказывается в высшей степени дискриминационным. Например, алгоритмы ИИ выдают сексистские и расистские результаты.
Только потому, что мы можем, должны ли мы это делать?
Бот Tesla может показаться маленьким шагом на пути к видению Маском сверхчеловеческих технологий, и его легко списать не более чем на хвастливую показуху. Но дерзкие планы, лежащие в его основе, серьезны - и они вызывают не менее серьезные вопросы.
Например, насколько ответственно видение Маска? Только потому, что он может работать над созданием будущего своей мечты, кто сказал, что он должен это делать? Является ли будущее, к которому стремится Маск, лучшим для человечества или даже хорошим? И кто будет страдать от последствий, если все пойдет не так?
Это те глубокие вопросы, которые вызывает Tesla Bot у меня как у человека, изучающего и пишущего о будущем и о том, как наши действия влияют на него. Это не значит, что Tesla Bot - плохая идея, или что Илон Маск не должен иметь возможность поразмять свои мышцы для создания будущего. При правильном использовании эти идеи и технологии могут открыть будущее, полное перспектив, для миллиардов людей.
Но если потребители, инвесторы и другие ослеплены блеском новых технологий и пренебрегают шумихой и не видят общей картины, общество рискует отдать будущее в руки богатых новаторов, чье видение превосходит их понимание. Если их видение будущего не совпадает с тем, к чему стремится большинство людей, или катастрофически ошибочно, они рискуют встать на пути построения справедливого и равноправного будущего.
Возможно, именно этот урок из антиутопических научно-фантастических фильмов о будущем роботов люди должны вынести для себя, когда бот Tesla переходит от идеи к реальности - не более очевидные проблемы создания человекоподобных роботов, которые разгуливают на свободе, а гораздо более серьезная проблема решения вопроса о том, кто получит право представлять будущее и участвовать в его построении.
Многие биологи считают, что есть, такие типы вирусов: бактериофаги или вирусы, заражающие бактерии. Когда ДНК этих вирусов попадает в клетку, она может содержать инструкции, позволяющие клетке выполнять новые трюки.
Могучая сила бактериальных вирусов
Бактериофаги, или сокращенно фаги, держат под контролем популяции бактерий как на суше, так и в море. Ежедневно они убивают до 40% бактерий в океанах, помогая контролировать цветение бактерий и перераспределение органических веществ.
Их способность избирательно убивать бактерии также радует врачей. Природные и сконструированные фаги успешно используются для лечения бактериальных инфекций, которые не поддаются антибиотикам. Этот процесс, известный как фаговая терапия, может помочь в борьбе с устойчивостью к антибиотикам.
Последние исследования указывают на еще одну важную функцию фагов: они могут быть самыми лучшими генетическими мастерами природы, создающими новые гены, которые клетки могут перестраивать для получения новых функций.
Фаги являются самой распространенной формой жизни на планете: в любой момент в мире насчитывается не один миллион - это единица с 31 нулем после нее. Как и все вирусы, фаги имеют высокую скорость репликации и мутации, то есть при каждом размножении они образуют множество вариантов с различными характеристиками.
Большинство фагов имеют жесткую оболочку, называемую капсидом, которая заполнена их генетическим материалом. Во многих случаях оболочка имеет больше места, чем требуется фагу для хранения ДНК, необходимой для его репликации. Это означает, что у фагов есть место для хранения дополнительного генетического багажа: генов, которые на самом деле не нужны для выживания фага и которые он может изменять по своему усмотрению.
Как бактерии перенастроили вирусный переключатель?
Чтобы понять, как это происходит, давайте более подробно рассмотрим жизненный цикл фага.
Фаги бывают двух основных видов: умеренные и вирулентные. Вирулентные фаги, как и многие другие вирусы, действуют по программе "вторжение-репликация-убийство". Они проникают в клетку, захватывают ее компоненты, создают свои копии и вырываются наружу.
Фаги умеренного типа, с другой стороны, играют в долгую игру. Они соединяют свою ДНК с ДНК клетки и могут лежать в спящем состоянии годами, пока что-то не вызовет их активацию. Тогда они возвращаются к вирулентному поведению: реплицируются и вырываются наружу.
Многие умеренные фаги используют повреждение ДНК в качестве пускового механизма. Это своего рода сигнал "Хьюстон, у нас проблема". Если ДНК клетки повреждается, это означает, что ДНК фага-резидента, скорее всего, будет повреждена следующей, поэтому фаг мудро решает перепрыгнуть на другой корабль. Гены, которые направляют фаг на репликацию и вырываются наружу, выключены, если не обнаружено повреждение ДНК.
Бактерии перенастроили механизмы, контролирующие этот жизненный цикл, чтобы создать сложную генетическую систему, которую ученые изучают уже более двух десятилетий.
Бактериальные клетки также заинтересованы в том, чтобы знать, не повреждается ли их ДНК. Если это так, они активируют набор генов, которые пытаются восстановить ДНК. Эта реакция известна как бактериальная реакция SOS, потому что если она не сработает, клетка погибнет. Бактерии организуют SOS-ответ с помощью белка, похожего на переключатель, который реагирует на повреждения ДНК: Он включается, если есть повреждение, и выключается, если его нет.
Возможно, что бактериальные и фаговые переключатели эволюционно родственны. В связи с этим возникает вопрос: Кто изобрел переключатель, бактерии или вирусы?
Предыдущие исследования и работы других исследователей показывают, что фаги сделали это первыми. В нашем недавнем докладе мы обнаружили, что SOS-реакция бактерий Bacteroidetes, группы бактерий, составляющих до половины бактерий, живущих в вашем кишечнике, находится под контролем фагового переключателя, который был перенастроен для реализации собственных сложных генетических программ бактерий. Это позволяет предположить, что бактериальные SOS-переключатели на самом деле являются фаговыми переключателями, которые были перенастроены много веков назад.
Не только бактериальные переключатели оказываются изобретениями фага. Прекрасная детективная работа показала, что бактериальный ген, необходимый для деления клеток, также возник в результате "одомашнивания" гена токсина фага. А многие системы бактериальной атаки, такие как токсины и генетическое оружие, используемое для их введения в клетки, а также камуфляж, который они используют для уклонения от иммунной системы, известны или подозреваются в фаговом происхождении.
Положительные стороны вирусов.
Хорошо, подумаете вы, фаги - это здорово, но вирусы, которые нас заражают - это, конечно, не круто. Тем не менее, появляется все больше доказательств того, что вирусы, заражающие растения и животных, также являются основным источником генетических инноваций в этих организмах. Например, было показано, что одомашненные вирусные гены играют ключевую роль в эволюции плаценты млекопитающих и в поддержании влажности кожи человека.
Последние данные свидетельствуют о том, что даже ядро клетки, в котором находится ДНК, также могло быть вирусным изобретением. Исследователи также предположили, что предки современных вирусов могли быть пионерами в использовании ДНК в качестве первичной молекулы для жизни. Не такой уж маленький подвиг.
Поэтому, хотя вы привыкли считать вирусы квинтэссенцией злодея, они, возможно, являются мощным двигателем генетических инноваций в природе. Люди существуют сегодня, скорее всего, благодаря им.
Этот прорыв в медицине обычно приписывают одному человеку, Фредерику Бантингу, который искал лекарство от диабета. Но создание надежного средства для лечения диабета зависело от исследований двух других ученых, Оскара Минковского и Сёрена Сёренсена, которые ранее проводили исследования на, казалось бы, несвязанные темы.
История инсулина иллюстрирует тот факт, что медицинские инновации строятся на фундаменте науки, а затем требуются квалифицированные инженеры, чтобы вывести лечение из лаборатории и доставить его людям, которые в нем нуждаются.
Эта идея, в некотором роде, заложена в правилах легкой атлетики. В соревнованиях с несколькими забегами - от студенческого уровня до Олимпийских игр - люди, показавшие более высокое время в ранних забегах, назначаются на средние дорожки в последующих забегах. Другими словами, самые быстрые бегуны получают вознаграждение в виде, как предполагается, лучших дорожек.
Моя недолгая беговая карьера давно позади, но в своей профессиональной деятельности я много думаю об использовании статистики для извлечения смысла из данных. В преддверии Олимпийских игр я решил проверить достоверность фольклора о распределении дорожек, оставшегося со времен моей спринтерской карьеры.
Используя данные Международной ассоциации легкоатлетических федераций за 20 лет, я обнаружил, что давние убеждения о преимуществе дорожки не подтверждаются данными. И на самом деле, в спринте на 200 метров данные свидетельствуют о том, что дорожки, которые часто воспринимаются как наименее желательные, на самом деле являются самыми быстрыми.
Первым шагом в создании модели затонувшего корабля было обучение компьютера тому, как выглядит затонувший корабль. Также важно было научить компьютер отличать затонувшие корабли от рельефа морского дна. Для этого понадобилось множество примеров кораблекрушений. Также нужно было научить модель тому, как выглядит естественное дно океана.
Удобно, что Национальное управление океанических и атмосферных исследований ведет общедоступную базу данных о затонувших кораблях. У нее также есть большая общедоступная база данных различных видов изображений, собранных по всему миру, включая сонарные и лидарные снимки морского дна.
Техническая поддержка проекта ВсеТут