Идея создания мыслящей машины удивительна. Это было бы похоже на создание людьми искусственной жизни, только более впечатляюще, потому что мы бы создали сознание. Или нет?
Заманчиво думать, что машина, способная мыслить, будет мыслить как мы. Но немного размышлений показывают, что это не является неизбежным выводом.
Для начала нам лучше уточнить, что мы подразумеваем под словом "думать". Сравнение с человеческим мышлением может быть интуитивно понятным, но как насчет мышления животных? Думает ли шимпанзе? Думает ли ворона? Думает ли осьминог?
Возможно, существуют даже инопланетные разумные существа, которых мы даже не распознаем как таковых, потому что они так радикально отличаются от нас. Возможно, мы могли бы проходить мимо друг друга в непосредственной близости, каждый из которых не знал бы о существовании другого и не имел бы возможности вступить в контакт.
Безусловно, животные, кроме человека, обладают когнитивными способностями, направленными на понимание инструментов и причинно-следственных связей, общение и даже на распознавание направленного и целенаправленного мышления у других. Мы, вероятно, считали бы все это мышлением.
И давайте посмотрим правде в глаза: если бы мы создали машину, которая делала бы все вышеперечисленное, мы бы похлопали себя по спине и сказали "миссия выполнена". Но может ли машина пойти еще дальше и стать похожей на человеческий разум? Более того, как мы узнаем, что это так?
Если компьютер ведет себя так, как будто у него есть разум, это не значит, что он обязательно им обладает. Возможно, это только показуха, а не сущность, пример философского зомби.
Именно эта идея побудила британского взломщика кодов и математика Алана Тьюринга придумать свой знаменитый "тест Тьюринга", в котором компьютер взаимодействовал с человеком через экран, и чаще всего человек не знал, что это компьютер. Для Тьюринга имело значение только поведение, не было никакой вычислительной "внутренней жизни", о которой можно было бы беспокоиться.
Но эта внутренняя жизнь имеет значение для некоторых из нас. Философ Томас Нагель сказал, что существует "нечто, на что это похоже" - иметь сознательный опыт. Есть что-то, что похоже на то, как видеть красный цвет или кататься на водных лыжах. Мы - нечто большее, чем просто состояние нашего мозга.
Может ли когда-нибудь существовать "нечто, на что это похоже", чтобы быть мыслящей машиной? В воображаемом разговоре с первой разумной машиной человек мог бы спросить: "Ты сознателен?", на что она могла бы ответить: "Откуда мне знать?".
Является ли мышление просто вычислением?
Под капотом компьютерного мышления, как мы его сейчас себе представляем, находятся одни лишь вычисления. Речь идет о вычислениях в секунду и количестве потенциальных вычислительных путей.
Но мы вовсе не уверены, что мышление или сознание - это функция вычислений, по крайней мере, так, как это делает двоичный компьютер. Может ли мышление быть чем-то большим, чем просто вычисления? Что еще необходимо? И если все дело в вычислениях, то почему человеческий мозг так плох в этом?
Большинство из нас не в состоянии перемножить в голове пару двузначных чисел, не говоря уже о выполнении триллионов вычислений в секунду. Или же существует какая-то глубокая обработка данных, которая происходит ниже нашего сознания и в конечном итоге приводит к тому, что наше сознание арифметически неполноценно (аргумент так называемого сильного ИИ)?
Вообще говоря, то, в чем компьютеры хороши, например, в манипулировании необработанными данными, люди делают довольно плохо; а то, в чем компьютеры плохи, например, язык, поэзия, распознавание голоса, интерпретация сложного поведения и вынесение целостных суждений, люди делают довольно хорошо.
Если аналогия между человеческим и компьютерным "мышлением" настолько плоха, зачем ожидать, что компьютеры в конечном итоге будут думать, как мы? Или, может быть, компьютеры будущего утратят свои характерные арифметические способности по мере развития сознания?
Вера, сомнение и ценности
Далее у нас есть такие слова, как "вера" и "сомнение", которые характерны для человеческого мышления. Но что может означать для компьютера верить во что-то, кроме тривиального значения, что он действует в неведении относительно возможности того, что он может ошибаться? Другими словами, может ли компьютер искренне сомневаться, а потом все равно действовать?
Когда речь заходит о вопросах ценности, о том, что мы считаем важным в жизни и почему, интересно рассмотреть две вещи. Первый - способен ли мыслящий компьютер приписать ценность чему-либо вообще. Второй - если бы он мог приписать ценность чему-либо, что бы он выбрал? Кажется, здесь следует быть немного осторожными, даже не вдаваясь в возможность механической свободы воли.
Было бы неплохо запрограммировать в компьютере систему ценностей в человеческом стиле. Но, с одной стороны, мы не совсем понимаем, что это такое и как это можно сделать, а с другой стороны, если компьютеры начнут программировать сами себя, они могут решить иначе.
Хотя думать обо всем этом очень весело, нам следует потратить немного времени на то, чтобы понять, какими мы хотим видеть мыслящие компьютеры. И, возможно, следует потратить немного больше времени на то, чтобы понять самих себя, прежде чем мы начнем развиваться.
Но кое-что должно произойти до этого. Весь этот процесс основывается на жизненно важной, необходимой, драгоценной способности зародить эти идеи. И, к сожалению, мы очень мало говорим об этом творческом ядре науки: воображении того, какими могут быть невидимые структуры в мире.
Мы должны быть более открытыми в этом вопросе. Мне неоднократно доводилось слышать от школьников, что их оттолкнуло от науки то, "что там не было места для моего собственного творчества". Что же мы сделали для того, чтобы у них сложилось такое шаблонное представление о том, как работает наука?
Наука и поэзия
Биолог XX века Питер Медавар был одним из немногих авторов последнего времени, кто вообще обсуждал роль творчества в науке. Он утверждал, что мы тихо стыдимся этого, потому что имагинативная фаза науки вообще не имеет "метода".
Медавар столь же критично относится к легкомысленным сравнениям научного творчества с источниками художественного вдохновения. Потому что в то время, как источники художественного вдохновения часто передаются - "путешествуют" - научное творчество в значительной степени является частным. Ученые, утверждает он, в отличие от художников, не делятся своими предварительными фантазиями или моментами вдохновения, а только отшлифованными результатами завершенных исследований.
Что, если Медавар прав. По большому счету поэты по-прежнему не пишут о науке. Наука также не является "объектом созерцания", как выразился историк Жак Барзун. Однако те немногие ученые, которые рассказывали о своем опыте формулировки новых идей, не сомневаются в его созерцательной и творческой сущности. Эйнштейн в своей книге "Эволюция физики", написанной совместно с физиком Леопольдом Инфельдом: “Воображение важнее знаний. Знания ограничены. Воображение охватывает весь мир.”
Истории о творчестве
Я попросил знакомых мне ученых рассказать не только о результатах своих исследований, но и о том, как они к ним пришли. В качестве своего рода "контрольного эксперимента" я проделал то же самое с поэтами, композиторами и художниками.
Я читал рассказы о творчестве в математике, написании романов, искусстве, а также участвовал в двухдневном семинаре по творчеству с физиками и космологами. Философия, от средневековой до феноменологии 21-го века, может многое добавить.
Из всех этих историй возник другой способ думать о том, чего достигает наука и где она находится в нашей долгой человеческой истории - не только как путь к знаниям, но и как созерцательная практика, которая удовлетворяет человеческие потребности, дополняя искусство или музыку. Прежде всего, я не мог отрицать, что личные истории создания нового тесно примыкают друг к другу, будь то попытка создать серию произведений искусства из смешанных материалов, отражающих страдания войны, или желание узнать, какое астрономическое событие привело к появлению беспрецедентных рентгеновских и радиосигналов.
Общий контур повествования о мелькающей и желаемой цели, борьбе за ее достижение, переживании ограничений и тупиков, и даже загадочные моменты "ага", которые говорят о скрытых и подсознательных процессах мышления, выбирающих свои моменты для передачи в наше сознание - все это история, общая как для ученых, так и для художников.
Возникли три "способа" воображения, которыми пользуются и наука, и искусство: визуальный, текстовый и абстрактный. Мы мыслим картинками, словами и абстрактными формами, которые мы называем математикой и музыкой. Для меня становится все более очевидным, что разделение "двух культур" между гуманитарными и естественными науками - это искусственное изобретение конца 19 века. Возможно, лучший способ решить эту проблему - просто игнорировать ее и начать больше разговаривать друг с другом.
Это первый пункт Хартии сострадания. Хартия была разработана в 2008 году под руководством Карен Армстронг, бывшей монахини. Она использовала средства, полученные от премии за лучший доклад на TED в 2008 году, для создания международной рабочей группы по разработке хартии.
В 2010 году австралийский парламент стал первым парламентом в мире, признавшим Хартию сострадания.
Учитывая политический подход, выработанный сменявшими друг друга австралийскими правительствами к людям, ищущим убежища в этой стране, кажется, что проще подписать такие документы, чем воплотить в жизнь принципы, лежащие в их основе.
Сегодня более 270 городов и сообществ по всей Азии, Европе, Канаде, США и Африке (включая Мельбурн и Сидней) используют хартию для построения нового видения своего общества. Движимые древним и универсальным "золотым правилом" - относиться к другим так, как ты хотел бы, чтобы относились к тебе, - сообщества людей по всему миру берут на себя обязательства сделать сострадание движущей силой, оказывающей заметное влияние на жизнь общества и на благополучие всех его членов.
Потребление как реальность и метафора действует на многих уровнях - личном, общественном и экономическом. Но самое главное - оно приводит к глубоким последствиям для планеты и ее ресурсов.
Годовщина Дня Земли - подходящий повод для того, чтобы более широко и глубоко задуматься о том, что означают эти модели потребления для нас, наших сообществ и планеты Земля.
Философы любят жаловаться на плохие рассуждения. Как могут другие люди совершать такие глупые заблуждения? Разве они не видят, насколько произвольны и непоследовательны их позиции? Разве контрпримеры не очевидны? После жалоб философы часто обращаются к юмору. Представляете, что они сказали! Ха, ха, ха. Давайте посмеемся над этими глупыми людьми [...] Это выбивает нас из колеи отчасти потому, что они не могут затронуть нас: мы не можем учиться у других, если считаем их недостойными пристального внимания и милосердной интерпретации. Эта тенденция также выводит нас из контакта с обществом, потому что мы не можем коснуться их: они не будут слушать нас, если мы открыто демонстрируем свое презрение к ним.
От этих слов я неловко дернул себя за воротник. За день до этого я обрушился на комментаторов в блоге The Stone газеты New York Times, где Джастин Макбрейер попытался ответить на вопрос: почему наши дети не считают, что существуют моральные факты?
Вы можете не соглашаться с конкретикой причинно-следственного утверждения Макбрейера о том, что то, как этика обсуждается в школах, способствует всеобщему моральному антиреализму (грубо говоря, мнению, что во вселенной нет моральных фактов), но он прав в том, что антиреализм, похоже, является для многих людей мнением по умолчанию, даже если их выбор и поступки свидетельствуют об обратном.
Как я уже говорил, это моя больная тема. Моральный антиреализм может оказаться правдой, но это не просто очевидная правда. Можно прочитать столько эссе и комментариев в Интернете, в которых люди даже не понимают предположения о том, что этика может быть более чем субъективной, прежде чем это начнет вас задевать.
Поэтому страница за страницей комментариев к статье Макбрейера, настаивающих на том, что моральных фактов, конечно же, не существует, и нелепо, что так называемый философ может думать иначе, заставили меня огрызнуться. Вот почему, - усмехнулся я, - мы не можем иметь приятные вещи. Вот профессиональный философ-моралист пытается объяснить вопрос, относящийся к его компетенции, а его отвергают, даже принижают, люди, которые явно даже не понимают, о чем он говорит. Почему люди просто игнорируют его слова? Стали бы они так поступать с ученым, хирургом или юристом?
Ну да, конечно, поступили бы. Мы живем в эпоху, когда каждый, пребывая в заблуждении, что он всегда и везде имеет право на собственное мнение, считает себя вправе сказать экспертам, что они категорически неправы в своей области знаний. Так что это во многом проблема степени, а не вида.
Но отрицатели науки разных мастей - антивакцинаторы, отрицатели климата, фальсификаторы 9/11, сторонники синдрома ветряных турбин - обычно хотя бы на словах стараются играть в эту игру. Они приводят (плохие) аргументы, ссылаются на (сомнительные) источники и вообще пытаются создать впечатление, что занимаются наукой лучше, чем настоящие ученые.
Отрицание философии, как мне кажется, - это несколько иной зверь. Отрицатели философии - включая удручающее количество высокопоставленных физиков - отрицают ценность философии как таковой, а не просто оспаривают конкретные философские утверждения.
И, как отмечает Синнот-Армстронг, во многом в этом виноваты сами философы. Он отмечает, что если ученые часто стараются объяснить широкой публике, чем они занимаются, то философы делают это не так часто:
В результате широкая публика часто воспринимает философию как непонятную игру, в которую неинтересно играть. Если философы не найдут способ объяснить важность философии, мы не должны удивляться, когда никто не поймет, почему философия важна.
К счастью, все больше и больше философов принимают этот вызов. Новый групповой блог, который вы сейчас читаете, надеется стать вкладом в это направление. В нем будут публиковаться статьи группы австралийских философов, приверженных идее, что философия не может быть только чисто абстрактным занятием, но должна быть связана с тем, как мы живем и что нас волнует.
Я говорю "должна" совершенно сознательно. Проще говоря, философия слишком хороша и слишком важна, чтобы держать ее взаперти в академии. Философия может казаться "непонятной игрой", но она также уникальна в своей способности освещать, усложнять и широко раскрывать то, что мы считаем устоявшимся и ясным.
Не менее важно и то, что в своих лучших проявлениях философское исследование физической, концептуальной, логической, эстетической и моральной вселенных оборачивается к самому вопрошающему. Она поощряет умственную деятельность, которую мы сегодня можем назвать метапознанием и соответствующей добродетелью метарациональности. Говоря более старым языком, она учит нас познавать самих себя и знать свои границы, как рассуждать и как определять границы нашей способности к этому. В основе философии лежит дельфийское изречение, которым мотивированы многие диалоги Платона: "познай самого себя".
Но вот появляются драконы.
В двадцати пяти канонических диалогах (и еще десяти сомнительного авторства) Платон изображает своего наставника Сократа на рыночной площади, задающим вопросы прохожим. Сократ говорит с позиции исповедуемого невежества. Он ничего не знает, но, по крайней мере, знает, что ничего не знает, что уже ставит его впереди соседей, которые ошибочно полагают, что знают очень много. И вот Сократ спрашивает своих сограждан-афинян о самых фундаментальных, казалось бы, очевидных вопросах. Затем, тщательно, проницательно и часто затягивая вопросы, он переворачивает их предвзятые представления, иногда превращая собеседников в недоумевающих и униженных обломков.
Все закончилось примерно так, как и следовало ожидать. Сократ считал себя "слепнем", которому суждено "жалить людей и приводить их в ярость, и все это ради истины". Оводы редко бывают желанными. В "Апологии", платоновском отчете о судебном процессе 399 года до н. э., на котором Сократ был приговорен к смерти за нечестие и развращение молодежи, Сократ описывает общую реакцию на свой метод:
...молодые люди из богатых слоев, которым нечем заняться, приходят ко мне по собственному желанию; им нравится слушать, как проверяют претендентов, и они часто подражают мне и сами проверяют других; есть много людей, как они вскоре обнаруживают, которые думают, что они что-то знают, но на самом деле знают мало или ничего: и тогда те, кого они проверяют, вместо того чтобы сердиться на себя, сердятся на меня (Апология 23c-d).
Сократ, надо сказать, не делает себе одолжений в "Апологии". Получив шанс вымолить свою жизнь, он просто удваивает то, из-за чего афиняне хотели убить его в первую очередь, а затем буквально требует награды за это. Однажды в начале лекции по "Апологии" я опросил студентов философского факультета, правильно ли поступили афиняне, казнив Сократа. Затем я опросил их по тому же вопросу, когда лекция закончилась. Во второй раз за смерть проголосовало чуть больше. Можно сделать вывод, что Сократ был просто очень раздражающим.
Но более глубокий смысл заключается в том, что то, что делает философию такой мощной, также является и тем, что делает ее такой неудобной: она растворяет очевидность. Она берет вещи, которые кажутся настолько безупречно самоочевидными, что мы их даже не замечаем, и подвергает их сомнению. Она сотрясает непоколебимое и исправляет неисправимое.
Это захватывает, освобождает, даже опьяняет; но это также тревожит и даже приводит в ярость. Обнаружить, что ты мог ошибаться в вещах, которые кажутся очевидными - например, в том, что моральных фактов не существует, - довольно неудобно. Ехидные комментарии к статье Макбрейера сродни нетерпению Нила Деграсса Тайсона и Лоуренса Краусса по поводу философских вопросов. Философия просто крутит колеса, мешает и тормозит нас.
Моя первая философская любовь, Сёрен Кьеркегор, пишет свой громоздкий шедевр "Заключительное ненаучное послесловие к философским фрагментам" от лица некоего Иоганна Климака, тридцатилетнего бездельника и сократовского овода. В век растущей рефлексии, утонченности и спешки Климакус, как отмечает Пол Муенч, выполняет миссию замедлить своего читателя. О, так вы думаете, что постигли основы, знаете, что к чему, и вам не терпится перейти к более сложным вопросам? Правда? Подожди немного, друг. Действительно ли ты понял, что такое добро, или как нужно жить, или что означает твоя смерть? Правда? А вы уверены?
Добро пожаловать в блог. Мы надеемся, что он будет мешать вам и замедлять ваше движение.
Техническая поддержка проекта ВсеТут