Идея создания мыслящей машины удивительна. Это было бы похоже на создание людьми искусственной жизни, только более впечатляюще, потому что мы бы создали сознание. Или нет?
Заманчиво думать, что машина, способная мыслить, будет мыслить как мы. Но немного размышлений показывают, что это не является неизбежным выводом.
Для начала нам лучше уточнить, что мы подразумеваем под словом "думать". Сравнение с человеческим мышлением может быть интуитивно понятным, но как насчет мышления животных? Думает ли шимпанзе? Думает ли ворона? Думает ли осьминог?
Возможно, существуют даже инопланетные разумные существа, которых мы даже не распознаем как таковых, потому что они так радикально отличаются от нас. Возможно, мы могли бы проходить мимо друг друга в непосредственной близости, каждый из которых не знал бы о существовании другого и не имел бы возможности вступить в контакт.
Безусловно, животные, кроме человека, обладают когнитивными способностями, направленными на понимание инструментов и причинно-следственных связей, общение и даже на распознавание направленного и целенаправленного мышления у других. Мы, вероятно, считали бы все это мышлением.
И давайте посмотрим правде в глаза: если бы мы создали машину, которая делала бы все вышеперечисленное, мы бы похлопали себя по спине и сказали "миссия выполнена". Но может ли машина пойти еще дальше и стать похожей на человеческий разум? Более того, как мы узнаем, что это так?
Если компьютер ведет себя так, как будто у него есть разум, это не значит, что он обязательно им обладает. Возможно, это только показуха, а не сущность, пример философского зомби.
Именно эта идея побудила британского взломщика кодов и математика Алана Тьюринга придумать свой знаменитый "тест Тьюринга", в котором компьютер взаимодействовал с человеком через экран, и чаще всего человек не знал, что это компьютер. Для Тьюринга имело значение только поведение, не было никакой вычислительной "внутренней жизни", о которой можно было бы беспокоиться.
Но эта внутренняя жизнь имеет значение для некоторых из нас. Философ Томас Нагель сказал, что существует "нечто, на что это похоже" - иметь сознательный опыт. Есть что-то, что похоже на то, как видеть красный цвет или кататься на водных лыжах. Мы - нечто большее, чем просто состояние нашего мозга.
Может ли когда-нибудь существовать "нечто, на что это похоже", чтобы быть мыслящей машиной? В воображаемом разговоре с первой разумной машиной человек мог бы спросить: "Ты сознателен?", на что она могла бы ответить: "Откуда мне знать?".
Является ли мышление просто вычислением?
Под капотом компьютерного мышления, как мы его сейчас себе представляем, находятся одни лишь вычисления. Речь идет о вычислениях в секунду и количестве потенциальных вычислительных путей.
Но мы вовсе не уверены, что мышление или сознание - это функция вычислений, по крайней мере, так, как это делает двоичный компьютер. Может ли мышление быть чем-то большим, чем просто вычисления? Что еще необходимо? И если все дело в вычислениях, то почему человеческий мозг так плох в этом?
Большинство из нас не в состоянии перемножить в голове пару двузначных чисел, не говоря уже о выполнении триллионов вычислений в секунду. Или же существует какая-то глубокая обработка данных, которая происходит ниже нашего сознания и в конечном итоге приводит к тому, что наше сознание арифметически неполноценно (аргумент так называемого сильного ИИ)?
Вообще говоря, то, в чем компьютеры хороши, например, в манипулировании необработанными данными, люди делают довольно плохо; а то, в чем компьютеры плохи, например, язык, поэзия, распознавание голоса, интерпретация сложного поведения и вынесение целостных суждений, люди делают довольно хорошо.
Если аналогия между человеческим и компьютерным "мышлением" настолько плоха, зачем ожидать, что компьютеры в конечном итоге будут думать, как мы? Или, может быть, компьютеры будущего утратят свои характерные арифметические способности по мере развития сознания?
Вера, сомнение и ценности
Далее у нас есть такие слова, как "вера" и "сомнение", которые характерны для человеческого мышления. Но что может означать для компьютера верить во что-то, кроме тривиального значения, что он действует в неведении относительно возможности того, что он может ошибаться? Другими словами, может ли компьютер искренне сомневаться, а потом все равно действовать?
Когда речь заходит о вопросах ценности, о том, что мы считаем важным в жизни и почему, интересно рассмотреть две вещи. Первый - способен ли мыслящий компьютер приписать ценность чему-либо вообще. Второй - если бы он мог приписать ценность чему-либо, что бы он выбрал? Кажется, здесь следует быть немного осторожными, даже не вдаваясь в возможность механической свободы воли.
Было бы неплохо запрограммировать в компьютере систему ценностей в человеческом стиле. Но, с одной стороны, мы не совсем понимаем, что это такое и как это можно сделать, а с другой стороны, если компьютеры начнут программировать сами себя, они могут решить иначе.
Хотя думать обо всем этом очень весело, нам следует потратить немного времени на то, чтобы понять, какими мы хотим видеть мыслящие компьютеры. И, возможно, следует потратить немного больше времени на то, чтобы понять самих себя, прежде чем мы начнем развиваться.
Это первый пункт Хартии сострадания. Хартия была разработана в 2008 году под руководством Карен Армстронг, бывшей монахини. Она использовала средства, полученные от премии за лучший доклад на TED в 2008 году, для создания международной рабочей группы по разработке хартии.
В 2010 году австралийский парламент стал первым парламентом в мире, признавшим Хартию сострадания.
Учитывая политический подход, выработанный сменявшими друг друга австралийскими правительствами к людям, ищущим убежища в этой стране, кажется, что проще подписать такие документы, чем воплотить в жизнь принципы, лежащие в их основе.
Сегодня более 270 городов и сообществ по всей Азии, Европе, Канаде, США и Африке (включая Мельбурн и Сидней) используют хартию для построения нового видения своего общества. Движимые древним и универсальным "золотым правилом" - относиться к другим так, как ты хотел бы, чтобы относились к тебе, - сообщества людей по всему миру берут на себя обязательства сделать сострадание движущей силой, оказывающей заметное влияние на жизнь общества и на благополучие всех его членов.
Потребление как реальность и метафора действует на многих уровнях - личном, общественном и экономическом. Но самое главное - оно приводит к глубоким последствиям для планеты и ее ресурсов.
Годовщина Дня Земли - подходящий повод для того, чтобы более широко и глубоко задуматься о том, что означают эти модели потребления для нас, наших сообществ и планеты Земля.
Философы любят жаловаться на плохие рассуждения. Как могут другие люди совершать такие глупые заблуждения? Разве они не видят, насколько произвольны и непоследовательны их позиции? Разве контрпримеры не очевидны? После жалоб философы часто обращаются к юмору. Представляете, что они сказали! Ха, ха, ха. Давайте посмеемся над этими глупыми людьми [...] Это выбивает нас из колеи отчасти потому, что они не могут затронуть нас: мы не можем учиться у других, если считаем их недостойными пристального внимания и милосердной интерпретации. Эта тенденция также выводит нас из контакта с обществом, потому что мы не можем коснуться их: они не будут слушать нас, если мы открыто демонстрируем свое презрение к ним.
От этих слов я неловко дернул себя за воротник. За день до этого я обрушился на комментаторов в блоге The Stone газеты New York Times, где Джастин Макбрейер попытался ответить на вопрос: почему наши дети не считают, что существуют моральные факты?
Вы можете не соглашаться с конкретикой причинно-следственного утверждения Макбрейера о том, что то, как этика обсуждается в школах, способствует всеобщему моральному антиреализму (грубо говоря, мнению, что во вселенной нет моральных фактов), но он прав в том, что антиреализм, похоже, является для многих людей мнением по умолчанию, даже если их выбор и поступки свидетельствуют об обратном.
Как я уже говорил, это моя больная тема. Моральный антиреализм может оказаться правдой, но это не просто очевидная правда. Можно прочитать столько эссе и комментариев в Интернете, в которых люди даже не понимают предположения о том, что этика может быть более чем субъективной, прежде чем это начнет вас задевать.
Поэтому страница за страницей комментариев к статье Макбрейера, настаивающих на том, что моральных фактов, конечно же, не существует, и нелепо, что так называемый философ может думать иначе, заставили меня огрызнуться. Вот почему, - усмехнулся я, - мы не можем иметь приятные вещи. Вот профессиональный философ-моралист пытается объяснить вопрос, относящийся к его компетенции, а его отвергают, даже принижают, люди, которые явно даже не понимают, о чем он говорит. Почему люди просто игнорируют его слова? Стали бы они так поступать с ученым, хирургом или юристом?
Ну да, конечно, поступили бы. Мы живем в эпоху, когда каждый, пребывая в заблуждении, что он всегда и везде имеет право на собственное мнение, считает себя вправе сказать экспертам, что они категорически неправы в своей области знаний. Так что это во многом проблема степени, а не вида.
Но отрицатели науки разных мастей - антивакцинаторы, отрицатели климата, фальсификаторы 9/11, сторонники синдрома ветряных турбин - обычно хотя бы на словах стараются играть в эту игру. Они приводят (плохие) аргументы, ссылаются на (сомнительные) источники и вообще пытаются создать впечатление, что занимаются наукой лучше, чем настоящие ученые.
Отрицание философии, как мне кажется, - это несколько иной зверь. Отрицатели философии - включая удручающее количество высокопоставленных физиков - отрицают ценность философии как таковой, а не просто оспаривают конкретные философские утверждения.
И, как отмечает Синнот-Армстронг, во многом в этом виноваты сами философы. Он отмечает, что если ученые часто стараются объяснить широкой публике, чем они занимаются, то философы делают это не так часто:
В результате широкая публика часто воспринимает философию как непонятную игру, в которую неинтересно играть. Если философы не найдут способ объяснить важность философии, мы не должны удивляться, когда никто не поймет, почему философия важна.
К счастью, все больше и больше философов принимают этот вызов. Новый групповой блог, который вы сейчас читаете, надеется стать вкладом в это направление. В нем будут публиковаться статьи группы австралийских философов, приверженных идее, что философия не может быть только чисто абстрактным занятием, но должна быть связана с тем, как мы живем и что нас волнует.
Я говорю "должна" совершенно сознательно. Проще говоря, философия слишком хороша и слишком важна, чтобы держать ее взаперти в академии. Философия может казаться "непонятной игрой", но она также уникальна в своей способности освещать, усложнять и широко раскрывать то, что мы считаем устоявшимся и ясным.
Не менее важно и то, что в своих лучших проявлениях философское исследование физической, концептуальной, логической, эстетической и моральной вселенных оборачивается к самому вопрошающему. Она поощряет умственную деятельность, которую мы сегодня можем назвать метапознанием и соответствующей добродетелью метарациональности. Говоря более старым языком, она учит нас познавать самих себя и знать свои границы, как рассуждать и как определять границы нашей способности к этому. В основе философии лежит дельфийское изречение, которым мотивированы многие диалоги Платона: "познай самого себя".
Но вот появляются драконы.
В двадцати пяти канонических диалогах (и еще десяти сомнительного авторства) Платон изображает своего наставника Сократа на рыночной площади, задающим вопросы прохожим. Сократ говорит с позиции исповедуемого невежества. Он ничего не знает, но, по крайней мере, знает, что ничего не знает, что уже ставит его впереди соседей, которые ошибочно полагают, что знают очень много. И вот Сократ спрашивает своих сограждан-афинян о самых фундаментальных, казалось бы, очевидных вопросах. Затем, тщательно, проницательно и часто затягивая вопросы, он переворачивает их предвзятые представления, иногда превращая собеседников в недоумевающих и униженных обломков.
Все закончилось примерно так, как и следовало ожидать. Сократ считал себя "слепнем", которому суждено "жалить людей и приводить их в ярость, и все это ради истины". Оводы редко бывают желанными. В "Апологии", платоновском отчете о судебном процессе 399 года до н. э., на котором Сократ был приговорен к смерти за нечестие и развращение молодежи, Сократ описывает общую реакцию на свой метод:
...молодые люди из богатых слоев, которым нечем заняться, приходят ко мне по собственному желанию; им нравится слушать, как проверяют претендентов, и они часто подражают мне и сами проверяют других; есть много людей, как они вскоре обнаруживают, которые думают, что они что-то знают, но на самом деле знают мало или ничего: и тогда те, кого они проверяют, вместо того чтобы сердиться на себя, сердятся на меня (Апология 23c-d).
Сократ, надо сказать, не делает себе одолжений в "Апологии". Получив шанс вымолить свою жизнь, он просто удваивает то, из-за чего афиняне хотели убить его в первую очередь, а затем буквально требует награды за это. Однажды в начале лекции по "Апологии" я опросил студентов философского факультета, правильно ли поступили афиняне, казнив Сократа. Затем я опросил их по тому же вопросу, когда лекция закончилась. Во второй раз за смерть проголосовало чуть больше. Можно сделать вывод, что Сократ был просто очень раздражающим.
Но более глубокий смысл заключается в том, что то, что делает философию такой мощной, также является и тем, что делает ее такой неудобной: она растворяет очевидность. Она берет вещи, которые кажутся настолько безупречно самоочевидными, что мы их даже не замечаем, и подвергает их сомнению. Она сотрясает непоколебимое и исправляет неисправимое.
Это захватывает, освобождает, даже опьяняет; но это также тревожит и даже приводит в ярость. Обнаружить, что ты мог ошибаться в вещах, которые кажутся очевидными - например, в том, что моральных фактов не существует, - довольно неудобно. Ехидные комментарии к статье Макбрейера сродни нетерпению Нила Деграсса Тайсона и Лоуренса Краусса по поводу философских вопросов. Философия просто крутит колеса, мешает и тормозит нас.
Моя первая философская любовь, Сёрен Кьеркегор, пишет свой громоздкий шедевр "Заключительное ненаучное послесловие к философским фрагментам" от лица некоего Иоганна Климака, тридцатилетнего бездельника и сократовского овода. В век растущей рефлексии, утонченности и спешки Климакус, как отмечает Пол Муенч, выполняет миссию замедлить своего читателя. О, так вы думаете, что постигли основы, знаете, что к чему, и вам не терпится перейти к более сложным вопросам? Правда? Подожди немного, друг. Действительно ли ты понял, что такое добро, или как нужно жить, или что означает твоя смерть? Правда? А вы уверены?
Добро пожаловать в блог. Мы надеемся, что он будет мешать вам и замедлять ваше движение.
Это был ее первый и последний акт неповиновения.
Теперь, ведя сани сквозь метель, Петров везет умирающую жену к доктору. Он ругается и хлещет лошадь. Его охватывает горе от напрасно прожитой жизни, и он думает, как будет жить без этой женщины, которая так долго поддерживала его.
Может, я и был пьяницей и сквернословом, - бормочет он про себя, - но это никогда не был настоящий мужчина, а теперь моя жена умирает по мне, и она никогда не узнает моей лучшей натуры. Я бил ее, это правда, но никогда не по злобе. Разве я не тороплю ее к доктору, потому что мне ее жалко?
В рассказе Чехова Петров пускается в гротескные рассуждения. Его достоинство не позволяет ему взглянуть в лицо правде о том, какой он человек. Он пускается в самообман, несмотря на то, что правда грозит его ошеломить.
Бесчисленные способы, которыми люди обманывают себя, - постоянная тема литературы. Поскольку все мы занимаемся самообманом, мы узнаем себя в героях. Мы постоянно сочиняем истории о себе и своем мире, чтобы сгладить жизненный путь.
Техническая поддержка проекта ВсеТут