Идея создания мыслящей машины удивительна. Это было бы похоже на создание людьми искусственной жизни, только более впечатляюще, потому что мы бы создали сознание. Или нет?

Заманчиво думать, что машина, способная мыслить, будет мыслить как мы. Но немного размышлений показывают, что это не является неизбежным выводом.

Для начала нам лучше уточнить, что мы подразумеваем под словом "думать". Сравнение с человеческим мышлением может быть интуитивно понятным, но как насчет мышления животных? Думает ли шимпанзе? Думает ли ворона? Думает ли осьминог?

Возможно, существуют даже инопланетные разумные существа, которых мы даже не распознаем как таковых, потому что они так радикально отличаются от нас. Возможно, мы могли бы проходить мимо друг друга в непосредственной близости, каждый из которых не знал бы о существовании другого и не имел бы возможности вступить в контакт.

Безусловно, животные, кроме человека, обладают когнитивными способностями, направленными на понимание инструментов и причинно-следственных связей, общение и даже на распознавание направленного и целенаправленного мышления у других. Мы, вероятно, считали бы все это мышлением.

И давайте посмотрим правде в глаза: если бы мы создали машину, которая делала бы все вышеперечисленное, мы бы похлопали себя по спине и сказали "миссия выполнена". Но может ли машина пойти еще дальше и стать похожей на человеческий разум? Более того, как мы узнаем, что это так?

Если компьютер ведет себя так, как будто у него есть разум, это не значит, что он обязательно им обладает. Возможно, это только показуха, а не сущность, пример философского зомби.

Именно эта идея побудила британского взломщика кодов и математика Алана Тьюринга придумать свой знаменитый "тест Тьюринга", в котором компьютер взаимодействовал с человеком через экран, и чаще всего человек не знал, что это компьютер. Для Тьюринга имело значение только поведение, не было никакой вычислительной "внутренней жизни", о которой можно было бы беспокоиться.

Но эта внутренняя жизнь имеет значение для некоторых из нас. Философ Томас Нагель сказал, что существует "нечто, на что это похоже" - иметь сознательный опыт. Есть что-то, что похоже на то, как видеть красный цвет или кататься на водных лыжах. Мы - нечто большее, чем просто состояние нашего мозга.

Может ли когда-нибудь существовать "нечто, на что это похоже", чтобы быть мыслящей машиной? В воображаемом разговоре с первой разумной машиной человек мог бы спросить: "Ты сознателен?", на что она могла бы ответить: "Откуда мне знать?".

Под капотом компьютерного мышления, как мы его сейчас себе представляем, находятся одни лишь вычисления. Речь идет о вычислениях в секунду и количестве потенциальных вычислительных путей.

Но мы вовсе не уверены, что мышление или сознание - это функция вычислений, по крайней мере, так, как это делает двоичный компьютер. Может ли мышление быть чем-то большим, чем просто вычисления? Что еще необходимо? И если все дело в вычислениях, то почему человеческий мозг так плох в этом?

Большинство из нас не в состоянии перемножить в голове пару двузначных чисел, не говоря уже о выполнении триллионов вычислений в секунду. Или же существует какая-то глубокая обработка данных, которая происходит ниже нашего сознания и в конечном итоге приводит к тому, что наше сознание арифметически неполноценно (аргумент так называемого сильного ИИ)?

Вообще говоря, то, в чем компьютеры хороши, например, в манипулировании необработанными данными, люди делают довольно плохо; а то, в чем компьютеры плохи, например, язык, поэзия, распознавание голоса, интерпретация сложного поведения и вынесение целостных суждений, люди делают довольно хорошо.

Если аналогия между человеческим и компьютерным "мышлением" настолько плоха, зачем ожидать, что компьютеры в конечном итоге будут думать, как мы? Или, может быть, компьютеры будущего утратят свои характерные арифметические способности по мере развития сознания?

Далее у нас есть такие слова, как "вера" и "сомнение", которые характерны для человеческого мышления. Но что может означать для компьютера верить во что-то, кроме тривиального значения, что он действует в неведении относительно возможности того, что он может ошибаться? Другими словами, может ли компьютер искренне сомневаться, а потом все равно действовать?

Когда речь заходит о вопросах ценности, о том, что мы считаем важным в жизни и почему, интересно рассмотреть две вещи. Первый - способен ли мыслящий компьютер приписать ценность чему-либо вообще. Второй - если бы он мог приписать ценность чему-либо, что бы он выбрал? Кажется, здесь следует быть немного осторожными, даже не вдаваясь в возможность механической свободы воли.

Было бы неплохо запрограммировать в компьютере систему ценностей в человеческом стиле. Но, с одной стороны, мы не совсем понимаем, что это такое и как это можно сделать, а с другой стороны, если компьютеры начнут программировать сами себя, они могут решить иначе.

Хотя думать обо всем этом очень весело, нам следует потратить немного времени на то, чтобы понять, какими мы хотим видеть мыслящие компьютеры. И, возможно, следует потратить немного больше времени на то, чтобы понять самих себя, прежде чем мы начнем развиваться.