Эксперт по ИИ объясняет, почему трудно дать компьютеру то, что вы считаете само собой разумеющимся: здравый смысл

Представьте, что вы пригласили друзей на обед и планируете заказать пиццу "Пепперони". Вы вспомнили, что Лена упоминала, что Светлана перестала есть мясо. Вы пытаетесь позвонить Светлане, но, когда она не берет трубку, вы решаете перестраховаться и заказать пиццу "Маргарита".

Люди считают само собой разумеющейся способность регулярно справляться с подобными ситуациями. В действительности, совершая эти подвиги, люди полагаются не на одну, а на мощный набор универсальных способностей, известных как здравый смысл.

Работа эксперта как исследователя искусственного интеллекта является частью широких усилий по наделению компьютеров подобием здравого смысла. Это чрезвычайно сложная задача.

Несмотря на то, что здравый смысл является универсальным и важным для понимания окружающего мира и обучения, он не поддается точному определению. Г. К. Честертон, английский философ и теолог, знаменито написал на рубеже 20-го века, что "здравый смысл - это дикая вещь и вне правил". Современные определения сегодня сходятся в том, что это, как минимум, естественная, а не формально обученная способность человека, которая позволяет ему ориентироваться в повседневной жизни.

Здравый смысл необычайно широк и включает в себя не только социальные способности, такие как управление ожиданиями и рассуждения об эмоциях других людей, но и наивное чувство физики, например, знание того, что тяжелый камень нельзя безопасно положить на хлипкий пластиковый стол. Наивное, потому что люди знают такие вещи, несмотря на то, что не работают сознательно над уравнениями физики.

Здравый смысл также включает в себя фоновые знания об абстрактных понятиях, таких как время, пространство и события. Эти знания позволяют людям планировать, оценивать и организовывать без необходимости быть слишком точными.

Как ни странно, здравый смысл является важной проблемой на границе ИИ с самых первых дней существования этой области в 1950-х годах. Несмотря на огромные достижения в области ИИ, особенно в играх и компьютерном зрении, машинный здравый смысл с богатством человеческого здравого смысла остается далекой перспективой. Возможно, именно поэтому усилия ИИ, направленные на решение сложных, реальных проблем с множеством взаимосвязанных частей, таких как диагностика и рекомендации по лечению пациентов с COVID-19, иногда терпят неудачу.

Современный ИИ предназначен для решения узкоспециальных задач, в отличие от здравого смысла, который расплывчат и не может быть определен набором правил. Даже самые современные модели иногда допускают абсурдные ошибки, что говорит о том, что в модели мира ИИ не хватает чего-то фундаментального. Например, если дать следующий текст:

"Вы налили себе стакан клюквы, но затем по рассеянности влили в него примерно чайную ложку виноградного сока. На вид все в порядке. Вы пытаетесь понюхать его, но у вас сильная простуда, поэтому вы ничего не чувствуете. Вы очень хотите пить. Поэтому вы"

высоко оцененный генератор текстов ИИ GPT-3 поставляет

"Выпейте это. Теперь вы мертвы".

Одна из причин для оптимизма по поводу того, что наконец-то удастся взломать здравый смысл машин, - это недавняя разработка типа продвинутого ИИ глубокого обучения, называемого трансформерами. Трансформеры способны моделировать естественный язык мощным образом и, с некоторыми корректировками, отвечать на простые бессмысленные вопросы. Ответы на бессмысленные вопросы - это важный первый шаг для создания чат-ботов, способных общаться по-человечески.

За последние несколько лет было опубликовано большое количество исследований, посвященных трансформаторам, с прямыми приложениями к рассуждениям на основе здравого смысла. Такой быстрый прогресс сообщества заставил исследователей в этой области столкнуться с двумя связанными вопросами, находящимися на грани науки и философии: Что такое здравый смысл? И как мы можем быть уверены, что ИИ обладает здравым смыслом или нет?

Чтобы ответить на первый вопрос, исследователи делят здравый смысл на различные категории, включая социологию, психологию и фоновые знания. Авторы недавно вышедшей книги утверждают, что исследователи могут пойти гораздо дальше, разделив эти категории на 48 более тонких областей, таких как планирование, обнаружение угроз и эмоции.

Однако не всегда ясно, насколько четко можно разделить эти области. В недавней статье эксперименты показали, что четкий ответ на первый вопрос может быть проблематичным. Даже экспертные аннотаторы - люди, которые анализируют текст и классифицируют его компоненты разошлись во мнениях относительно того, какие аспекты здравого смысла применимы к конкретному предложению. Аннотаторы согласились относительно таких конкретных категорий, как время и пространство, но разошлись во мнениях относительно более абстрактных понятий.

Даже если принять, что некоторое дублирование и неоднозначность в теориях здравого смысла неизбежны, могут ли исследователи быть уверены, что ИИ обладает здравым смыслом? Мы часто задаем машинам вопросы, чтобы оценить их здравый смысл, но люди ориентируются в повседневной жизни гораздо более интересными способами. Люди используют целый ряд навыков, отточенных эволюцией, включая способность распознавать основные причины и следствия, творческое решение проблем, оценки, планирование и важнейшие социальные навыки, такие как разговор и переговоры. Каким бы длинным и неполным ни был этот список, ИИ должен достичь не меньших результатов, прежде чем его создатели смогут объявить о победе в исследовании машинной логики.

Уже сейчас становится до боли ясно, что даже исследования в области трансформеров приносят все меньшую отдачу. Трансформеры становятся все крупнее и все более энергозатратными. Недавний трансформатор, разработанный китайским поисковым гигантом Baidu, имеет несколько миллиардов параметров. Для его эффективного обучения требуется огромное количество данных. Тем не менее, до сих пор оказалось, что он не способен уловить нюансы человеческого здравого смысла.

Даже пионеры глубокого обучения, похоже, считают, что необходимы новые фундаментальные исследования, прежде чем современные нейронные сети смогут совершить такой скачок. В зависимости от того, насколько успешным окажется это новое направление исследований, невозможно сказать, будет ли машинный здравый смысл через пять лет или через 50.