Операция выполнена!
Закрыть
Эксперт по ИИ объясняет, почему трудно дать компьютеру то, что вы считаете само собой разумеющимся: здравый смысл
27.06.2023 | Наука | Владимир Видаль | | |

Представьте, что вы пригласили друзей на обед и планируете заказать пиццу "Пепперони". Вы вспомнили, что Лена упоминала, что Светлана перестала есть мясо. Вы пытаетесь позвонить Светлане, но, когда она не берет трубку, вы решаете перестраховаться и заказать пиццу "Маргарита".

Люди считают само собой разумеющейся способность регулярно справляться с подобными ситуациями. В действительности, совершая эти подвиги, люди полагаются не на одну, а на мощный набор универсальных способностей, известных как здравый смысл.

Работа эксперта как исследователя искусственного интеллекта является частью широких усилий по наделению компьютеров подобием здравого смысла. Это чрезвычайно сложная задача.

Определение здравого смысла

Несмотря на то, что здравый смысл является универсальным и важным для понимания окружающего мира и обучения, он не поддается точному определению. Г. К. Честертон, английский философ и теолог, знаменито написал на рубеже 20-го века, что "здравый смысл - это дикая вещь и вне правил". Современные определения сегодня сходятся в том, что это, как минимум, естественная, а не формально обученная способность человека, которая позволяет ему ориентироваться в повседневной жизни.

Здравый смысл необычайно широк и включает в себя не только социальные способности, такие как управление ожиданиями и рассуждения об эмоциях других людей, но и наивное чувство физики, например, знание того, что тяжелый камень нельзя безопасно положить на хлипкий пластиковый стол. Наивное, потому что люди знают такие вещи, несмотря на то, что не работают сознательно над уравнениями физики.

Здравый смысл также включает в себя фоновые знания об абстрактных понятиях, таких как время, пространство и события. Эти знания позволяют людям планировать, оценивать и организовывать без необходимости быть слишком точными.

Здравый смысл трудно вычислить

Как ни странно, здравый смысл является важной проблемой на границе ИИ с самых первых дней существования этой области в 1950-х годах. Несмотря на огромные достижения в области ИИ, особенно в играх и компьютерном зрении, машинный здравый смысл с богатством человеческого здравого смысла остается далекой перспективой. Возможно, именно поэтому усилия ИИ, направленные на решение сложных, реальных проблем с множеством взаимосвязанных частей, таких как диагностика и рекомендации по лечению пациентов с COVID-19, иногда терпят неудачу.

Современный ИИ предназначен для решения узкоспециальных задач, в отличие от здравого смысла, который расплывчат и не может быть определен набором правил. Даже самые современные модели иногда допускают абсурдные ошибки, что говорит о том, что в модели мира ИИ не хватает чего-то фундаментального. Например, если дать следующий текст:

"Вы налили себе стакан клюквы, но затем по рассеянности влили в него примерно чайную ложку виноградного сока. На вид все в порядке. Вы пытаетесь понюхать его, но у вас сильная простуда, поэтому вы ничего не чувствуете. Вы очень хотите пить. Поэтому вы"

высоко оцененный генератор текстов ИИ GPT-3 поставляет

"Выпейте это. Теперь вы мертвы".

Трансформеры на помощь?

Одна из причин для оптимизма по поводу того, что наконец-то удастся взломать здравый смысл машин, - это недавняя разработка типа продвинутого ИИ глубокого обучения, называемого трансформерами. Трансформеры способны моделировать естественный язык мощным образом и, с некоторыми корректировками, отвечать на простые бессмысленные вопросы. Ответы на бессмысленные вопросы - это важный первый шаг для создания чат-ботов, способных общаться по-человечески.

За последние несколько лет было опубликовано большое количество исследований, посвященных трансформаторам, с прямыми приложениями к рассуждениям на основе здравого смысла. Такой быстрый прогресс сообщества заставил исследователей в этой области столкнуться с двумя связанными вопросами, находящимися на грани науки и философии: Что такое здравый смысл? И как мы можем быть уверены, что ИИ обладает здравым смыслом или нет?

Чтобы ответить на первый вопрос, исследователи делят здравый смысл на различные категории, включая социологию, психологию и фоновые знания. Авторы недавно вышедшей книги утверждают, что исследователи могут пойти гораздо дальше, разделив эти категории на 48 более тонких областей, таких как планирование, обнаружение угроз и эмоции.

Однако не всегда ясно, насколько четко можно разделить эти области. В недавней статье эксперименты показали, что четкий ответ на первый вопрос может быть проблематичным. Даже экспертные аннотаторы - люди, которые анализируют текст и классифицируют его компоненты разошлись во мнениях относительно того, какие аспекты здравого смысла применимы к конкретному предложению. Аннотаторы согласились относительно таких конкретных категорий, как время и пространство, но разошлись во мнениях относительно более абстрактных понятий.

Распознавание здравого смысла ИИ

Даже если принять, что некоторое дублирование и неоднозначность в теориях здравого смысла неизбежны, могут ли исследователи быть уверены, что ИИ обладает здравым смыслом? Мы часто задаем машинам вопросы, чтобы оценить их здравый смысл, но люди ориентируются в повседневной жизни гораздо более интересными способами. Люди используют целый ряд навыков, отточенных эволюцией, включая способность распознавать основные причины и следствия, творческое решение проблем, оценки, планирование и важнейшие социальные навыки, такие как разговор и переговоры. Каким бы длинным и неполным ни был этот список, ИИ должен достичь не меньших результатов, прежде чем его создатели смогут объявить о победе в исследовании машинной логики.

Уже сейчас становится до боли ясно, что даже исследования в области трансформеров приносят все меньшую отдачу. Трансформеры становятся все крупнее и все более энергозатратными. Недавний трансформатор, разработанный китайским поисковым гигантом Baidu, имеет несколько миллиардов параметров. Для его эффективного обучения требуется огромное количество данных. Тем не менее, до сих пор оказалось, что он не способен уловить нюансы человеческого здравого смысла.

Даже пионеры глубокого обучения, похоже, считают, что необходимы новые фундаментальные исследования, прежде чем современные нейронные сети смогут совершить такой скачок. В зависимости от того, насколько успешным окажется это новое направление исследований, невозможно сказать, будет ли машинный здравый смысл через пять лет или через 50.

Комментарии: 0
СТАТЬ АВТОРОМ
ДРУГИЕ СТАТЬИ
20.05.2025
У вирусов плохая репутация. Они ответственны за пандемию COVID-19 и длинный список болезней, которые мучают человечество с незапамятных времен. Есть ли в них что-то хорошее?

Многие биологи считают, что есть, такие типы вирусов: бактериофаги или вирусы, заражающие бактерии. Когда ДНК этих вирусов попадает в клетку, она может содержать инструкции, позволяющие клетке выполнять новые трюки.

Могучая сила бактериальных вирусов
Бактериофаги, или сокращенно фаги, держат под контролем популяции бактерий как на суше, так и в море. Ежедневно они убивают до 40% бактерий в океанах, помогая контролировать цветение бактерий и перераспределение органических веществ.

Их способность избирательно убивать бактерии также радует врачей. Природные и сконструированные фаги успешно используются для лечения бактериальных инфекций, которые не поддаются антибиотикам. Этот процесс, известный как фаговая терапия, может помочь в борьбе с устойчивостью к антибиотикам.

Последние исследования указывают на еще одну важную функцию фагов: они могут быть самыми лучшими генетическими мастерами природы, создающими новые гены, которые клетки могут перестраивать для получения новых функций.

Фаги являются самой распространенной формой жизни на планете: в любой момент в мире насчитывается не один миллион - это единица с 31 нулем после нее. Как и все вирусы, фаги имеют высокую скорость репликации и мутации, то есть при каждом размножении они образуют множество вариантов с различными характеристиками.

Большинство фагов имеют жесткую оболочку, называемую капсидом, которая заполнена их генетическим материалом. Во многих случаях оболочка имеет больше места, чем требуется фагу для хранения ДНК, необходимой для его репликации. Это означает, что у фагов есть место для хранения дополнительного генетического багажа: генов, которые на самом деле не нужны для выживания фага и которые он может изменять по своему усмотрению.

Как бактерии перенастроили вирусный переключатель?
Чтобы понять, как это происходит, давайте более подробно рассмотрим жизненный цикл фага.

Фаги бывают двух основных видов: умеренные и вирулентные. Вирулентные фаги, как и многие другие вирусы, действуют по программе "вторжение-репликация-убийство". Они проникают в клетку, захватывают ее компоненты, создают свои копии и вырываются наружу.

Фаги умеренного типа, с другой стороны, играют в долгую игру. Они соединяют свою ДНК с ДНК клетки и могут лежать в спящем состоянии годами, пока что-то не вызовет их активацию. Тогда они возвращаются к вирулентному поведению: реплицируются и вырываются наружу.

Многие умеренные фаги используют повреждение ДНК в качестве пускового механизма. Это своего рода сигнал "Хьюстон, у нас проблема". Если ДНК клетки повреждается, это означает, что ДНК фага-резидента, скорее всего, будет повреждена следующей, поэтому фаг мудро решает перепрыгнуть на другой корабль. Гены, которые направляют фаг на репликацию и вырываются наружу, выключены, если не обнаружено повреждение ДНК.

Бактерии перенастроили механизмы, контролирующие этот жизненный цикл, чтобы создать сложную генетическую систему, которую ученые изучают уже более двух десятилетий.

Бактериальные клетки также заинтересованы в том, чтобы знать, не повреждается ли их ДНК. Если это так, они активируют набор генов, которые пытаются восстановить ДНК. Эта реакция известна как бактериальная реакция SOS, потому что если она не сработает, клетка погибнет. Бактерии организуют SOS-ответ с помощью белка, похожего на переключатель, который реагирует на повреждения ДНК: Он включается, если есть повреждение, и выключается, если его нет.

Возможно, что бактериальные и фаговые переключатели эволюционно родственны. В связи с этим возникает вопрос: Кто изобрел переключатель, бактерии или вирусы?

Предыдущие исследования и работы других исследователей показывают, что фаги сделали это первыми. В нашем недавнем докладе мы обнаружили, что SOS-реакция бактерий Bacteroidetes, группы бактерий, составляющих до половины бактерий, живущих в вашем кишечнике, находится под контролем фагового переключателя, который был перенастроен для реализации собственных сложных генетических программ бактерий. Это позволяет предположить, что бактериальные SOS-переключатели на самом деле являются фаговыми переключателями, которые были перенастроены много веков назад.

Не только бактериальные переключатели оказываются изобретениями фага. Прекрасная детективная работа показала, что бактериальный ген, необходимый для деления клеток, также возник в результате "одомашнивания" гена токсина фага. А многие системы бактериальной атаки, такие как токсины и генетическое оружие, используемое для их введения в клетки, а также камуфляж, который они используют для уклонения от иммунной системы, известны или подозреваются в фаговом происхождении.

Положительные стороны вирусов.
Хорошо, подумаете вы, фаги - это здорово, но вирусы, которые нас заражают - это, конечно, не круто. Тем не менее, появляется все больше доказательств того, что вирусы, заражающие растения и животных, также являются основным источником генетических инноваций в этих организмах. Например, было показано, что одомашненные вирусные гены играют ключевую роль в эволюции плаценты млекопитающих и в поддержании влажности кожи человека.

Последние данные свидетельствуют о том, что даже ядро клетки, в котором находится ДНК, также могло быть вирусным изобретением. Исследователи также предположили, что предки современных вирусов могли быть пионерами в использовании ДНК в качестве первичной молекулы для жизни. Не такой уж маленький подвиг.

Поэтому, хотя вы привыкли считать вирусы квинтэссенцией злодея, они, возможно, являются мощным двигателем генетических инноваций в природе. Люди существуют сегодня, скорее всего, благодаря им.
08.04.2024
До того как 27 июля 1921 года был открыт инсулин, диабет был смертельным заболеванием. Столетие назад люди, у которых диагностировали это нарушение обмена веществ, обычно жили всего несколько лет. У врачей не было возможности лечить опасно высокий уровень сахара в крови пациентов с диабетом, который был вызван нехваткой гормона инсулина. Однако сегодня почти 1,6 миллиона людей живут нормальной жизнью с диабетом 1-го типа благодаря открытию инсулина.

Этот прорыв в медицине обычно приписывают одному человеку, Фредерику Бантингу, который искал лекарство от диабета. Но создание надежного средства для лечения диабета зависело от исследований двух других ученых, Оскара Минковского и Сёрена Сёренсена, которые ранее проводили исследования на, казалось бы, несвязанные темы.

История инсулина иллюстрирует тот факт, что медицинские инновации строятся на фундаменте науки, а затем требуются квалифицированные инженеры, чтобы вывести лечение из лаборатории и доставить его людям, которые в нем нуждаются.
12.03.2024
Будучи бегуном на короткие дистанции в школе и колледже, я часто задавался вопросом, какая из восьми, а иногда и девяти дорожек на треке самая быстрая. Было принято считать, что средние дорожки - с третьей по шестую - самые лучшие.

Эта идея, в некотором роде, заложена в правилах легкой атлетики. В соревнованиях с несколькими забегами - от студенческого уровня до Олимпийских игр - люди, показавшие более высокое время в ранних забегах, назначаются на средние дорожки в последующих забегах. Другими словами, самые быстрые бегуны получают вознаграждение в виде, как предполагается, лучших дорожек.

Моя недолгая беговая карьера давно позади, но в своей профессиональной деятельности я много думаю об использовании статистики для извлечения смысла из данных. В преддверии Олимпийских игр я решил проверить достоверность фольклора о распределении дорожек, оставшегося со времен моей спринтерской карьеры.

Используя данные Международной ассоциации легкоатлетических федераций за 20 лет, я обнаружил, что давние убеждения о преимуществе дорожки не подтверждаются данными. И на самом деле, в спринте на 200 метров данные свидетельствуют о том, что дорожки, которые часто воспринимаются как наименее желательные, на самом деле являются самыми быстрыми.
16.02.2024
В сотрудничестве с отделом подводной археологии ученые научили компьютер распознавать затонувшие корабли на дне океана по снимкам, сделанным самолетами и кораблями на поверхности. Созданная компьютерная модель с точностью 92 % находит известные затонувшие корабли. Теперь она готова к использованию для поиска неизвестных или не нанесенных на карту затонувших кораблей.

Первым шагом в создании модели затонувшего корабля было обучение компьютера тому, как выглядит затонувший корабль. Также важно было научить компьютер отличать затонувшие корабли от рельефа морского дна. Для этого понадобилось множество примеров кораблекрушений. Также нужно было научить модель тому, как выглядит естественное дно океана.

Удобно, что Национальное управление океанических и атмосферных исследований ведет общедоступную базу данных о затонувших кораблях. У нее также есть большая общедоступная база данных различных видов изображений, собранных по всему миру, включая сонарные и лидарные снимки морского дна.
ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro