Эксперт по искусственному интеллекту объясняет, почему трудно дать компьютерам что-то само собой разумеющееся: здравый смысл.

Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите оригинал статьи, опубликованной 17 августа 2021 г.

Представьте, что к вам пришли друзья на обед и вы планируете заказать пиццу пепперони. Вы помните, как Эми упомянула, что Сьюзи перестала есть мясо. Вы пытаетесь позвонить Сьюзи, но когда она не берет трубку, вы решаете перестраховаться и вместо этого просто заказываете пиццу «Маргарита».

Люди воспринимают как должное способность регулярно справляться с подобными ситуациями. На самом деле, совершая эти подвиги, люди полагаются не на одну, а на мощный набор универсальных способностей, известных как здравый смысл.

Моя работа как исследователя искусственного интеллекта является частью масштабных усилий по приданию компьютерам подобия здравого смысла. Это чрезвычайно сложная задача.

Быстро – определите здравый смысл

Несмотря на то, что здравый смысл является одновременно универсальным и важным для того, как люди понимают окружающий мир и обучаются, он не поддается однозначному определению. Г. К. Честертон, английский философ и богослов, на рубеже 20-го века написал знаменитую фразу: «Здравый смысл — вещь дикая, дикая и не поддающаяся никаким правилам». Современные определения сегодня сходятся во мнении, что это, как минимум, естественная, а не формально приобретенная человеческая способность, которая позволяет людям ориентироваться в повседневной жизни.

Здравый смысл необычайно широк и включает в себя не только социальные способности, такие как управление ожиданиями и рассуждения об эмоциях других людей, но и наивное чувство физики, например, понимание того, что тяжелый камень нельзя безопасно положить на хлипкий пластиковый стол. Наивно, потому что люди знают такие вещи, хотя сознательно не работают над физическими уравнениями.

Здравый смысл также включает базовые знания абстрактных понятий, таких как время, пространство и события. Эти знания позволяют людям планировать, оценивать и организовывать, не будучи слишком точными.

Здравый смысл трудно вычислить

Примечательно, что здравый смысл был важной проблемой на переднем крае ИИ с самых первых дней его развития в 1950-х годах. Несмотря на огромные достижения в области искусственного интеллекта, особенно в играх и компьютерном зрении, машинный здравый смысл с богатством человеческого здравого смысла остается маловероятным. Возможно, именно поэтому усилия ИИ, направленные на решение сложных реальных проблем со множеством взаимосвязанных частей, таких как диагностика и рекомендации лечения пациентов с COVID-19, иногда терпят неудачу.

Современный ИИ предназначен для решения весьма специфических проблем, в отличие от здравого смысла, который расплывчат и не может быть определен набором правил. Даже новейшие модели время от времени допускают абсурдные ошибки, предполагая, что в модели мира ИИ не хватает чего-то фундаментального. Например, учитывая следующий текст:

«Вы налили себе стакан клюквенного сока, но потом по рассеянности влили в него примерно чайную ложку виноградного сока. Выглядит нормально. Вы пытаетесь его понюхать, но у вас сильная простуда, поэтому вы ничего не чувствуете. Вы очень хотите пить. Так что вы"

широко разрекламированный генератор текста AI GPT-3, поставляемый в комплекте

"выпей это. Теперь ты мертв».

Недавние амбициозные усилия показали, что машинный здравый смысл является актуальной проблемой ИИ нашего времени, требующей согласованного сотрудничества между учреждениями на протяжении многих лет. Ярким примером является четырехлетняя программа Machine Common Sense, запущенная в 2019 году Агентством перспективных исследовательских проектов Министерства обороны США для ускорения исследований в этой области после того, как агентство опубликовало документ, в котором описывается проблема и состояние исследований в этой области.

Программа Machine Common Sense финансирует многие текущие исследования в области машинного здравого смысла, включая нашу собственную программу «Мультимодальное обучение и вывод в открытом мире» (MOWGLI). MOWGLI — это результат сотрудничества нашей исследовательской группы в Университете Южной Калифорнии и исследователей искусственного интеллекта из Массачусетского технологического института, Калифорнийского университета в Ирвине, Стэнфордского университета и Политехнического института Ренсселера. Целью проекта является создание компьютерной системы, способной ответить на широкий спектр вопросов здравого смысла.

Трансформеры спешат на помощь?

Одной из причин для оптимизма по поводу окончательного взлома машинного здравого смысла является недавняя разработка типа продвинутого искусственного интеллекта с глубоким обучением, называемого трансформерами. Трансформеры способны эффективно моделировать естественный язык и, с некоторыми изменениями, отвечать на простые вопросы здравого смысла. Ответы на вопросы, основанные на здравом смысле, — это важный первый шаг к созданию чат-ботов, которые могут общаться по-человечески.

За последние пару лет было опубликовано множество исследований о трансформаторах, имеющих прямое применение к здравому смыслу. Этот быстрый прогресс как сообщества заставил исследователей в этой области столкнуться с двумя взаимосвязанными вопросами на стыке науки и философии: что такое здравый смысл? И как мы можем быть уверены, что у ИИ есть здравый смысл или нет?

Чтобы ответить на первый вопрос, исследователи делят здравый смысл на различные категории, включая социологию здравого смысла, психологию и базовые знания. Авторы недавней книги утверждают, что исследователи могут пойти гораздо дальше, разделив эти категории на 48 более мелких областей, таких как планирование, обнаружение угроз и эмоции.

Однако не всегда ясно, насколько четко можно разделить эти области. В нашей недавней статье эксперименты показали, что четкий ответ на первый вопрос может оказаться проблематичным. Даже эксперты-аннотаторы — люди, которые анализируют текст и классифицируют его компоненты — внутри нашей группы расходились во мнениях относительно того, какие аспекты здравого смысла применимы к конкретному предложению. Аннотаторы согласились относительно конкретных категорий, таких как время и пространство, но не согласились с более абстрактными понятиями.

Признание здравого смысла ИИ

Даже если вы признаете, что некоторое совпадение и двусмысленность в теориях здравого смысла неизбежны, смогут ли исследователи когда-нибудь быть уверены, что ИИ обладает здравым смыслом? Мы часто задаем машинам вопросы, чтобы оценить их здравый смысл, но люди ориентируются в повседневной жизни гораздо более интересными способами. Люди используют целый ряд навыков, отточенных эволюцией, включая способность распознавать основные причины и следствия, творческое решение проблем, оценку, планирование и важные социальные навыки, такие как беседа и переговоры. Каким бы длинным и неполным ни был этот список, ИИ должен достичь не меньшего, прежде чем его создатели смогут объявить о победе в исследованиях машинного здравого смысла.

Уже становится до боли ясно, что даже исследования в области трансформаторов приносят уменьшающуюся отдачу. Трансформаторы становятся больше и потребляют больше энергии. Недавний преобразователь, разработанный китайским гигантом поисковых систем Baidu, имеет несколько миллиардов параметров. Для эффективного обучения требуется огромное количество данных. Однако до сих пор он оказался неспособен уловить нюансы человеческого здравого смысла.

Даже пионеры глубокого обучения, похоже, считают, что могут потребоваться новые фундаментальные исследования, прежде чем сегодняшние нейронные сети смогут совершить такой скачок. В зависимости от того, насколько успешным окажется это новое направление исследований, невозможно сказать, появится ли машинный разум через пять лет или через 50.

Автор: Маянк Кеджривал, доцент кафедры промышленной и системной инженерии Университета Южной Калифорнии .