Как мы ориентируемся - Маура О’Коннор (2021)

Может быть, то, что мы обучаем машину понимать сложные истории, поможет и нам самим создать более эффективные модели образования, политических систем, медицины и городского планирования. Представьте, к примеру, машину, в которую заложены не просто несколько десятков правил для понимания текста, а тысячи правил, которые она может применить к текстам длиной в несколько сотен страниц. Такой машиной может воспользоваться ФБР при расследовании загадочного убийства с противоречивыми уликами и множеством подозреваемых. Или можно установить ее в ситуационном центре Белого дома – и она предложит американским дипломатам и разведчикам анализ мотивов русских хакеров или агрессивных действий Китая в Южно-Китайском море, вычисляя прогнозы будущего поведения на основе анализа многовековой истории.

Уинстон и его студенты использовали «Генезис» для анализа кибервойны 2007 г. между Эстонией и Россией. Они также придумали необычные способы проверить интеллект машины, предлагая ей самой рассказать истории или настраивая ее так, чтобы история воспринималась с точки зрения разных психологических профилей – например, жителем Азии в сравнении с европейцем. Один из аспирантов Уинстона снабдил «Генезис» способностью учить и убеждать читателей. Например, он предлагал программе сделать дровосека из сказки «Гензель и Гретель» более симпатичным. «Генезис» добавил несколько предложений, подчеркивавших добропорядочность персонажа.

Недавно студенты Уинстона нашли способ «заразить» «Генезис» шизофренией. «Мы думаем, что некоторые аспекты шизофрении являются следствием серьезного разрушения системы, отвечающей за истории», – объяснил Уинстон. Он показал мне серию картинок, изображавших, как маленькая девочка пытается открыть дверь, ручка которой расположена слишком высоко, а затем берет зонтик. Здоровый человек предположил бы, что зонтик нужен девочке, чтобы достать до ручки и открыть дверь; для больного шизофренией характерно так называемое избыточное предположение: девочка берет зонтик, собираясь выйти на улицу, под дождь. Чтобы «Генезис» начал рассуждать как шизофреник, Уинстон и его студенты просто поменяли две строчки в программе. Они заставили программу искать объяснения, связывающие элементы истории, после поиска очевидного ответа, – который заключался в том, что девочка собирается выйти под дождь. И если судить по тому, что случилось с «Генезисом», то избыточное предположение представляет собой дисфункцию установления последовательности в мозге. Исследователи назвали это следствием работы механизма неправильной истории (Faulty Story Mechanism Corollary).

Среди студентов Уинстона в МТИ был старшекурсник Вольфганг Виктор Хейден Ярлотт, изучавший инженерное дело и информатику; он получил диплом в 2014 г. и поступил в аспирантуру Флоридского международного университета, где учится и сейчас. Ярлотт – индеец кроу. Он предположил, что если верна гипотеза сильного сюжета, которую предложил Уинстон, и если истории являются ключом к человеческому интеллекту, то «Генезис» должен продемонстрировать понимание историй разных культур, в том числе коренных жителей Америки, индейцев кроу. «Истории иллюстрируют, как интеллект и знания отображаются и передаются от поколения к поколению, и неспособность понять истории определенной культуры означает, что либо гипотеза неверна, либо система “Генезис” нуждается в доработке», – писал Ярлотт в своей диссертации[119].