Пекло - Джим Чайковски (2019)

– Не стоит забывать, – продолжала Мара, – что Ева, по сути, еще ребенок. Кроме того, она существо цифровое и никогда не будет размножаться половым путем – так что знакомиться со всеми сложностями и тонкостями биологической любви ей незачем. Вместо этого я хочу преподать ей несколько более важных уроков.

– Каких же? – спросил Монк.

– Для начала окситоциновый модуль создаст первичную эмоциональную связь. А когда эта связь будет установлена, Ева начнет понимать больше… намного больше! – Мара выпрямилась и указала на пару на экране. – Взгляните, как она смотрит Адаму в глаза. Она пытается угадать его потребности, его желания.

– Иными словами, ты хочешь научить ее строить модели сознания, – подсказала Карли.

– А что это? – не понял Монк.

– Следующий шаг в развитии интеллекта, – ответила Мара. – У детей эта способность развивается приблизительно с четырех лет. В этом возрасте они начинают воспринимать других людей именно как других, пытаются догадаться о том, что другие думают и чувствуют. Понять, говорят ли им правду или лгут. И на основе этих догадок принимают решения.

– Умение строить модели сознания – ключевое для развития эмпатии, – добавила Карли. – Невозможно ощутить к кому-то сострадание, если не способен мысленно поставить себя на его место.

– Ясно, – вздохнул Монк. – Шаг к тому, чтобы сделать ваш искусственный интеллект дружелюбным к людям и способным им сострадать.

– Лишь первый в длинной череде шагов. – Мара указала на щенка на мониторе. – В этом крохотном существе скрыто множество алгоритмов, и каждый из них должен продвинуть психическое развитие Евы и рассказать ей что-то о нас – или о том, чем она от нас отличается.

– Каким образом? – спросила Карли.

Мара взглянула на нее.

– Как дети чаще всего узнают, что такое смерть?

Карли перевела взгляд на Адама.

– Когда умирает любимая собака или кошка.

– У Адама есть сердце. Его сердцебиение – метроном, отсчитывающий ход времени. Но еще и таймер, который рано или поздно остановится. Ева должна не просто понять, что такое смерть, – она должна понять, что Адам в этом ключевом отношении сильно от нее отличается. Он смертен.

– Как мы, – добавил Монк.

Теперь Карли смотрела на экран, на Еву, погруженную в восторженное созерцание щенка, почти с ужасом.

– Мара… что ты хочешь сделать?

Ее подруга нервно облизнула губы. В глазах ее мелькнула боль, почти что чувство вины.

– Я это уже сделала, – прошептала она. – И не один, а тысячу раз.

– Что ты имеешь в виду?

– Ева учится с невероятной быстротой. Скорость ее обучения сравнительно с первым разом увеличивается по экспоненте. Прежде этот урок занял бы два дня; теперь она усвоила его за двадцать минут.

– Не понимаю, – сказал Монк. – Какой урок? Она же просто сидит и не двигается! Такое впечатление, что программа зависла.

– Не забывайте: то, что мы видим на экране, – лишь аватарка. Все, что испытывает Ева на самом деле, происходит внутри «Генезиса». И происходит так быстро, что отобразить это на экране невозможно. – Она махнула рукой в сторону бегущих внизу экрана строчек данных. – За последние три минуты Адам прожил долгую собачью жизнь и умер тысячу раз. Я покажу вам пример – по сути, просто захват изображения одной-единственной итерации.

Мара выделила мышью длинный отрезок кода, а затем нажала «ВВОД».

Образ Евы на экране задрожал, а затем начал двигаться в ускоренном темпе. В течение следующей минуты они с Адамом прожили на экране целую жизнь – жизнь в картинках:

…вот Ева растит щенка, гладит и ласкает, заботится о нем.

…вот за что-то ругает и «воспитывает».

…вот утешает.

Постепенно Адам растет, из трогательного щеночка превращается в веселого лопоухого пса, и картинок становится больше:

…Адам и Ева бегают друг за другом по саду.

…лежат в обнимку под звездами.