Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф (2015)

В компьютерном мире сложились два технических сообщества со своими традициями, ценностями и приоритетами. Одно из них – сообщество искусственного интеллекта – стремится к автоматизации различных аспектов деятельности человека. Другое – сообщество человеко-машинного взаимодействия – в большей мере занято развитием идеи «человеко-машинного симбиоза», который предвидел психолог-новатор Джозеф Ликлайдер на заре современной компьютерной эры. Следует заметить, что Ликлайдер в качестве директора Технического офиса информационных проектов DARPA в середине 1960-х гг. финансировал и Маккарти, и Энгельбарта. Именно во времена Ликлайдера DARPA было в буквальном смысле организацией по финансированию «прожектов», в этот период, как считают многие, агентство оказало наибольшее влияние на развитие науки и техники.

Винер первым забил тревогу по поводу проблемы взаимоотношений человека и вычислительных машин. Десятилетие спустя Ликлайдер указал на принципиальное значение грядущего повсеместного использования вычислительной техники и на то, чем ее внедрение отличается от предыдущей эпохи индустриализации. В каком-то смысле Ликлайдер предсказал появление Борга из сериала «Звездный путь». Образ Борга вошел в массовую культуру в 1988 г. – это была раса киборгов, которая существовала как «коллективный разум», а новые индивидуумы присоединялись к нему путем принудительной ассимиляции.

В 1960 г. в одной из своих работ Ликлайдер рассуждал о разнице между «расширением возможностей человека» и «искусственным интеллектом» и предупреждал в отношении автоматизации: «Если взять человека-оператора в системе, то мы видим, что в некоторых областях техники за последние несколько лет произошли фантастические изменения. "Расширение возможностей" уступает место замене человека на автоматику, а люди, которые остаются, нужны, чтобы помогать, а не чтобы помогали им. В некоторых случаях, особенно в основанных на вычислительной технике больших информационных системах и системах управления, человек-оператор в основном отвечает за функции, которые не удалось автоматизировать»{5}. Это наблюдение показывает, насколько роковым является уклон в пользу автоматизации, а не усиления интеллекта.

Ликлайдер, как и Маккарти полдесятилетия спустя, был уверен, что создание «мощного» искусственного интеллекта – машины, обладающей разумом и самосознанием, по меньшей мере сопоставимыми с человеческими, – дело недалекого будущего. Он писал, что период человеко-машинного «симбиоза» вряд ли продлится более двух десятилетий, хотя и допускал, что появление по-настоящему умных машин, способных соперничать с человеком по умственным способностям, придется ждать более десятилетия, а может, даже и более 50 лет.

Хотя он и поставил вопрос о том, что принесет информационная эра – освобождение или порабощение людей, прямого ответа мы от него не получили. Вместо этого он нарисовал то, что стали называть «киборгами», – образ полулюдей-полумашин. С точки зрения Ликлайдера, человек-оператор и вычислительное оборудование гармонично соединятся и станут единой сущностью. С тех пор такое видение будущего многократно и превозносили, и поносили. Однако оно так и не дает ответа на вопрос – будем ли мы хозяевами, рабами или партнерами появляющихся сегодня умных машин?

Возьмем полный спектр человеко-машинного взаимодействия – от простых FAQbot до Google Now и Siri компании Apple. В недалеком будущем, показанном в фильме «Она» (Her), мы видим наделенный голосом Скарлетт Йоханссон искусственный интеллект, способный одновременно вести сотни задушевных разговоров с людьми. В настоящее время Google Now и Siri представляют два совершенно разных стиля взаимодействия человека с машиной. В то время как Siri намеренно и успешно имитирует человека, демонстрируя своеобразное чувство юмора, Google Now действует только как информационное средство, не имеющее личности или лишенное человекоподобия.