Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

После создания Eliza группа ученых Массачусетского технологического института, включая основоположника теории информации Клода Шеннона, собралась в Конкорде, штат Массачусетс, чтобы обсудить социальные последствия этого явления^{130}. Привлекательность взаимодействия с Eliza беспокоила Вейценбаума, который усматривал в чрезмерной ориентации на технологии признаки морального падения общества. Корни такого взгляда восходят ко временам его детства в нацистской Германии. В 1976 г. он изложил гуманистическую критику компьютерной технологии в книге «Возможности вычислительных машин и человеческий разум: От суждений к вычислениям» (Computer Power and Human Reason: From Judgment to Calculation). В ней не было доводов против возможности создания искусственного интеллекта, она предъявляла страстные обвинения автоматизированным системам, которые принимают решения вместо человека. Автор утверждал, что компьютеры являются консервативной силой в обществе, поддерживают бюрократию и превращают мир в тесное и бесплодное место, ограничивая потенциал человеческих отношений.

Критика Вейценбаума так и не нашла отклика в Соединенных Штатах. Годы спустя его идеи получат большее понимание в Европе, куда он переедет в конце жизни, но тогда в США, где внедрялись новые компьютерные технологии, было больше оптимизма в отношении искусственного интеллекта.

В конце 1960-х гг. аспирант Виноград попал в тепличную атмосферу Лаборатории искусственного интеллекта Массачусетского технологического института, места рождения культуры программистов-фанатиков, которая привела к появлению PC и идеологии «свободы обмена информацией», а позже движения 1990-х гг. за открытую среду. Многие в лаборатории строили карьеру на вере в то, что дружелюбные и автономные интеллектуальные машины скоро станут реальностью. Eliza, а позднее и SHRDLU Винограда стали прямыми предшественниками более сложных электронных личных помощников, появившихся в последующие десятилетия. В Массачусетском технологическом институте уже предпринимались попытки строить микромиры или «блочные миры» – ограниченные смоделированные среды, в которых исследователи могли создавать программы, способные судить об окружающей обстановке и планировать действия. Иногда использовались даже реальные манипуляторы и блоки. Когда Виноград начал работать над своим проектом, уже создавалась система заказа авиабилетов, но это не очень интересовало его. Он собирался построить собственную ограниченную среду для исследований и рационализации и выбрал для нее форму виртуального компьютерного мира.

Виноград создал компьютерную модель мира, населенного цветными блоками, которые можно было исследовать и которыми можно было управлять с помощью языка программирования под названием Micro-Planner, основанного на работах аспиранта Массачусетского технологического института Карла Хьюитта. Учитывая сравнительно невысокий уровень развития вычислительной техники в то время, во многом приходилось полагаться на воображение. Наглядного графического представления мира блоков не было. Пользователь просто сидел у терминала Teletype и вводил вопросы с клавиатуры, а компьютер отвечал на естественном языке. Виноград выбрал название SHRDLU потому, что ничего лучше не пришло в голову. Позже он сказал, что последовательность букв SHRDLU, наверное, сидела у него в подсознании. Последовательность «etaoin shrdlu» – самые ходовые в английском языке буквы – располагается на левой стороне клавиатуры линотипа, как «1qaz 2wsx» в пишущей машинке. Эта последовательность символов время от времени мелькала в шутку в журнале Mad как якобы случайно проскочившая при печати строка. У линотипа, который отливает всю строку из расплавленного металла, не было клавиши Backspace. Поскольку завершить отливку строки с ошибкой быстрее, чем заниматься исправлением, наборщики обычно «заполняли» оставшуюся часть строки бессмысленным набором символов и удаляли всю строку, когда она застывала, а если забывали это сделать, то уповали на то, что корректор выловит ее^{131}.

В то время Винограда мало заботили этические последствия создания системы обработки естественного языка, которая могла «понимать» и отвечать в виртуальном мире. В SHRDLU «понимание» означало, что программа анализировала структуру введенных вопросов и пыталась ответить на них и отреагировать на команды. Это была одна из первых попыток справиться с неоднозначностью – проблемой обработки естественного языка, сложной для решения даже сегодня. Например, к чему относится местоимение «он» в предложении «стакан поставили на стол, и он сломался», к стакану или столу? Без контекста ни человек, ни искусственный интеллект не могут этого определить.

Система Винограда опиралась на общие знания о своем микромире при ответе и реагировании на вопросы. В диссертации Виноград приводил следующий пример диалога: