Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

Предупреждение Винера все же высекло искру, но не в 1950-х гг., в десятилетие правления республиканцев, когда у профсоюзного движения было немного сторонников в правительстве. Только после избрания Кеннеди в 1960 г. и при его преемнике Линдоне Джонсоне партнерство Винера и Рейтера привело к рождению одной из немногих серьезных инициатив правительства США по решению проблемы автоматизации – в августе 1964 г. Джонсон создал комиссию для исследования влияния технологии на экономику.

Определенное давление оказали левые. Президенту было направлено открытое письмо от имени группы, называвшей себя Специальным комитетом по тройственной революции и включавшей среди прочих главу демократических социалистов Америки Майкла Харрингтона, соучредителя организации «Студенты за демократическое общество» Тома Хейдена, химика Лайнуса Полинга, шведского экономиста Гуннара Мюрдаля, пацифиста Абрахама Масти, историка экономики Роберта Хейлбронера, публициста Ирвинга Хау, борца за гражданские права Байарда Растина и кандидата в президенты от Социалистической партии Нормана Томаса.

Первой революцией, о которой писали они, была «кибернетизация»: «Началась новая производственная эпоха. Принципы ее организации настолько отличаются от принципов индустриальной эпохи, насколько принципы индустриальной эпохи отличаются от сельскохозяйственной. Кибернетическая революция стала следствием союза компьютеров и самоуправляемых машин. Это ведет к появлению систем практически неограниченной производственной мощности, которые требуют все меньше живого труда»^{36}. В состав Национальной комиссии по технологии, автоматизации и экономическому прогрессу вошли такие яркие личности, как Рейтер, Томас Уотсон-младший из IBM, Эдвин Лэнд из Polaroid, экономист из Массачусетского технологического института Роберт Солоу и социолог из Колумбийского университета Дэниел Белл.

Выпущенный в конце 1966 г. 115-страничный отчет сопровождался приложением на 1787 страницах, содержавшим заключения внешних экспертов. Пол Армер из корпорации RAND представил 232-страничный анализ с предсказанием влияния информационных технологий. Сегодня мы видим, что заголовки разделов анализа совершенно правильны: «Компьютеры становятся более быстродействующими, миниатюрными и дешевыми»; «Вычислительные мощности станут доступными подобно электричеству и телефонам в наши дни»; «Сама информация станет дешевой и доступной»; «Компьютерами будет легче пользоваться»; «Компьютеры будут использоваться для обработки изображений и графической информации» и «Компьютеры будут использоваться для обработки текстов на естественных языках». Но в целом отчет придерживался традиционной кейнсианской позиции: «Технология ликвидирует рабочие места, не работу». Из этого следовал вывод, что технологическое замещение людей будет временным, но необходимым этапом на пути к экономическому росту.

Дебаты относительно будущей технологической безработицы стихли с оживлением экономики, в какой-то мере их оттеснила война во Вьетнаме, а послевоенные гражданские волнения в конце 1960-х гг. задвинули проблему еще дальше. Через полтора десятилетия после первых предупреждений о последствиях появления автоматизированных машин Винер обратил свои мысли к религии и технологии, оставаясь идейным гуманистом. В своей последней книге «Творец и голем» (God & Golem, Inc.) он попытался взглянуть на будущие отношения человека с машиной через призму религии. Обращаясь к аллегории голема, Винер указывал, что, несмотря на самые лучшие намерения, люди никогда не понимают до конца последствия своих изобретений^{37}.

Стивен Хеймс, составитель биографий Джона фон Неймана и Винера, отмечает, что в конце 1960-х гг. он интересовался мнением ряда математиков и ученых о винеровской философии технологии. Общая реакция была такой: «Винер был великим математиком, но отличался эксцентричностью. Когда он пускался в рассуждения об обществе и ответственности ученых и выходил за пределы своей специальности, его просто невозможно было воспринимать всерьез»^{38}.

Хеймс делает вывод, что социальная философия Винера задела за живое научное сообщество. Если бы ученые признали значение идей Винера, им пришлось бы пересмотреть глубоко укоренившиеся представления о личной ответственности, а делать это они не слишком хотели. «Продолжая род, человек создает человека по своему образу и подобию, – писал Винер в «Творце и големе». – Это своего рода аналогия акта творения, в процессе которого Бог создал человека по своему образу и подобию. Может ли что-то подобное происходить в менее сложном (и, может быть, более понятном) мире неживых систем, которые мы называем машинами?»^{39}

Незадолго до ухода Винера из жизни в 1964 г. U. S. News & World Report задал ему вопрос: «Д-р Винер, есть ли опасность, что машины, т. е. компьютеры, однажды станут выше человека?» Он дал такой ответ: «Определенно существует такая опасность, если мы не займем реалистичную позицию. Опасность – это фактически интеллектуальная лень. Некоторые зачарованы словом „машина“ и не понимают, что́ машины могут, а чего нет и что можно оставить людям, а чего нельзя»^{40}.

Только сейчас, через шесть с половиной десятилетий после публикации в 1948 г. «Кибернетики» Винера, вопрос об автономности машин стал не гипотетическим. В Пентагоне ломают головы над последствиями появления нового поколения самонаводящихся автономных средств поражения^{41}, а философы бьются над «проблемой вагонетки» в стремлении осмыслить моральный аспект использования беспилотных автомобилей. В течение следующего десятилетия последствия создания автономных машин будут проявляться все чаще по мере того, как производство, логистика, транспорт, образование, медицинское обслуживание и связь все больше оказываются под контролем обучающихся систем, а не людей.

Несмотря на попытки Винера сыграть роль эдакого Пола Ревира^[4], когда дебаты об автоматизации 1950–1960-х гг. стихли, страхи перед технологической безработицей ушли из общественного сознания и не возвращались практически до 2011 г. Подавляющее большинство экономистов соглашались с тем, что все это было, как они выражались, «ошибкой луддитов». Еще в 1930 г. Джон Мейнард Кейнс сформулировал общее представление о широком воздействии новой технологии: «Нас поразила новая болезнь, название которой некоторые читатели, возможно, пока не знают, но о которой они услышат еще не раз в ближайшие годы, – технологическая безработица. Иначе говоря, безработица вследствие того, что мы изобретаем средства сокращения потребности в труде быстрее, чем можем найти новое применение высвободившейся рабочей силе. Но это лишь временная фаза болезненной адаптации»^{42}.