Homo Deus. Краткая история будущего - Юваль Ной Харари

Те же резоны способствовали раскрепощению женщин после Первой мировой войны. Осознав, насколько незаменимы женщины в тотальных индустриальных войнах, правительства посчитали нужным дать им политические права. В 1918 году президент Вудро Вильсон поддержал предоставление женщинам права голоса, объяснив сенату США, что в Первой мировой войне «не выстояли бы ни другие вовлеченные в нее нации, ни Америка, если бы не труд женщин – труд во всех областях – не только в тех сферах деятельности, в которых мы привыкли их видеть, но и там, где обычно работали мужчины, даже у самого края, у самой кромки сражений. Нас осудят, и осудят заслуженно, если мы не дадим им как можно более широких прав и свобод»^[213].

Но в XXI веке большинство мужчин и женщин, вероятно, утратят свою военную и экономическую ценность. Всеобщая мобилизация двух мировых войн – далекое прошлое. Передовые армии XXI столетия полагаются прежде всего на новейшие технологии. Вместо безграничных запасов пушечного мяса странам будет достаточно лишь небольшого числа хорошо обученных солдат, меньшего числа супербойцов спецназа и еще меньшего – специалистов, знающих, как создавать и использовать сверхсложные и сверхэффективные технику и технологии. На смену огромным армиям прошлого столетия приходят высокотехнологичные вооруженные силы, использующие дроны-беспилотникии и киберчервей, а генералы все чаще и чаще доверяют самые ответственные решения алгоритмам.

Мало того что солдаты из плоти и крови подвластны страху, голоду и усталости, так они еще думают и действуют в изживших себя временных рамках. Со времен Навуходоносора до правления Саддама Хусейна, несмотря на уйму технических усовершенствований, война велась по естественному расписанию. Совещания длились часами, сражения шли сутками, войны тянулись годами. А кибервойна может продолжаться всего несколько минут. Дежурный лейтенант Кибер-командования, заметив что-то неладное, сразу же позвонит своему командиру, который, в свою очередь, свяжется с президентом. Но когда тот потянется к красной кнопке, война уже будет проиграна. За секунды достаточно изощренная кибератака способна вывести из строя энергосистему, уничтожить все центры управления полетами, вызвать множество аварий на атомных станциях и радиационно-химических установках, разрушить коммуникационные сети полиции, армии и разведки и стереть всю финансовую отчетность, так что триллионы долларов исчезнут бесследно и никто уже не узнает, кто чем владел. Единственное, что сможет сдержать массовую истерию, – это то, что в отсутствие интернета, телевидения и радио люди не будут представлять себе истинных размеров бедствия.

Возьмем масштаб помельче, и предположим, что в небе сражаются два беспилотника. Один не способен открыть огонь без команды оператора, сидящего в далеком бункере.

Пехота поднимается в атаку в сражении на Сомме, 1916

Беспилотный боевой дрон, 2016

Другой полностью автономен. Какой беспилотник, по-вашему, одержит верх? Если в 2093 году одряхлевший Евросоюз отправит свои беспилотники и отряды киборгов подавлять новую Французскую революцию, Парижская коммуна, очевидно, задействует каждого доступного хакера, каждый компьютер и смартфон, но большая часть населения страны ей не понадобится, разве что в качестве живого щита. Показательно, что уже сейчас во многих асимметричных конфликтах роль большинства граждан сведена к роли живых щитов.

А уж если вы ставите законность и справедливость выше победы, тогда вам тем более надо заменить солдат и пилотов автономными роботами. Солдаты убивают, насилуют, мародерствуют и, даже стараясь сдерживаться, слишком часто по ошибке проливают кровь мирных жителей. Действие компьютеров с этическими алгоритмами будут гораздо больше соответствовать постановлениям Международного уголовного суда.

В экономической сфере способность держать молоток или нажимать на кнопку тоже уменьшается в цене, что угрожает альянсу между либерализмом и капитализмом. В XX веке либералы разъясняли, что мы не должны выбирать между этикой и экономикой. Защита прав и свобод человека была и моральным императивом, и ключом к экономическому росту. Британия, Франция и Соединенные Штаты якобы потому достигли процветания, что дали свободу своим экономикам и обществам. Если Турция, Бразилия и Китай хотели стать столь же успешными, им следовало поступить так же. Когда, случалось, тираны и хунты выбирали либеральный путь развития, во многих, если не в большинстве, случаях ими руководили не моральные, а экономические соображения.

В XXI веке либерализму будет гораздо труднее продавать себя. Когда массы утратят свою экономическую значимость, хватит ли одних моральных аргументов для защиты прав и свобод человека? Продолжат ли элиты и правительства ценить каждую личность, даже когда это перестанет приносить экономические дивиденды?

В прошлом многое умели делать только люди. Теперь же роботы и компьютеры догоняют нас, а могут скоро и опередить в большинстве занятий. Да, компьютеры функционируют абсолютно иначе, чем мы, и не похоже, чтобы они в обозримом будущем уподобились людям. Нет, в частности, оснований думать, что компьютеры обретут сознание и начнут испытывать эмоции и ощущения. За последние полвека компьютерный интеллект совершил гигантский рывок вперед, но не было никакого прогресса компьютерного сознания. Насколько нам известно, в 2018 году компьютеры не более сознательны, чем их прототипы в 1950-х. Однако мы стоим буквально на пороге грандиозной революции, в результате которой люди рискуют лишиться своей экономической ценности. Происходит это из-за того, что интеллект отделяется от сознания.

До сегодняшнего дня высокий интеллект всегда шел рука об руку с высокоразвитым сознанием. Только сознательные существа были способны выполнять задачи, требующие «много ума», – играть в шахматы, водить машины, диагностировать болезни, идентифицировать террористов. Теперь же мы разрабатываем новые типы интеллекта без сознания, которые справляются с подобными задачами намного лучше, чем люди. Дело в том, что в основе всех вышеперечисленных задач лежит распознавание образов, а в нем лишенные сознания алгоритмы могут скоро превзойти человеческое сознание.