Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей - Дэниел Франклин

Биология как ресурс и вдохновение

Если взять наше основное заявление в чистом виде, то биология предоставляет такие «доказательства существования» потенциальных возможностей материи, которые в ином случае были бы весьма неочевидны. Я уже упоминал о целесообразности создания сложных трехмерных, самособирающихся и саморегулируемых информационных процессоров. Это могло бы показаться фантазией, но в большинстве человеческих черепов содержатся полностью реализованные примеры подобных устройств. Точно так же нереализуемой мечтой может показаться возможность чрезвычайно быстрой параллельной обработки больших объемов данных с использованием медленных, ненадежных элементов схемы, но это описание реальной деятельности человеческой зрительной системы.

Именно биология вдохновила Джона фон Неймана на новаторские разработки самовоспроизводящихся «универсальных конструкторов» машин. В отличие от его проектов по компьютерной архитектуре, ставших основой технологии, полностью изменившей наш мир, самовоспроизводящиеся (эволюционирующие, а почему бы и нет?) машины в настоящее время остаются интеллектуальным курьезом. Но человеческая раса сама служит доказательством своего потенциала. Наши значительно улучшившиеся понимание того, как действует природа на молекулярном уровне, а также способность управлять потоками вещества и информации — в частности, в 3D‑печати (глава 10) — позволяют вдохнуть жизнь в эту удивительную концепцию.

И наоборот, ничто в самой природе материи не говорит о том, что людям как физическим существам обязательно присущи старение или болезни. Понимание и способность управлять материей и контролировать ее на фундаментальном уровне должны позволить нам преодолеть эти немощи. На практике это поставит перед людьми множество сложнейших проблем и вдохновит на новые открытия в области микроскопии и анализа данных (это позволит проводить сложную диагностику), а также в молекулярной инженерии (это обеспечит возможность проведения лечения).

Резюме: аварийные режимы

По причинам, изложенным выше, я, как физик, уверен: наше глубокое понимание того, как работает мир, открывает вдохновляющие перспективы для достижения новых уровней материального и духовного обогащения.

Однако, прежде чем закрыть тему, следует сделать несколько замечаний о мерах предосторожности.

Поскольку современные технологии обеспечивают создание надежной документации и широкое распространение знаний, можно было бы подумать, что историю технологий (и, следовательно, в конечном счете, человечества) в настоящее время невозможно откатить назад. Прогресс может быть неравномерным, но регресс исключен.

Но так ли это? Особенно тревожными мне кажутся три варианта сбоев, являющихся следствием самых современных технологий: ядерная война, экологическая катастрофа и вооружения, оснащенные искусственным интеллектом.

Некоторое знакомство с темой и 70 лет удачи не должны позволить нам недооценивать ужасающий потенциал ядерного оружия. Оно по‑прежнему существует в большом количестве — многие тысячи единиц — и контролируется девятью отдельными государствами. Посмотрите фильмы «Нити» («Threads»), а затем «Доктор Стрейнджлав» («Dr. Strangelove»). Этим все сказано.

Еще одной потенциальной катастрофой является экологический коллапс вследствие антропогенного изменения климата. Загрязнение атмосферы углекислым газом накапливается медленно, и надлежащая реакция (то есть учет внешних факторов) потребует вложения многих триллионов долларов. Вопрос в том, сможет ли человечество достигнуть зрелости и мудрости для решения этой коварной проблемы.

Ни человек, ни искусственный интеллект не могут избежать влияния открытия Дэвида Юма, заключающегося в том, что никакое моральное «должен» не может возникнуть из совокупности логических или научных «так есть». Вот его заключение: «Разум является, да и должен быть рабом страстей и никогда не может претендовать на какую‑либо другую роль, кроме служения и подчинения им».

Создатели умных автономных существ (таких, как гуманоидные роботы) будут либо явно, путем программирования, либо неявно, путем проектных решений, устанавливать их цели и мотивы — «страсти». Предполагается, что искусственный интеллект предназначен для служения человечеству самым простым и дружественным образом и это намерение лучше всего будет реализовываться автономными существами, цели и мотивы которых так же просты и дружественны. Но тогда весьма проблематичным станет использование искусственного интеллекта для военных задач, скажем, для создания армии роботов или, более обобщенно, высокоэффективных военных систем, вроде машины Судного дня доктора Стрейнджлава, которые будут реагировать на угрозы без вмешательства человека. Можно ожидать, что сверхразумные сущности, специально созданные подозрительными и агрессивными, проявят эти качества совершенно оригинальным и неожиданным образом. Конкурирующие группы таких созданий могли бы развязать уникальную войну, где людям и их цивилизации была бы отведена лишь роль случайных жертв.

Примечание

Эта работа поддерживается Министерством энергетики США по грантовому контракту № DE‑SC0012567.