Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте - Джон Брокман

Мелани Свон

Философ; научно-технический инноватор в MS Futures Group; учредитель DIYgenomics

Рассматривая вопрос о мыслящих машинах, мы делаем значительный шаг вперед в обсуждении ИИ, поскольку отходим от чисто человеческих проблем и принимаем в расчет инаковость машин. Это позволяет нам увидеть систему с точки зрения другой сущности. Но что еще важнее, сам факт постановки таких вопросов говорит о большом будущем пространстве возможностей для интеллекта. Только представьте себе: «классические» люди без усилений, люди с усилениями (с ноотропами, носимыми устройствами, интерфейсами «мозг-компьютер»); неокортикальные симуляции; загружаемые файлы разума; корпорации в виде цифровых абстракций; множество форм генерируемого ИИ — сети глубинного обучения, нейронные сети, кластеры машинного обучения, основанные на блокчейне распределенные автономные организации и эмпатические сострадательные машины. Нам следует рассматривать мир будущего как мир многовидового интеллекта.

То, что мы называем человеческой функцией «мышления», может довольно сильно различаться в разнообразных будущих воплощениях интеллекта. Машинный интеллект, конечно же, будет иметь иное происхождение, нежели человеческий. У людей телесность и эмоции всегда серьезно влияли на мышление. Машинам не достанется эволюционно-биологического наследства — мотиваций, связанных с добычей ресурсов, приобретением статуса, выбором партнера и принятием в группе, — или оно будет сильно отличаться от нашего. Следовательно, разные типы машин с нативным «мышлением» могут иметь серьезные отличия. Вместо того чтобы спрашивать, могут ли машины мыслить, более продуктивно было бы приготовиться к появлению вопроса: «Кто как мыслит?», к миру цифровых интеллектов с разной историей, разными модусами мышления и существования, а также разными системами ценностей и культурой.

Уже сейчас совершенствуются не только системы ИИ. Мы и сами больше узнаем о чертах и свойствах нативной машинной культуры и машинной экономики и о том, как могут сосуществовать человеческие и машинные системы.

Некоторые их примеры мы уже наблюдаем в области права и личной идентичности. Так, существуют договоры с технологическими обязательствами и договоры с юридическими обязательствами. У них разные парадигмы исполнения: неотвратимо выполняемые параметры в случае кода («код есть закон») и произвольное соблюдение обязательств в случае контрактов, где их сторонами выступают люди. Контракты-коды хороши тем, что их нельзя нарушить, но, с другой стороны, они выполняются железобетонно, даже если меняются условия.

Теперь о том, что касается личной идентичности. Технологический конструкт идентичности и ее социальный конструкт отличаются друг от друга и имеют различные подразумеваемые социальные контракты. Социальный конструкт идентичности включает качества несовершенной человеческой памяти, которые делают возможным прощение, забывание, покаяние и обновление. Память машины, напротив, идеальна и может выступать в качестве постоянного свидетеля-регистратора, никогда не забывающего и не прощающего, всегда способного воспроизвести даже мельчайшую деталь. Технология сама по себе имеет двойное назначение, то есть она может быть применена как во благо, так и во вред. Идеальная машинная память становится инструментом тирании, только когда ее заново импортируют в человеческие социальные системы, но это не обязательное условие. Такая новая «перспектива от четвертого лица» может стать невероятно полезной для самонаблюдения и повышения умственной производительности человека.

Эти примеры демонстрируют, что машинная культура, ценности, функционирование и экзистенциальные модусы уже отличаются от наших, что указывает на необходимость искать такие формы взаимодействия, которые бы способствовали выживанию обеих сторон и расширяли их возможности. Чтобы создать мир интеллектуального многообразия, необходимо обеспечить плюрализм и построить доверительные отношения. Технология блокчейна — децентрализованный, распределенный, глобальный, перманентный, криптографический журнал учета обработки транзакций и «умных» договоров — это один из примеров построения доверительных отношений. Систему можно использовать как при взаимодействии между участниками-людьми, так и при межвидовом взаимодействии именно потому, что неважно, знаете ли вы другую сторону договора, доверяете ли ей, понимаете ли, что это за сущность; важен только код (язык машин).

Доверие имеет свойство возрастать с течением времени благодаря репутации. Технология блокчейна может быть использована для укрепления дружественных отношений с ИИ и взаимовыгодного межвидового взаимодействия. Когда-нибудь важные транзакции (например, аутентификация личности и перевод средств) будут выполняться в «умных» сетях, требующих подтверждения независимыми механизмами согласования, такими, которые допускают выполнение только добросовестных транзакций, исходящих от обладающих хорошей репутацией сущностей. Хотя, возможно, децентрализованные «умные» сети наподобие блокчейнов не решат проблему дружественного ИИ полностью, они все же представляются системой сдержек и противовесов, помогающих обеспечивать более надежное разрешение неопределенных ситуаций.

Межвидовые модели построения доверительных отношений для взаимодействия с цифровым интеллектом включают как сдержки и противовесы из теории игр вроде блокчейнов, так и, на более высоком уровне, системы взглядов, располагающие разные сущности на одной плоскости разделяемых ими задач. Это системы более высокого порядка, нежели «умные» договоры или соглашения, в рамках которых делаются попытки внедрения этики; требуется изменение типа мышления. Проблематика машинного и человеческого интеллекта не должна ограничиваться только дружественностью или недружественностью отношений, напротив, надо относиться к разным сущностям как к равным, ставить их в одинаковые условия и ценностные системы в плане наиболее важных параметров, таких как рост. В мышлении для людей и машин важнее всего то, что оно ведет к формированию идей, развитию и росту.

Чего мы хотим и для людей, и для машин, так это возможности накапливать опыт, развиваться и делать больший вклад в общие задачи в рамках симбиоза и синтеза. Объясню это так: все сущности располагаются на шкале способности к индивидуации (способности расти и полностью реализовывать свой потенциал). Для лучшего взаимодействия между разумными видами потребуется общая система возможностей, благоприятных для роста, в том числе взаимного роста.