Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте - Джон Брокман

Кевин Келли

Старый нонконформист, журнал Wired; автор книги «Крутые инструменты: Каталог возможностей» (Cool Tools: A Catalog of Possibilities)

Самое важное в создании машин, способных думать, — то, что они могут думать по-другому.

Из-за причуды нашей эволюционной истории мы расхаживаем по планете так, будто мы — единственный на ней мыслящий вид, что создает у нас ложное представление об исключительности человеческого разума. А он таковым не является. Наш разум — на самом деле сообщество разумов, а эта система, в свою очередь, лишь малая часть всего спектра типов разума и сознания, которые могут существовать во Вселенной. Мы любим называть человеческий интеллект универсальным, потому что в сравнении с другими известными нам видами разума он может решать больше разнообразных задач. Но поскольку мы продолжаем создавать искусственные интеллекты, то в определенный момент поймем, что человеческое мышление вовсе не универсально — это лишь одна из разновидностей мышления.

Мышление, характерное для появляющихся сейчас искусственных интеллектов, не похоже на человеческое. Хотя они умеют играть в шахматы, водить автомобиль, описывать содержание фотографии, то есть выполнять задачи, которые, как нам казалось, под силу только людям, они делают это не по-человечески. Facebook может так «разогнать» искусственный интеллект, что, имея всего одну фотографию любого человека на Земле, тот верно идентифицирует его среди 3 миллиардов человек в Сети. Человеческий мозг в таких масштабах работать не способен, что делает описанную задачу нечеловеческой. Мы ужасно плохо справляемся со статистическим мышлением, поэтому создаем разумы с хорошими статистическими навыками, чтобы они думали не так, как мы. Одно из преимуществ искусственных интеллектов, водящих автомобили вместо нас, заключается в том, что они будут управлять машиной вовсе не так, как это делаем мы, люди, с нашим легко рассеиваемым вниманием.

В мире сложных взаимосвязей способность мыслить иначе — это источник инноваций и благополучия. Быть просто умным недостаточно. Коммерческие мотивы сделают искусственный интеллект промышленного класса вездесущим, приведут к тому, что дешевый разум станет внедряться во все, что мы производим. Но еще более крупные барыши можно будет получить тогда, когда мы начнем изобретать новые виды разума и совершенно новые способы мышления. Прямо сейчас у нас нет полной таксономии разума.

Некоторые черты человеческого мышления будут встречаться часто (так же часто, как двусторонняя симметрия, сегментация и трубкообразные внутренние органы в биологии), но пространство вероятностей жизнеспособных разумов вполне может включать такие черты, которые в нашей эволюционной истории не встречались. Не столь важно, будут ли эти типы мышления быстрее, крупнее или глубже человеческого. В каких-то случаях они могут быть проще. Самые важные из наших машин — это не те, которые делают что-то лучше человека, а те, которые делают что-то, чего люди вообще не умеют. Самые важные из наших мыслящих машин не будут думать быстрее или лучше, чем мы; он будут думать о том, о чем мы думать не можем.

Для постижения великих тайн квантовой гравитации, темной энергии и темной материи нам, вероятно, понадобятся разумы, отличающиеся от человеческого. Предельно сложные вопросы, которые появятся после этого, потребуют привлечения еще более совершенных и далеких от нашего разумов. Кроме того, мы, вероятно, не сможем создавать их сами, и нам понадобятся разумы-посредники.

Сегодня многие научные открытия требуют совместной работы сотен человеческих интеллектов; в недалеком будущем могут появиться целые классы проблем настолько глубоких, что для их решения потребуются сотни разных видов разума. И это станет критически важным моментом с культурной точки зрения, поскольку принять ответы от другого разума будет непросто. Мы уже с этим сталкиваемся: например, с беспокойством воспринимаем математические доказательства, сделанные компьютером. Чтобы работать с другими разумами, потребуются новые навыки и новые горизонты самопознания.

Сокращение «ИИ» может также означать «иной интеллект». Нет никакой гарантии, что в течение следующих 200 лет мы встретимся с внеземными существами с одной из миллиарда планет земного типа, но мы можем с почти 100 %-ной уверенностью утверждать, что сами за это время сконструируем иной интеллект. Когда мы встретимся с этими искусственными пришельцами, то получим те же преимущества и столкнемся с теми же сложностями, каких могли бы ожидать от встречи с инопланетным разумом. Чтобы работать с иными интеллектами, потребуются новые навыки и новые горизонты самопознания. Для чего нужны люди? Самый очевидный ответ: для изобретения тех видов интеллекта, которые не смогла создать природа. Наша работа — сделать так, чтобы умные машины мыслили иначе, чтобы появились иные интеллекты. Назовем их искусственными пришельцами.