Искусственный разум и новая эра человечества - Эрик Шмидт

В конечном счете каждая страна должна сама решить, каким образом она будет использовать и как ограничивать использование ИИ в различных областях. И применение ИИ, и его ограничения нужны для различных целей, важных для общества, – от использования ИИ-помощников для защиты детей от агрессии до предотвращения использования ИИ для создания смертельных вирусов или вредоносных программ. Доступ к определенным мощным ИИ, таким как AGI, необходимо будет строго ограничивать, чтобы предотвратить злоупотребления. Поскольку разработка AGI, скорее всего, будет настолько дорогой, что их будет создано немного, доступ к ним будет в любом случае ограничен. Некоторые ограничения могут нарушать принятые в стране правила свободного предпринимательства или демократической деятельности. Реализация других ограничений, например ограничения использования ИИ для производства биологического оружия, потребует международного сотрудничества.

На момент создания этой книги ЕС уже изложил планы по регулированию ИИ^[70], направленные на обеспечение баланса между европейскими ценностями, такими как конфиденциальность и свобода, экономическим развитием и поддержкой европейских компаний, работающих в сфере ИИ. Эти правила прокладывают для Европы курс между Китаем, где значительные средства в ИИ вкладывает государство, и США, где исследования и разработки в области ИИ в основном отданы на откуп частному сектору. Их основная цель – контролировать использование компаниями и правительствами данных и ИИ, а также способствовать созданию и росту европейских компаний, занимающихся ИИ. В нормативной базе должна учитываться оценка рисков различных видов использования ИИ. Применение правительствами некоторых технологий, считающихся высокорисковыми, таких как распознавание лиц (хотя оно имеет и полезное применение, например поиск пропавших без вести и борьба с торговлей людьми), должно быть ограничено или даже запрещено. Исходная концепция регулирования будет активно обсуждаться и изменяться, но уже сейчас она иллюстрирует то, как общество определяет необходимый для улучшения образа жизни людей диапазон ограничений ИИ.

Ключевые слои общества должны быть вовлечены в постоянное обсуждение приемлемых ограничений на развертывание ИИ. В США академические группы и консультативные органы уже начали изучать взаимосвязь существующих процессов и структур с развитием ИИ. К ним относятся такие академические активности, как инициатива МИТ, посвященная будущему трудовой деятельности^[71], и такие правительственные организации, как Комиссия национальной безопасности по искусственному интеллекту^[72]. Но эти усилия остаются специализированными и поэтому не всегда попадают в поле зрения электората. Страны, которые откажутся от анализа взаимодействия с ИИ, неизбежно отстанут от стран, которые занимаются таким анализом и тем самым повышают материальные и интеллектуальные преимущества, которые предлагает партнерство с ИИ.

Потребуется новая форма мышления, выходящая за рамки традиционных дисциплин или школ. Чтобы отвечать сложности происходящих изменений, необходимо научиться по-новому интегрировать области знания. Университеты, правительства, технологические компании и др. должны стремиться обсуждать – в той степени, в какой это соответствует их задачам, – свои вопросы, идеи, представления и открытия, сделанные в этой области.

Страны, которые занимаются подобными исследованиями, придут к разным выводам, отражающим их историю и взгляды. Так же, как меняются концепции и институты, разработанные разными странами для упорядочения фундаментальных знаний, будут меняться и создаваемые в разных странах ИИ, а также понимание аналитической, прогнозной и генеративной деятельности – и как это влияет на их нормы и институты. Поскольку данные, на которых обучается ИИ, содержат культурные предпочтения стран, в которых это происходит, то в одних частях света ИИ может усилить централизацию, консенсус и конформизм, а в других – способствовать либерализации и плюрализму. Для обеспечения мира во всем мире придется выработать способы сосуществования этих целей и подходов.