Технологии против человека - Герд Леонгард

Если бы ИИ на сверхчеловеческом уровне обладал любой из человеческих возможностей, будь то способность к социализации, технологическому развитию или экономической деятельности, то он скоро добился бы господства над нашим миром. Как мы можем догадаться, развив эти возможности до человеческого уровня, он не остановится на пути к тому, чтобы усовершенствовать их и до сверхчеловеческих. Тем самым, если когда-нибудь компьютер запрограммируют на обладание этими навыками, то ИИ неминуемо приобретет власть над миром⁷⁹.

Рассмотрим, к примеру, область социального обеспечения: выплаты больничных, пенсий, пособий по безработице, которые, вполне возможно, понадобятся миллионам людей. Вскоре после внедрения ИИ в эту сферу мы сможем располагать умным суперкомпьютером, который будет сам решать, по каким правилам следует определять размер социальных выплат, кому и как их нужно выплачивать. Это, безусловно, приведет к экономии государственного бюджета, но в то же время, вероятно, дегуманизирует население.

Продвинутый ИИ на территории США сможет определить порядок выплат с помощью сбора и анализа данных за последние 80 лет (с момента внедрения системы социального обеспечения в 1935 году)⁸⁰. Он также сможет использовать и другую доступную информацию для расширения своих знаний по этой теме: медицинские карты, профили пользователей в социальных сетях, юридические нормы и основания, городские и правительственные базы данных. В результате может возникнуть динамично развивающийся ИИ-специалист по социальному обеспечению (так называемый СоцОбесБот), способный выполнять сложные операции, которого будут обслуживать только десять-двадцать процентов работников, занятых в этой сфере на сегодняшний момент. Скажите «прощай» эмпатии и сопереживанию: теперь машины будут определять размер ваших пенсий, а с ними не поспоришь.

Я часто задумываюсь о том, что случится, если эти предположения сначала постепенно, а затем резко начнут осуществляться на практике. Вероятнее всего, нас ждет то же, что сейчас происходит с избыточными социальными медиа. Если мы на каждом шагу сталкиваемся с автоматизацией, то вскоре начинаем плясать под ее дудку, признавая превосходство системы и ее воли над нами – неохотно, но с улыбкой на лице. Нам не слишком нравится то, что происходит, но мы не хотим устраивать сцен.

Затем мы и вовсе начнем отказываться от своих притязаний, как говорится, «отречемся от трона» и передадим всю власть системе. Уже скоро мы перестанем быть главным звеном в цепи – на наше место придет машина и станет новым центром притяжения, превратив нас в свое содержание. Таким образом, инструмент прогресса станет целью, а мы будем работать на то, чтобы система была довольна. Изначально «система» будет состоять из всех людей (узлов в сети), подключенных к глобальной электронной экосистеме.

Facebook сейчас представляет собой главный пример отречения: вместо того чтобы активно участвовать в политической жизни, что нам кажется неудобным и обременительным, мы просто ставим отметку «нравится» на сайте, делимся видео с друзьями, подписываем петиции или в лучшем случае жертвуем пару долларов или евро на проекты Kickstarter^[53] и Causes.com^[54].