Что случится на следующий день после того, как человечество создаст общий искусственный интеллект?

«Мы стремительно приближаемся к новой эре, в которой мы передаём на аутсорс когнитивные способности, составляющие основу нашей идентичности как мыслящих существ», — пишет учёный в области информатики Луис Розенберг.

Последние несколько недель я спрашивал у людей в своём кругу профессионалов в области ИИ, готовы ли они морально к появлению искусственного сверхинтеллекта. Как правило, они пожимают плечами и высказывают различные опасения: возможное влияние на рынок труда или угроза дезинформации с помощью ИИ. Они также упоминают и потенциальные преимущества, такие как способность сверхинтеллекта помочь нам излечить болезни, совершить революцию в чистой энергетике, разгадать тайны Вселенной и, возможно, даже установить мир во всём мире.

Другими словами, они никогда по-настоящему не задумывались, какой будет жизнь на следующий день после того, как общий искусственный интеллект (ОИИ), превосходящий наши собственные когнитивные способности, станет общедоступным. От знаний и опыта до планирования, рассуждений, творчества и решения проблем — мы вскоре можем обнаружить, что нас превзошли по всем параметрам. Это реальная возможность в самом ближайшем будущем, и никто из моих знакомых не готов честно взглянуть в лицо тому глубокому (и потенциально деморализующему) влиянию, которое это может оказать на нашу человеческую идентичность.

Я отношу эту критику и к себе. Я пишу об опасностях сверхинтеллекта уже более десяти лет и тоже сосредотачивался на конкретных тактических рисках, таких как проблема манипуляции со стороны ИИ и парадокс появления разума. В то же время я так и не смог честно представить, какой на самом деле будет жизнь, когда мы, люди, коллективно осознаем, что утратили когнитивное превосходство на планете Земля и, скорее всего, никогда его не вернём.

Нет, последнее утверждение недостаточно личное.

Что я так и не смог себе представить, так это то, какой будет моя жизнь, когда я буду стоять один в лифте — только я и мой телефон — и самым умным в этом лифте, несущемся между этажами, окажется телефон. Когда вы позволяете себе задуматься об этом, вы понимаете, что самым большим потрясением для человечества будут не грядущие перемены на рынке труда или новые опасные технологии ИИ, которые мы, несомненно, будем использовать для манипуляции друг другом.

Нет, самым большим потрясением для человечества станет кризис идентичности, который ударит нас, словно роботизированный кулак в лицо, ошеломив и втолкнув в новую реальность, где ИИ в наших карманах (а вскоре — встроенный в наши очки, наушники или кулоны) сможет решить любую проблему, с которой мы сталкиваемся в повседневной жизни, и сделает это быстрее, умнее и креативнее, чем мы сами.

В этой новой реальности мы будем рефлекторно обращаться за советом к ИИ, прежде чем утруждать себя использованием собственного мозга. А во многих случаях нам даже не придётся спрашивать — рекомендации будут просто транслироваться в наши глаза и уши. Это потому, что ИИ в ваших носимых устройствах будет иметь доступ к встроенным камерам и микрофонам, что позволит ему видеть и слышать всё, что видите и слышите вы, и таким образом отслеживать полный контекст вашей жизни в реальном времени. Он также будет собирать историю ваших действий и реакций, что позволит ему точно предсказывать ваше поведение и эмоции практически в любой ситуации, предугадывая ваши желания и потребности ещё до того, как они возникнут в вашем сознании.

Иными словами, эти ассистенты на базе ИИ, осознающие контекст, будут давать вам советы без единого вашего слова. Когда вы будете идти по улице, ИИ может увидеть впереди ювелирный магазин и напомнить вам, что приближается ваша 20-я годовщина свадьбы и вам нужен подарок для жены. Затем он поможет вам выбрать то, что ей точно понравится, поскольку ИИ будет знать её вкусы лучше, чем вы. Это изменит то, кто мы есть, как мы живём и как строим отношения с другими людьми.

Впервые я написал о глубоком общественном влиянии ИИ-агентов, осознающих контекст, в своём графическом романе UPGRADE 2012 года. Я назвал этих агентов «Споукдженами» (Spokegens), потому что это были сгенерированные ИИ «представители», которые помогали и направляли нас, одновременно манипулируя нами в интересах платящих спонсоров. Чего я тогда не осознал, так это того, что самый большой риск таких ИИ-агентов — это не манипулятивное воздействие через целенаправленное убеждение.

Представьте, что у вас на плече сидит сверхинтеллектуальный помощник, который наблюдает за вашей жизнью и шепчет советы вам на ухо. Сначала это будет казаться сверхспособностью, но затем неизбежно последует великая цифровая расплата, когда мы все постепенно осознаем, что голос в наших ушах умнее нашего собственного внутреннего монолога. Что произойдёт, когда мы будем доверять голосу в наушниках больше, чем голосу в собственной голове? Я боюсь, мы станем послушными марионетками наших ИИ-помощников, и не из-за какого-то коварного плана по установлению контроля над нами, а просто потому, что они будут снабжать нас потоком советов, которые превосходят всё, что мы могли бы придумать сами.

Я знаю, многие читатели будут возражать, настаивая, что они никогда не предпочтут голос ИИ в ушах собственным мыслям. Мне бы тоже хотелось в это верить, но я подозреваю, что я не единственный идиот, который следовал указаниям GPS до конца тёмного переулка, хотя и понимал, что что-то не так. А ведь GPS далеко не сверхинтеллект. Это всего лишь навигационный инструмент, который избавляет от необходимости смотреть на карту. Но зависимость от сверхинтеллекта, который умеет рассуждать, планировать, вести переговоры и творить лучше, чем вы когда-либо сможете, — это, несомненно, ударит по самой сути того, что значит быть человеком. Как это может не деморализовать?

Мы стремительно приближаемся к новой эре, в которой мы передаём на аутсорс когнитивные способности, составляющие основу нашей идентичности как мыслящих существ. Некоторые эксперты считают, что это заставит нас почувствовать себя умнее и способнее, рассматривая это как усиление возможностей, но всё может пойти и по-другому. Эта эпоха «дополненной ментальности» может с лёгкостью заставить нас почувствовать себя мельче, менее уверенными и менее значимыми. Она может даже подорвать наши личные отношения. Например, когда ваш супруг(а) дарит вам подарок, вы будете гадать, не выбрал ли его для вас их ИИ. Вы даже будете сомневаться, являются ли слова, которые они говорят, вручая подарок, их собственными мыслями, или же им подсказывает их вездесущий ИИ (забавные примеры можно увидеть в короткометражном фильме «Потерянная приватность» / “Privacy Lost”).

Я поднимаю эти вопросы как человек, который всю свою карьеру посвятил созданию технологий, расширяющих человеческие возможности, — начиная с моей ранней работы по созданию дополненной реальности для ВВС США несколько десятилетий назад и заканчивая моей недавней работой в области ИИ над коллективным сверхинтеллектом. Я верю, что технологии могут коренным образом улучшить нас, значительно расширяя наши физические и умственные способности, но при этом позволяя нам оставаться людьми.

К сожалению, грань между расширением наших возможностей и их подрывом, или даже полной нашей заменой, становится всё тоньше. Если мы не проявим вдумчивость при внедрении контекстно-зависимых ОИИ-ассистентов, боюсь, мы пересечём эту черту. Поскольку этот риск стремительно приближается, я призываю исследователей ИИ и предпринимателей заглянуть за пределы того рокового дня, когда мы все вместе создадим ОИИ, и сосредоточиться на том, каково это будет — быть человеком на следующий день.

Луи Розенберг, генеральный директор и главный научный сотрудник Unanimous AI.

Читайте также: Разум машин: скрытое влияние искусственного интеллекта на человеческое мышление