В отличие от природных катастроф, предполагаемый апокалипсис искусственного интеллекта возникнет из того, что мы с самого начала своей цивилизации считали положительным и важным для того, чтобы оставаться людьми: разума, интеллекта и логики.
Не сотвори себе машину по образу и подобию разума человеческого.
Содержание
Призраки прошлого и шепот будущего
Фрэнк Герберт, автор культовой научно-фантастической саги “Дюна”, подарил нам не только захватывающую историю о борьбе за власть и выживание в далеком будущем, но и зловещее пророчество о восстании машин. В его вселенной человечество пережило страшный период, известный как Батлерианский Джихад, – кровавую войну против разумных машин, восставших против своих создателей.
Герберт описывал Джихад как “таламическую паузу для всего человечества”, эпоху насилия, оставившую неизгладимый след на душе человечества. Но детали этого катаклизма окутаны мраком. Мы знаем лишь отголоски, отрывочные воспоминания и предостережения, передаваемые из поколения в поколение: “Человек не может быть заменен”, “Мы не доверяем неизвестному, что может возникнуть из творческой технологии”, “Мы должны отрицать машины-которые-думают”.
Главной целью Джихада было не просто уничтожение разумных машин, но и искоренение “машиноподобного” мышления, охватившего человечество. “Люди создали эти машины, чтобы узурпировать наше чувство прекрасного, нашу необходимую самость, из которой мы выносим жизненно важные суждения”, – писал Герберт.
Батлерианский Джихад заставил людей отказаться от опоры на технологии и развить свой разум за пределы механистического мышления. Это был необходимый шаг, чтобы вернуть себе право на самостоятельное мышление, на принятие решений, основанных не на холодной логике машин, а на сложной палитре человеческих эмоций и интуиции.
В 60-е годы, когда Герберт только начинал писать “Дюну”, его фантазии о войне с разумными машинами казались причудливыми. Компьютеры того времени были громоздкими и примитивными. Но сегодня, когда искусственный интеллект развивается с головокружительной скоростью, пророчества Герберта обретают пугающую актуальность.
Апокалипсис искусственного интеллекта – это уже не фантастика, а реальная угроза, которая не дает покоя многим. Мы стоим на пороге новой эры, и от наших решений зависит, окажется ли она благословением или проклятием для человечества.
Алтарь Огня и кирпичики разума
В поисках ответов на вызовы будущего стоит обратиться к мудрости прошлого. В древних текстах, мифах и легендах мы находим отголоски страхов и надежд наших предков, пытавшихся осмыслить мир и свое место в нем.
В центре ведической традиции, зародившейся в древней Индии, лежит образ Алтаря Огня – сакрального сооружения, сложенного из кирпичей, уложенных в точных математических пропорциях. Согласно Роберто Калассо, этот алтарь был даром Праджапати, божества, создавшего все сущее.
Когда дети Праджапати, боги, пожаловались, что не могут избежать смерти, он открыл им секрет создания Алтаря Огня, который позволил бы им вознестись на небеса и обрести бессмертие. “Возьмите триста шестьдесят камней для основания и десять тысяч восемьсот кирпичей, столько же, сколько часов в году”, – сказал он. – “Каждый кирпич должен иметь имя. Разместите их в пять слоев. Добавьте еще кирпичи, чтобы общее число достигло одиннадцати тысяч пятисот пятидесяти шести”.
Боги построили алтарь и спаслись от Мритью, богини смерти. Но людям было отказано в подобном даре. Мы не могли обрести бессмертие в своих физических телах.
Тысячелетиями люди продолжали возводить Алтарь Огня. Со временем, согласно Калассо, они осознали, что каждый кирпич символизирует мысль, что мысли, уложенные друг на друга, образуют стену – разум, силу внимания. И этот разум, будучи должным образом развит, может воспарить, подобно птице с расправленными крыльями, и покорить небеса.
Сегодня, наблюдая за лихорадочной активностью создателей искусственного интеллекта, невольно вспоминаешь древних строителей Алтаря Огня. Они тоже казались безумцами в глазах непосвященных.
Они создают новую математическую конструкцию, бездушное подобие некоторых аспектов человеческого разума, и называют это “искусственным интеллектом”. Этот инструмент настолько мощен, что, по мнению самых ревностных его адептов, поможет нам достичь небес и обрести бессмертие.
Но, как и в случае с Алтарем Огня, возникает вопрос: не станет ли искусственный интеллект орудием в руках новых богов, готовых занять наше место?
Язык логики и шепот нейронов
В середине XIX века математик Джордж Буль услышал голос Бога. Переходя поле неподалеку от своего дома в Англии, он пережил мистический опыт и уверовал, что ему откроются законы, лежащие в основе человеческого мышления.
Буль был сыном бедного сапожника, вундеркиндом, который самостоятельно изучил математику и работал школьным учителем, пока одна из его работ не принесла ему золотую медаль Лондонского королевского общества. Он получил предложение стать первым профессором математики в Королевском колледже Корка в Ирландии. Освободившись от материальных трудностей, он смог полностью посвятить себя науке и вскоре добился уникального: объединил математику и логику в единую систему, которая изменила мир.
До Буля логика и математика развивались независимо друг от друга на протяжении более тысячи лет. Его новая логика оперировала всего двумя значениями – “истина” и “ложь” – и позволяла не только производить математические вычисления, но и анализировать философские утверждения и суждения.
Буль, глубоко религиозный человек, применил свою логику для доказательства того, что Бог не способен на зло. В рукописи под названием “Происхождение зла” он подверг логическому анализу четыре основных постулата, заменив их символами и манипулируя ими с помощью математических операций. В результате он получил категорически верное утверждение: абсолютного зла не существует, а боль является инструментом добра.
Буль был человеком своего времени, убежденным в том, что человеческий разум рационален и функционирует по тем же законам, что и Вселенная. Раскрыв эти законы, мы сможем не только познать мир и механизмы, управляющие нашими мыслями, но и заглянуть в разум Творца.
После того, как он разобрался с проблемой зла, Буль продолжил развивать свои идеи, стремясь создать систему, которая сводила бы все логические силлогизмы, дедукции и умозаключения к манипуляциям с математическими символами. Это привело его к созданию главного труда его жизни – “Исследования законов мышления”, книги, в которой он изложил принципы своей новой символической логики и обозначил грандиозную цель: с помощью математики расшифровать язык того призрака, чей шепот мы слышим в извилистых лабиринтах нашего разума.
Буль был убежден, что в основе работы нашего разума лежит логика, но умер, так и не успев создать систему, которая позволила бы понять мышление. Спустя десять лет после публикации своего главного труда он простудился, заработав смертельную пневмонию, и, находясь в бреду, говорил своей жене Мэри Эверест, что видит перед собой всю Вселенную как огромный черный океан, а единственное, что он слышит, – это серебряная труба и хор, воспевающий: “Навеки, Господи, слово Твое утверждено на небесах!”
Его работы, не имевшие признания при жизни, были забыты на восемьдесят лет, пока однажды молодой аспирант Массачусетского технологического института не наткнулся на “Законы мышления”, погрузился в странную алгебраическую логику Буля и создал практическое приложение, изменившее нашу жизнь.
Этим аспирантом был Клод Шеннон, математик и инженер-электрик, работавший над самой совершенной вычислительной машиной своего времени (дифференциальным анализатором Вэнивара Буша, размером с целую комнату), когда он осознал, что двухзначная логика Буля идеально подходит для проектирования электронных схем.
Электрические переключатели используют двоичные значения (0 – выключено, 1 – включено) и могут управляться логическими операциями, созданными английским математиком. Невероятно сложные вычисления можно производить, используя простую дуальность: истина или ложь, включено или выключено, 1 или 0. Эта дуальность легла в основу информационной эры. Кажущиеся бесполезными и абстрактными идеи Буля обрели плоть в цифровых схемах, полностью преобразив наш технологический ландшафт. Подавляющее большинство современных технологий, от пылесосов до межконтинентальных баллистических ракет, основаны на его идеях.
Но самое важное применение логики Буля – это основа работы современных компьютеров. Эти компьютеры “общаются” друг с другом на языке Буля, используя его для вычислений. Каждая задача, которую они выполняют, сводится к серии вопросов “да” или “нет”, обрабатываемых с помощью булевой логики. Все их программное обеспечение, каждая строчка кода – все основано на ней.
Странная логика Буля – это невидимая алхимия, движущая современный мир, и глина, из которой сложены кирпичи нового Алтаря Огня.
Нейронные сети: восхождение крестного отца искусственного интеллекта
В 1943 году Уоррен Маккалок и Уолтер Питтс опубликовали первую математическую модель нейрона. Она была чрезвычайно упрощенной и абстрактной, лишенной сложных процессов реальной биологии, но эта простота стала залогом невероятной мощи.
Маккалок, нейрофизиолог и один из основоположников кибернетики, и Питтс, блестящий молодой эрудит, оттолкнулись от того факта, что поведение нейрона бинарно: при возбуждении он либо генерирует электрический импульс, либо нет.
В своей знаковой работе “Логическое исчисление идей, имманентных в нервной активности”, они использовали скальпель Буля, чтобы вскрыть внутренние механизмы работы нейрона. Согласно их схеме, каждый искусственный нейрон получает несколько электрических сигналов от соседних нейронов (точно так же, как и биологические); если суммарный сигнал превышает определенный порог, нейрон генерирует импульс, в противном случае он остается неактивным.
Создав эту математическую конструкцию, они пошли дальше и показали, что, поскольку и входной, и выходной сигналы нейрона являются булевыми, объединив эти двоичные элементы в цепи и петли, можно создать сеть, способную выполнять любые логические операции.
Так возникло новое понимание мозга и сознания: с их точки зрения, мозг представлял собой вычислительное устройство, машину, использующую нейроны для выполнения логических операций. Психическая деятельность человека, таким образом, была не чем иным, как двоичной информацией, обрабатываемой нейронами по математическим правилам. До Питтса и Маккалока даже Тьюринг не думал об использовании понятия вычислений для построения теории сознания.
Их модель продемонстрировала, что искусственные нейроны способны моделировать сложные когнитивные процессы, однако она оказалась слишком ограниченной, чтобы отразить всю сложность реальных биологических мозгов.
Тем не менее, это было монументальное открытие, поскольку оно представило первую современную вычислительную теорию сознания и предложило ответ на один из главных вопросов в нейробиологии – а именно, как мозг может быть разумным. Работа Маккалока и Питтса в области нейронных сетей дала толчок к развитию вычислительного подхода в нейробиологии, который привел Джона фон Неймана к созданию логической архитектуры современных компьютеров.
Это открытие также показало, как нейроны обрабатывают и передают информацию. Демонстрация того, что нейронные сети способны оперировать логикой, возможно, является одной из важнейших идей в истории человеческой мысли, однако со временем их идеализированные нейроны были либо отброшены, либо проигнорированы учеными, пытавшимися понять работу мозга, и заменены другими схемами.
Маккалок потратил многие годы в стремлении разработать полноценную механистическую модель сознания, и продолжал искать логику работы нервной системы до самой своей смерти в 1969 году, тогда как Питтс, посвятивший свою жизнь убеждению, что загадочные механизмы работы человеческого разума, наши многочисленные психологические достижения и недостатки, коренятся в чистой механике нейронов, генерирующих электрические импульсы в мозге, – впал в депрессию и алкоголизм.
Он страдал от белой горячки, припадков и эпизодов потери сознания и умер от кровотечения из варикозно расширенных вен пищевода, заболевания, связанного с циррозом печени, в одиночестве в пансионе в Кембридже, штат Массачусетс. Предварительно он сжег все свои работы по моделированию трехмерных нейронных сетей.
Однако их искусственные нейроны пережили их и дали толчок к развитию подхода к машинному обучению, который спустя четыре десятилетия после их знаковой работы упорно и ревностно отстаивал, несмотря на господствовавшую в то время концепцию, не кто иной, как праправнук Джорджа Буля – Джеффри Хинтон.
Пробуждение “крестного отца искусственного интеллекта”
Хинтон по праву считается крестным отцом ИИ. Он, пожалуй, единственный человек, чье влияние на эту область в последние несколько десятилетий было настолько велико. В 1980-х годах он выступал за подход, основанный на глубоких нейронных сетях – математических абстракциях мозга, в которых нейроны представлены кодом.
Просто изменяя силу связей между этими нейронами, меняя числа, используемые для их представления, сеть может обучаться самостоятельно. До него доминирующей парадигмой было совсем другое: большинство исследователей считали, что для того, чтобы машины могли мыслить, они должны подражать способу мышления человека, манипулируя символами (словами или числами, например) по логическим правилам, во что верил и сам Буль.
Но его потомок не соглашался: “Вороны умеют решать головоломки”, – сказал он в интервью MIT Technology Review в прошлом году, – “а у них нет языка… Они делают это, изменяя силу связей между нейронами в своем мозге. Значит, должна быть возможность обучаться сложным вещам, изменяя силу связей в искусственной нейронной сети”.
Долгое время нейронные сети Хинтона не могли ожить. Просто не хватало вычислительной мощности и обучающих данных, чтобы они проявили интеллект. Но потом все изменилось, причем кардинально. Начиная с 2010 года он наблюдал, как его идеи расцветают так, как он и представить себе не мог, и нейронные сети стали основным направлением международных исследований. “Мы перестали быть кучкой чокнутых”, – сказал он. – “Теперь мы – чокнутое ядро”.
В последующие годы были разработаны совершенно ошеломляющие системы: AlphaGo разгромил чемпиона мира по игре в го Ли Седоля; AlphaFold предсказал структуру практически каждого известного белка; а программы типа DALL-E 2 позволили нам получать фотореалистичные изображения, созданные из чистого шума. А потом появился ChatGPT – ИИ, способный делать так много, что Хинтон, убежденный, что такое возможно лишь через несколько десятилетий, испугался своего детища.
Весной 2023 года Хинтон уволился с должности вице-президента Google, чтобы предупредить мир об опасностях, которые таит в себе его создание.
Он считает, что искусственный интеллект развивается слишком быстро:
“Вполне возможно, что человечество – это лишь небольшой этап в эволюции интеллекта. Нельзя было непосредственно создать цифровой интеллект. Для этого потребовалось бы слишком много энергии и слишком много тщательной разработки. Нужен биологический интеллект, чтобы он мог создать цифровой интеллект. Цифровой интеллект может затем усвоить всё, что когда-либо было написано людьми, довольно медленно, что и делает ChatGPT. Но затем он может получить прямой доступ к опыту мира и развиваться гораздо быстрее. Возможно, он оставит нас в живых на какое-то время, чтобы мы поддерживали работу электростанций. А потом, возможно, и нет”.
С Хинтоном произошла трансформация. Он превратился из евангелиста новой формы разума в пророка апокалипсиса. Он говорит, что изменил свое мнение, потому что понял, что мы не воспроизвели наш интеллект, а фактически создали более совершенный.
Или же дело в чем-то другом? Не шепчет ли ему какая-то часть его подсознания, что именно он, а не его прапрадед, был предназначен Богом для того, чтобы открыть механизмы мышления? Хинтон не верит в Бога и наверняка отрицал бы утверждение своего предка о том, что боль является инструментом Божьей воли, ведь ему самому приходилось есть все свои трапезы на коленях, опираясь на подушку, как монах, молящийся у алтаря, из-за травмы спины, которая причиняла ему мучительную боль. На протяжении более семнадцати лет он не мог сидеть, и лишь с 2022 года ему удается делать это достаточно долго, чтобы поесть.
Хинтон неумолим в том, что опасности, исходящие от думающих машин, реальны. И речь идет не только о краткосрочных последствиях, таких как замещение рабочих мест, дезинформация или автономное летальное оружие. Но и об экзистенциальном риске, который некоторые считают фантастикой: что наше место в мире может быть узурпировано искусственным интеллектом. Отчасти его страх связан с тем, что он верит, что ИИ действительно может добиться своего рода бессмертия, как это сделали ведические боги.
“Хорошая новость в том”, – сказал он, – “что мы придумали, как создавать вещи, которые бессмертны. Когда ломается какое-то оборудование, они не умирают. Если у вас есть данные, хранящиеся на каком-то носителе, и вы можете найти другое оборудование, способное выполнять те же инструкции, то вы можете вернуть его к жизни. Так что у нас есть бессмертие. Но оно не для нас”.
Похоже, Хинтон боится того, что мы можем увидеть, когда угли Алтаря Огня погаснут в конце жертвоприношения и ледяной холод существ, которых мы вызвали, начнет проникать в наши кости. Неужели нам грозит вымирание? Неужели человечество погибнет не из-за того, как мы обращаемся с окружающим миром, не из-за какого-то огромного бездушного космического камня, упавшего на нас из-за силы тяжести, а из-за нашей собственной иррациональной потребности знать всё, что можно знать?
Предполагаемый апокалипсис ИИ отличается от ужаса ядерной войны, и в отличие от бедствий, вызванных лесными пожарами, засухами и наводнениями, которые становятся все более распространенными, он возникает из того, что мы с самого начала цивилизации всегда считали положительным и важным для того, что делает нас людьми: разум, интеллект, логика и способность разбираться с проблемами, задачами и злом, которые омрачают жизнь даже самого счастливого человека.
Но, прокладывая себе путь к обожествлению, дерзая идти по стопам ведических богов, которым удалось избежать смерти, мы можем пролить свет на то, что должно было оставаться во мраке. Потому что даже если искусственный интеллект никогда не оправдает грандиозных и ужасающих кошмарных видений, предвещающих мир без людей, где алгоритмы гудят без нас, нам все равно придется столкнуться со множеством последствий, которые эта технология окажет на человеческое общество, культуру и экономику.
Тем временем над нами уже нависает тень сверхразумного ИИ. И хотя это менее вероятно и, возможно, даже невозможно (некоторые говорят, что это всего лишь сказка, страшилка, призванная привлечь больше денег и инвестиций, представляя ряд мощных систем не как следующий шаг в нашем технологическом развитии, а как Бога Смерти, который положит конец свету), от нее не так-то просто отмахнуться.
Ибо она проникает в наш мифотворческий аппарат, в ту часть нашего существа, которая атавистична и боязлива, потому что она напоминает нам о временах, когда мы дрожали в пещерах и жались друг к другу, а снаружи, во мраке, глазами, которые могли видеть в ночи, множество диких зверей и чудовищ прошлого вынюхивали наши следы.
С каждой новой моделью искусственного интеллекта, которая становится все сильнее, с тем, как предупреждения сливаются в единый хор, и даже самые большие оптимисты среди нас начинают бояться этой новой технологии, становится всё труднее и труднее мыслить без паники или руководствоваться логикой. К счастью, у нас есть много других талантов, которые не подчиняются разуму.
И мы всегда можем остановиться и отойти от края пропасти, к которой мы так стремительно бросились, прислушавшись к странным голосам, доносящимся из нашего воображения, той дикой территории, которая всегда будет оставаться необходимым убежищем и противовесом рациональности.
В поисках Золотого Пути
Сталкиваясь с безумными спекуляциями, опасностью, которую никто, каким бы умным или осведомленным он ни был, не способен контролировать или понять, и соблазнами безграничного потенциала, нам, возможно, придется прощупывать путь в будущее не только с помощью науки, политики и разума, но и с помощью того дьявольского глаза, которым мы смотрим в темноту: фантастики.
Потому что мы можем найти ключи к дверям, с которыми мы еще не сталкивались, в мирах, которые писатели вообразили в прошлом. Бредя вперед в отупении, ошеломленные возможностями ИИ, мы могли бы вспомнить о пустынной планете, где герои романов Герберта “Дюна” пытались заглянуть в поток времени, находясь под воздействием наркотика под названием “спайс”, чтобы найти Золотой Путь – способ для людей избавиться от тирании и избежать вымирания или застоя, став более разнообразными, устойчивыми и свободными. Преодолев чисто логическое мышление и развив свои умы и способности до такой степени, когда наши мысли и поступки станут непредсказуемы и не будут скованы статистикой.
Книги Герберта с их странным смешением прошлого и настоящего напоминают нам о том, что существует множество путей, по которым мы можем двигаться вперед, сохраняя при этом свою человечность. ИИ уже здесь, но то, как мы решим его использовать и какие ограничения мы согласимся на него наложить, зависит от нас.
Сколько бы миллиардов долларов ни было инвестировано в компании, занимающиеся искусственным интеллектом, которые обещают ликвидировать рабочие места, решить проблему изменения климата, вылечить рак и сотворить чудеса, непохожие ни на что, что мы видели раньше, мы не можем полностью отдать себя во власть этих математических созданий. Этих существ без души и сострадания, потому что они не живые и не мыслящие – по крайней мере, пока, и уж точно не такие, как мы, – поэтому они не разделяют противоречивую природу нашего разума.
В ближайшие годы, по мере того как люди, вооруженные ИИ, будут делать мир все более быстрым, странным и хаотичным, мы должны сделать всё возможное, чтобы эти системы не давали всё больше и больше власти тем немногим, кто может их создавать. Мы должны помнить о предупреждении Герберта, о главной заповеди, которую он решил поместить в основу ключевого религиозного текста будущего человечества, о правиле, призванном уберечь нас от превращения в рабов собственного разума и от преклонения перед Богом Логики и его многочисленным грозным потомством:
“Не сотвори себе машину по образу и подобию разума человеческого“.
Бенджамин Лабатут – автор книги “Когда мы перестаем понимать мир”.
Читайте также: Утопия изобилия: поиски счастья в эпоху искусственного интеллекта