Пока мы ломаем голову над тем, обретут ли машины когда-нибудь сознание, мы редко задумываемся: а что происходит с нами?
С 1950-х годов дискуссии об искусственном интеллекте вращаются вокруг одного большого, заманчивого вопроса: на что способны машины и где их предел? Смогут ли они когда-нибудь по-настоящему мыслить, понимать или даже обрести сознание? Достигнут ли они так называемых «вершин человеческого интеллекта»? И ещё один, тёмный вопрос маячит на заднем плане: восстанут ли они против нас, если смогут, став своего рода конкурирующим видом? Этот страх годами питал воображение. Философ Ник Бостром, например, предвидит будущее, в котором сверхинтеллект машин будет контролировать нашу судьбу, подобно тому, как сегодня власть человека определяет выживание горилл.
С появлением генеративного ИИ в 2022 году перспектива искусственного разума вдруг стала ощущаться гораздо ближе. Как отмечает историк Юваль Ной Харари, генеративный искусственный интеллект «взломал операционную систему нашей цивилизации» — язык. Что, если в этом новом мире ИИ начнет генерировать не только слова, но и убеждения, мифы и, возможно, даже новую культуру, которая полностью изменит ход человеческой истории? С другой стороны, большинство философов ИИ поспешили охладить эти пылкие головы, указав, что, хотя искусственный интеллект может мастерски имитировать и симулировать человеческий разум (то, что знаменитый философ Джон Сёрл назвал «слабым ИИ»), он просто не обладает — и не может обладать — собственным разумом («сильный ИИ»).
Однако эта пристальная сосредоточенность на том, что могут или не могут делать машины, заставила нас упустить из виду не менее важный вопрос. Занимаясь гаданием на кофейной гуще о сознании машин, мы забываем спросить: а что происходит с нами? Как меняемся мы, осознавая, что даже сегодняшний, имитирующий разум «слабый ИИ» уже способен выполнять когнитивные задачи, которые мы когда-то считали исключительно человеческими?
Именно с таким столкнулся философ Свен Нюхольм. Однажды, экспериментируя с ChatGPT, он ввел запрос: «Что бы Мартин Хайдеггер подумал об этике ИИ?» К его удивлению, программа быстро выдала «довольно впечатляющее короткое эссе на эту тему». Нюхольм откровенно признался, с оттенком иронии, что «ChatGPT справился лучше, чем по крайней мере некоторые — а может быть, и многие — студенты на моих занятиях». Он даже признался, что ответ ИИ, возможно, был лучше, чем то, что он сам смог бы сформулировать экспромтом.
Этот история, опубликованная в 2023 году, относится к самой ранней стадии эволюции больших языковых моделей (LLM). Всего через год или два мы, возможно, не сможем отличить работу, написанную университетским профессором, от работы, созданной умелым, но бездумным ИИ. Если машины могут быстро сплетать сложные идеи из различных школ мысли, выявляя концептуальные связи, будет ли такая академическая деятельность по-прежнему считаться интеллектуальной, и сохранит ли какую-либо ценность то знание, которым мы так гордимся — наша способность активировать сеть ассоциаций и сравнений в нашем мозгу?
Это лишь один пример того, как Прометей от искусственного интеллекта выхватывает огонь из рук человеческих богов, предвещая философское, психологическое и экзистенциальное потрясение, которое мы слишком охотно игнорируем. Но случится ли этот кризис только в случае господства «сильного ИИ»? Вряд ли. Даже сегодняшние так называемые слабые ИИ — которые могут делать статистически то, что мы делаем семантически, достигая тех же результатов без настоящего интеллекта или самосознания — уже заставляют нас задуматься. Представьте себе художника, утверждающего, что он вложил душу в каждый мазок: имеет ли значение, если программа может создать нечто столь же волнующее, не имея души и не испытывая ни капли чувства?
Вызов человеческой мысли
К счастью, в последние несколько лет некоторые философы начали ощущать приближение подземных толчков этого кризиса смысла. Дискуссии о том, как искусственный интеллект может повлиять на нашу способность жить полноценной жизнью и испытывать чувство самореализации, только-только начинают делать первые робкие шаги. Этика ИИ вышла за рамки простого определения того, как использовать эти технологии морально и эффективно.
Тем не менее, даже эти новые дискуссии часто упускают из виду общую картину, фокусируясь в основном на том, сделает ли искусственный интеллект бессмысленными такие важные виды человеческой деятельности, как работа, или же он откроет новые пути к обретению смысла, например, в виртуальных реальностях. Но есть более глубокий, не заданный вопрос, который остается в тени, тот самый, который поднял неординарный мыслитель Джидду Кришнамурти в начале 1980-х: «Если машина может делать всё, что может человек, и делать это даже лучше нас, то что тогда есть человек, что есть ты?»
Когда Кришнамурти (1895–1986) задал этот вопрос, он был 85-летним мудрецом, который почти 60 лет исследовал тайны разума, сознания и необходимость психологической революции. Он не был типичным философом; родившись в Индии, Кришнамурти проложил свой собственный путь как бескомпромиссный мыслитель. Он отвернулся от организованной религии и идеологических систем, веря, что истинная свобода может исходить только изнутри. Для него ключ к осмысленной жизни заключался в самоисследовании и таком образовании, которое пробуждало бы независимое мышление и глубокое самосознание. Философия Кришнамурти заключалась не в следовании набору убеждений — она заключалась в бесстрашном погружении каждого человека в большие, тревожные вопросы жизни.
1980 год стал поворотным для философии искусственного интеллекта, хотя сам ИИ всё ещё находился в зачаточном состоянии. Философ Джон Сёрл представил свой ныне знаменитый мысленный эксперимент «Китайская комната», утверждая, что машины могут выдавать впечатляющие результаты без малейшего проблеска истинного понимания. Примерно в это же время Кришнамурти также столкнулся с миром ИИ в беседах с учеными-компьютерщиками.
Но его поразили не чудеса технологии, а тревожный вызов, который она бросила человеческому разуму — идея о том, что машины могут однажды взять на себя его уникальные процессы и способности. Этот вопрос глубоко запал ему в душу и стал одним из его самых серьезных беспокойств в последнее десятилетие жизни. Он чувствовал острую необходимость донести эту проблему до своей аудитории, видя в ней неотложный кризис, требующий пристального внимания.
Кришнамурти, как всегда провидец, выдвинул ряд смелых предсказаний — почти пророческих предостережений — о будущем, в котором люди могут оказаться на грани исчезновения. С присущей ему страстностью он нарисовал яркую картину недалекого будущего — «лет через десять-пятнадцать» — где искусственный интеллект полностью затмит человеческий, превратив нас в общество праздных зомби, зацикленных на отдыхе и развлечениях. Машины, предсказывал он, будут диктовать нам, как жить, ставить диагнозы лучше любого врача, переводить книги, сочинять симфонии, соперничающие с Бетховеном, создавать новаторские философские системы и даже новых гуру и богов для нашего поклонения.
Хотя это предвидение сбылось не полностью, и человеческая культура продолжает жить и развиваться 44 года спустя, недавние скачки в машинном обучении — особенно в области глубокого обучения — перекликаются с некоторыми прогнозами Кришнамурти. Большие языковые модели теперь генерируют человекоподобные тексты, эссе, стихи и даже произведения искусства и музыки, в то время как искусственный интеллект осваивает разработку лекарств и научные открытия. Во многих отношениях образ мира, который он предвидел, начинает проявляться все явственнее.
Механизированный разум
Апокалиптическое видение Кришнамурти неожиданно перекликается с идеей Юваля Ноя Харари об ИИ как создателе культуры. Но есть одно большое различие: Кришнамурти меньше волновали социальные проблемы, такие как дезинформация. Смыслом его жизни было разоблачение механических привычек разума. Для него идея о том, что машины могут имитировать человеческое мышление, была не просто интригующей — это было откровение с глубоким психологическим и духовным подтекстом. Если наш разум может быть воссоздан машиной, то, возможно, наше мышление более роботизировано, чем нам хотелось бы думать. И эта реальность потрясает нас до самой глубины человеческой сущности.
Не то чтобы Кришнамурти считал разум чем-то вроде компьютера. В то время как сторонник вычислительного функционализма мог бы утверждать, что создать разум так же просто, как построить машину, Кришнамурти верил, что наш разум — это нечто гораздо большее. Но он опасался, что мы себя недооцениваем, позволяя нашему разуму завязнуть в механических рутинах, таких как память и обработка информации.
Разум, который работает только таким образом, предупреждал он, легко скопировать, даже заменить машиной. Итак, настоящий вопрос не в том, разовьет ли ИИ человекоподобный разум, а в том, не превращаемся ли мы сами в машиноподобный разум. «Компьютеры бросают вам вызов, — говорил он, — и вы должны принять этот вызов». Для него принять вызов означало сделать всё возможное, чтобы наш разум отличался от искусственного интеллекта — призыв подняться над рутиной, которая грозит превратить нас в отражение наших собственных машин.
Кришнамурти не считал интеллектуальные машины каким-то странным, конкурирующим видом, готовым заменить нас. Для него машины были всего лишь продолжением человеческого разума — мозгом, созданным по нашему образу и подобию, где человеческое и искусственное мышление являются зеркальными отражениями друг друга. Если задуматься, разработчики ИИ не берут идеи из воздуха; они создают искусственный интеллект, основываясь на предположениях о человеческом мышлении, интеллекте и творчестве.
Поэтому, когда мы смотрим в это искусственное зеркало и видим отражение наших собственных мыслительных паттернов, это становится сигналом тревоги: многие способности, которые мы когда-то считали требующими сознания, интеллекта или творчества, на самом деле могут быть переданы машинам. Само по себе сознание не выделяет нас, если мы сводим разум к вычислениям. По правде говоря, грань между мозгом и компьютером с каждым днем становится всё более размытой.
В некотором смысле, Кришнамурти переворачивает с ног на голову знаменитую «игру в имитацию» Алана Тьюринга. В своей работе 1950 года Тьюринг предложил мысленный эксперимент, чтобы проверить, может ли машина имитировать человеческое речевое поведение, осмысленно отвечая на любые вопросы.
Представьте: женщина и компьютер, каждый спрятан в отдельной комнате, в то время как судья-человек, не зная, кто где находится, задает вопросы по электронной почте (или, во времена Тьюринга, по телетайпу). Если судья не может определить, кто человек, с вероятностью большей, чем подброшенная монета, то компьютер прошел тест. Но Кришнамурти интересует не то, могут ли машины говорить как люди; его гораздо больше волнует, говорят ли люди как машины. Другими словами, если машины действительно смогут пройти тест Тьюринга, Кришнамурти видел бы в этом не доказательство машинного интеллекта, а отражение механической природы самого человеческого мышления.
Нам нравится думать, что наше мышление, по крайней мере иногда, является интеллектуальным и творческим. Но Кришнамурти не видел мышление в таком лестном свете. Он утверждал, что наша уязвимость перед имитацией проистекает из нашей сильной зависимости от самого мышления. Для него мышление было вычислительной привычкой разума — механическим циклом, который «начинается с опыта, который становится знанием, хранящимся в клетках мозга как память; затем из памяти возникает мысль».
Эта цепная реакция опыта, памяти и знаний усиливается посредством повторения: мы действуем и реагируем, основываясь на этом внутреннем запасе, учимся на этих действиях и реакциях и накапливаем больше опыта, памяти и знаний. Это чисто механический цикл, движимый повторением. По мнению Кришнамурти, мышление сводится к «реакциям памяти», своего рода внутреннему программированию, поразительно похожему на то, как работают компьютеры. Компьютеры, в конце концов, подобны мозгу — это хранилища информации, которые учатся и самокорректируются по ходу работы. Они выполняют этот цикл, не «думая» по-настоящему, и в конечном итоге могут превзойти нас в этом.
Можем ли мы хотя бы утешиться тем, что наш реальный, физический опыт уникален? В конце концов, никакая сверхумная машина не может принять человеческий облик, влюбиться или посмотреть на звезды и вздохнуть: «Какой чудесный вечер!» Но если мы думаем, что наше воплощенное сознание дает нам преимущество, Кришнамурти быстро развеял бы этот миф. Он утверждал, что даже наш опыт омрачен реакциями, коренящимися в памяти. Представьте себе: когда я любуюсь прекрасной вечерней звездой, мой разум тут же обращается к знакомым образам, сравнивая и классифицируя этот момент, вместо того чтобы позволить мне пережить его как нечто новое. Мысль создает символы и ментальные снимки — возможно, идеальный момент для картинки в соцсеть — и попадает в ловушку, видя настоящее только сквозь призму вчерашнего дня.
Это «создание образов», как называл это Кришнамурти, проявляется во всех сферах жизни, превращая наши реакции в рутину. Это касается не только наших политических или религиозных убеждений, которые возвращают нас к старым шаблонам; это проявляется и в нашем стремлении к еде, сексу и развлечениям. Возьмите, к примеру, порнографию — людей может привлекать она из-за приятных образов из прошлого опыта, но каждое новое воздействие лишь пополняет ментальную библиотеку, подпитывая цикл условных рефлексов. Поэтому Кришнамурти предостерегает нас от того, чтобы искать утешения в сенсорных ограничениях машин, потому что, по правде говоря, механический разум повсюду, и он незаметно лишает человеческий опыт глубины.
Кришнамурти предупреждает, что наша способность по-настоящему переживать жизнь будет только угасать. По мере того как умные машины и роботы берут на себя всё большую часть нашего мышления, мозг рискует стать ленивым, лишенным стимулов и, честно говоря, скучающим. В мире, где работа и борьба остались в прошлом, наш опыт может свестись к поиску развлечений и удовольствий — к циклу реакции на одно яркое отвлечение за другим. Когда мы достигнем этой точки, говорит Кришнамурти, перед нами откроются два пути: либо мы поддадимся непрерывному развлечению и скатимся к зомбиподобному существованию, либо мы решим сохранить остроту ума, пробудившись к высшему сознанию.
Набат Кришнамурти
Совет Кришнамурти о том, как справиться с вызовом ИИ, прост, но глубок: сопротивляйтесь соблазну праздного ума и поддерживайте работу своих ментальных механизмов, погружаясь в «бескрайние глубины своего существа». Оптимисты среди нас могут подумать, что мозг сам собой образом переключится на более высокие цели, как только освободится от рутины. Но Кришнамурти менее оптимистичен. Он сомневается, что мозг, приученный к механическому мышлению, вдруг оживет без серьезных усилий.
Вот почему он настаивал на том, чтобы мы активно задействовали свой разум, практикуя то, что отличает нас от машин, и исследовали виды деятельности и способности, выходящие за рамки простого мышления. Для Кришнамурти разум и механическое мышление — это совершенно разные вещи. И когда он говорит о тренировке мозга, он имеет в виду не кроссворды или судоку. Он указывает на человеческий разум с огромным, даже бесконечным потенциалом — потенциалом, который остается безвестным, пока он увязает в знаниях, специализации и материальных заботах.
Вот набат Кришнамурти: в мире, управляемом ИИ, любая человеческая способность, которую мы игнорируем, начнет атрофироваться. Многие философы выдвигали смелые аргументы в защиту особого статуса разума, его несравненного сознания и естественного интеллекта. Но Кришнамурти не интересовался рассмотрением сознания как какой-то фиксированной, незыблемой черты. Вместо этого он видел в появлении ИИ вызов, побуждающий рассматривать сознание как навык — потенциал, который мы редко используем. Для него настоящая задача заключается не в том, чтобы защитить разум таким, какой он есть, а в том, чтобы расширить его, развить определенные скрытые способности. Сознание, настаивал он, — это не просто данность; это возможность, ждущая своей реализации.
Этот сдвиг переворачивает привычные дебаты с ног на голову: вместо того, чтобы спрашивать, обретут ли машины когда-нибудь сознание, мы могли бы спросить, смогут ли люди стать достаточно сознательными, чтобы перерасти «искусственный интеллект» как внутри себя, так и в машинах вокруг. Кришнамурти также задавался вопросом, может ли мышление, по своей изначально механической природе, когда-либо породить настоящий интеллект. В конце концов, если наше мышление работает как машина, можно ли его по-настоящему назвать интеллектуальным? Для Кришнамурти искусственный интеллект требует нового взгляда на сам интеллект. Если мы согласны с тем, что истинный интеллект не может быть механическим, то, возможно, пришло время определить интеллект как нечто, выходящее за рамки того, что может имитировать или симулировать любой компьютер.
Согласно Кришнамурти, окончательным ответом на появление сверхинтеллектуальных машин является развитие подлинно интеллектуального разума — разума, руководствующегося немыслящим интеллектом. Он представляет себе этот разум как разум, не укорененный в памяти. В то время как большинство из нас взаимодействует с миром через слои прошлого опыта и накопленных знаний, интеллектуальный разум использует знания только «когда это необходимо» и по большей части не полагается на привычное.
Он не придает особого значения механическим процессам памяти — вчерашним мыслям или завтрашним планам — и стремится оставаться максимально открытым и незагроможденным. Помимо необходимых практических знаний, этот разум каждую ночь освобождается от бремени дня, очищая свою «доску», «словно умирая в конце дня». В результате получается разум, который спонтанен и жив. Для Кришнамурти этот немеханический индивид видел бы себя как «нечто постоянно меняющееся», открывая свежее, новое «я» с каждым рассветом.
Первым важным шагом к развитию истинно интеллектуального разума — и отходу от автоматизированного мышления машин — является то, что философы называют «познанием второго порядка» или рефлексивным самосознанием, распознаванием запрограммированных шаблонов разума. К счастью, разум и механическое мышление — это не одно и то же, а значит, у нас есть способность замечать, когда наш разум попадает в циклы «опыт-память-знание». Хотя это может быть неприятно, Кришнамурти считает это распознавание крайне важным: понимание машиноподобного качества мышления, говорит он, является «самим источником интеллекта», искрой уникального, более глубокого осознания.
Кришнамурти не предлагал полного набора ответов, но то, что он предлагал, достаточно интригующе, чтобы мы начали задавать правильные вопросы. Для него сам вопрос важнее любого ответа. Он считал, что, просто размышляя о том, что такое истинный интеллект, мы начинаем пробуждать его. И это пробуждение, говорил он, — это то, что в конечном счете позволяет нам отличать наш собственный разум от искусственного интеллекта, который нас окружает.
Читайте также: Вы — легион, ибо многочисленны: паразиты и микробы, контролирующие разум