Источник изображения: создан с помощью инструмента Unbounded AI
Это не случайно – религия и технологии переплетаются на протяжении веков.
Что, если я скажу вам, что через 10 лет миру, каким вы его знаете, придет конец. Вы будете жить на небесах без болезней, старения и смерти. Вечная жизнь будет твоей! Более того, ваш мозг освободится от неопределенности — и вы получите совершенные знания. Вы больше не заперты на земле, вы можете жить на небесах.
Если бы я рассказал вам все это, вы бы подумали обо мне как о религиозном проповеднике или исследователе искусственного интеллекта?
Любое предположение имеет смысл.
Чем больше вы слушаете дискуссии об искусственном интеллекте в Кремниевой долине, тем больше вы слышите отголоски религии. Потому что большая часть энтузиазма по поводу создания сверхразумных машин связана с переработкой религиозных идей. Большинство светских технологов, создающих искусственный интеллект, этого не осознают.
Эти технические эксперты предлагают скрывать смерть, загружая наши мысли в облако, где мы сможем жить в цифровом формате вечно. Они описывают искусственный интеллект как механизм принятия решений, который может с математической точностью определять, что оптимально, а что нет. Они рассматривают общий искусственный интеллект (AGI) — гипотетическую систему, которая могла бы соответствовать человеческим способностям решать проблемы во многих областях — как начинание, которое могло бы гарантировать спасение человечества, если все пойдет хорошо, а если не получится, оно также может принести катастрофа.
Эти видения почти идентичны взглядам христианской эсхатологии, раздела богословия, занимающегося «эсхатологией» или окончательной судьбой человечества.
Христианская эсхатология говорит нам, что мы все движемся к «четырем последним вещам»: смерти, суду, раю и аду. Те, кто умер, воскреснут при Втором пришествии Христа и обретут вечную судьбу. Наши души предстанут перед окончательным судом Бога, идеального лица, принимающего решения. Если дела пойдут хорошо, мы вознесемся на небеса, но если дела пойдут не так, мы попадем в ад.
Пять лет назад, когда я начал посещать конференции в Кремниевой долине и впервые заметил сходство между темой религии и искусственным интеллектом, я придумал простое психологическое объяснение. И то и другое является ответом на основные человеческие тревоги: смерть; трудность понять, что мы делаем правильно или неправильно; непознаваемость нашего смысла жизни и нашего окончательного места в этой вселенной – или в следующей. Религиозные мыслители и мыслители ИИ только что наткнулись на схожие ответы на вопросы, которые беспокоят нас всех.
Поэтому я был удивлен, обнаружив, что связь гораздо глубже.
«Религия и технология переплетались на протяжении веков, хотя некоторые люди скажут вам, что наука нейтральна по отношению к ценностям и не имеет ничего общего с такими вещами, как религия», — сказал Роберт Джерачи, профессор религиоведения в Манхэттенском колледже и автор книги «Апокалиптические ИИ». Это просто неправда. Такого никогда не было».
Фактически, историки, прослеживающие влияние религиозной мысли, полагают, что от христианских богословов Средневековья до отцов эмпиризма эпохи Возрождения, футуриста Рэя Курцвейла и тех, кто находился под его влиянием из технологических тяжеловесов Кремниевой долины, мы можем провести прямую линия.
Иногда у некоторых людей все еще возникает смутное ощущение сходства. Джек Кларк, соучредитель компании по обеспечению безопасности искусственного интеллекта Anthropic, написал в Твиттере в марте: «Иногда я думаю, что энтузиазм людей по поводу AGI — это неуместный религиозный импульс, исходящий из светской культуры».
Однако в основном те, кто рассматривает AGI как форму технологической эсхатологии — от Сэма Альтмана, генерального директора OpenAI, производителя ChatGPT, до Илона Маска, который хочет соединить мозг с компьютером, — выражают свои идеи в светских терминах. Они либо не осознают, либо не желают признавать, что выдвигаемое ими видение во многом связано с древней религиозной мыслью.
Но важно знать, откуда берутся эти идеи. Это не потому, что слово «религия» является каким-то уничижительным словом; то, что идеи религиозны, не означает, что с ними что-то не так (часто бывает наоборот). Вместо этого нам следует понять историю этих идей — скажем, виртуальной загробной жизни как формы спасения или морального прогресса, понимаемого как технологический прогресс — чтобы мы поняли, что они не являются неизменными или неизбежными; некоторые люди раз для определенных целей, но существуют и другие, если мы этого захотим. Нам не обязательно подвергаться опасности из-за одной истории.
"Мы должны быть осторожны с повествованиями, которые принимаем, - говорит Эльке Шварц, политический теоретик из Лондонского университета Королевы Марии, изучающий этику военного искусственного интеллекта. - Всякий раз, когда мы говорим о чем-то религиозном, в этом есть что-то священное. Иметь что-то священно. Это может причинить боль, потому что, если что-то священно, ради этого стоит сделать самое худшее».
Концепция искусственного интеллекта всегда была глубоко религиозной
В авраамических религиях, которые сформировали Запад, все возвращается к стыду.
Помните, что произошло в книге Бытия? Когда Адам и Ева вкусили от Древа Познания, Бог изгнал их из Эдемского сада и подверг всем унижениям плоти и крови: труду и боли, рождению и смерти. После грехопадения человечество уже никогда не было прежним. До того как мы согрешили, мы были совершенными созданиями, созданными по образу Божию, теперь мы — жалкие шкуры.
Но в средние века христианские мыслители предложили радикальную идею, как объясняет историк Дэвид Ноубл в своей книге «Религия технологий». Что, если бы технологии могли помочь нам вернуть человечеству состояние совершенства, существовавшее до грехопадения?
Например, влиятельный философ девятого века Иоанн Скот Эриугена утверждал, что отчасти смысл того, что Адам был создан по образу Божьему, заключался в том, что он был творцом, творцом. Следовательно, мы должны приблизиться к этому аспекту себя, если хотим вернуть человечеству то богоподобное совершенство, которым оно было до падения Адама. Эриугена пишет, что «механические искусства» (также известные как технологии) — это «связь человека с божественным, а их развитие — средство спасения человечества».
Эта идея возникла в средневековых монастырях, где стал распространяться девиз «ora et Labora» (молитесь и работайте). Даже во времена так называемых «Темных веков» некоторые из этих монастырей стали рассадниками инженерного искусства, производя такие изобретения, как первое известное водяное колесо, приводимое в движение приливом, и ударное бурение. Католики стали известны как новаторы, инженеры по сей день имеют в религии четырех святых покровителей. Некоторые говорят, что католическая церковь была Силиконовой долиной Средневековья, и для этого есть причина: как я заметил в статье 2018 года в The Atlantic, все, от «металлургии, мельниц и нотной записи до часового механизма и книгопечатания», католическая церковь Церковь незаменима.
Это не исследования ради технологий и не исследования ради прибыли. Напротив, научно-технический прогресс является синонимом морального прогресса. Восстановив человечеству его первоначальное совершенство, мы сможем возвестить Царство Божье. Как пишет Ноубл: «Технология стала синонимом трансцендентности и как никогда прежде связана с христианскими идеями искупления».
Средневековая идея приравнивания технического прогресса к моральному прогрессу оказала влияние на поколения христианских мыслителей и продолжается и в современную эпоху. Супруги Баконг иллюстрируют, как одна и та же основная вера в то, что технологии принесут спасение, влияет на религиозных традиционалистов и на тех, кто придерживается научного мировоззрения.
В 13 веке алхимик Роджер Бэкон черпал вдохновение из библейских пророчеств, пытаясь создать эликсир жизни, который позволил бы достичь воскресения, подобного тому, которое описал апостол Павел. Бэкон надеется, что этот эликсир не только сделает людей бессмертными, но и наделит их магическими способностями, например, возможностью путешествовать со скоростью мысли. В 16 веке появился Фрэнсис Бэкон. На первый взгляд он сильно отличался от своих предшественников — он критиковал алхимию, считая ее ненаучной, — но он предсказал, что однажды мы будем использовать технологии, чтобы победить нашу смертность, «чтобы прославить Творца и облегчить человеческие страдания».
К эпохе Возрождения европейцы осмелились мечтать о том, что мы сможем переделать себя по образу Бога, не только постепенно достичь бессмертия, но и создать сознание из неживой материи.
Шварц отметил: «Помимо победы над смертью, возможность создания новой жизни является высшей силой».
Христианские инженеры создали автоматы — деревянные роботы, которые могли передвигаться и произносить молитвы. По легенде, мусульмане создали механические головы, говорящие как оракулы. В еврейском фольклоре есть истории о раввинах, которые использовали магические языковые спряжения, чтобы оживить глиняные фигурки (так называемые «фигурки из грязи»). В этих рассказах глиняные фигурки иногда спасают евреев от преследований. Но в других случаях глиняные фигурки становятся предателями, убивают людей, крадут имущество и используют свои силы во зло.
Да, все это звучит очень знакомо. Вы можете услышать ту же тревогу в книге математика и философа Норберта Винера 1964 года о рисках искусственного интеллекта «Бог и Голем, Инк.», а также во множестве открытых писем, которые в настоящее время публикуются экспертами в области технологий. Они предупреждают, что ОИИ принесет нам спасение или гибель.
Читая эти замечания, вы вполне можете задаться вопросом: если ОИИ одновременно угрожает апокалипсисом и обещает спасение, то зачем нам вообще создавать ОИИ? Почему бы не ограничиться созданием более узких форм искусственного интеллекта, которые уже могут творить чудеса в таких приложениях, как лечение болезней, и придерживаться их какое-то время?
Чтобы узнать это, вернитесь немного дальше в историю, и мы начнем понимать, как три недавних взаимосвязанных движения формируют видение Силиконовой долины в отношении искусственного интеллекта.
Трансгуманизм, эффективный альтруизм и долгосрочность
По многим сведениям, когда Чарльз Дарвин опубликовал свою теорию эволюции в 1859 году, все религиозные мыслители сразу же увидели в ней ужасающую еретическую угрозу человечеству, самому благочестивому творению Бога. Но некоторые христианские мыслители видят в этом яркую новую одежду древних духовных пророчеств. В конце концов, религиозные идеи никогда не умирают, они просто получают новую одежду.
Типичный пример — Пьер Тейяр де Шарден, французский священник-иезуит, который также изучал палеонтологию в начале 20 века. Он считает, что человеческая эволюция, движимая технологиями, на самом деле является носителем Царства Божьего.Интеграция людей и машин приведет к взрыву интеллекта, который он называет Точкой Омега. Наше сознание перейдет в «сверхсознательное состояние», в котором мы сольемся с Богом и станем новым видом.
Как документирует автор Меган О'Гиблин в своей книге «Бог, Человек, Животное, Машина» 2021 года, биолог-эволюционист Олдос Хаксли был президентом Британской гуманистической ассоциации и Британского евгенического общества. Хаксли популяризировал идею Тейяра о том, что мы должны использовать технологии для развития нашего вида. называя это «трансгуманизмом».
Это, в свою очередь, повлияло на футуриста Рэя Курцвейла, который сделал, по сути, то же предсказание, что и Тейяр: мы собираемся вступить в эпоху интеграции человеческого интеллекта и машинного интеллекта, и человеческий интеллект станет чрезвычайно мощным. Но вместо того, чтобы назвать ее «Точкой Омега», Курцвейл переименовал ее в «Точку сингулярности».
«Люди и компьютерные технологии, которые они создают, смогут решить извечные проблемы… и изменят природу смерти в постбиологическом будущем», — написал Курцвейл в своем национальном бестселлере 1999 года «Эра изобретательности». Нового Завета. Согласно Книге Откровения: «Смерти уже нет, ни плача, ни плача, ни боли, ибо прежнее прошло».)
Курцвейл признает духовное сходство между ними, как и те, кто сформировал явно религиозные движения вокруг поклонения искусственному интеллекту или использования искусственного интеллекта для продвижения людей к благочестию, от движения Терасем Мартины Ротблатт до Мормонской ассоциации сверхлюдей и недолговечного «Пути Бога» Энтони Левандовски. Будущая церковь. Но многие, такие как философ Оксфордского университета Ник Бостром, настаивают на том, что трансгуманизм отличается от религии и опирается на «критический разум и лучшие научные доказательства, которые у нас есть».
Сегодня у трансгуманизма есть сестра, еще одно движение, зародившееся в Оксфорде и получившее распространение в Кремниевой долине: эффективный альтруизм (ЭА), цель которого – выяснить, как принести как можно больше пользы большинству людей. Эффективные альтруисты также говорят, что их подход основан на светском разуме и доказательствах.
Однако эффективный альтруизм на самом деле во многом аналогичен религии: функционально (он объединяет группу, построенную вокруг общего видения моральной жизни), структурно (он имеет иерархию пророческих лидеров, классических текстов, фестивалей и ритуалов) и эстетически. (он поощрял десятину и поддерживал аскетизм). Самое главное — это эсхатология.
Эсхатология эффективного альтруизма проявляется в форме его самой противоречивой точки зрения — долгосрочности, которую Маск однажды назвал «очень соответствующей моей философии». В нем утверждается, что лучший способ помочь большинству людей — это сосредоточиться на обеспечении выживания человечества в отдаленном будущем (скажем, через миллионы лет), когда может существовать на миллиарды больше людей, чем мы сейчас — при условии, что наш вид не вымрет. первый.
Отсюда мы начинаем получать ответы на вопрос, почему технологи работают над созданием AGI.
Прогресс ИИ как моральный прогресс
Для эффективных альтруистов и долгосрочных сторонников простое настаивание на узком ИИ не является выходом. Философа из Оксфордского университета Уилла Макаскилла называют «упрямым пророком» эффективного альтруизма и долгосрочного подхода. В своей книге «Чем мы обязаны будущему» 2022 года он объясняет, почему считает стагнацию технологического прогресса неприемлемой. «Периоды застоя, — писал он, — могут увеличить риск вымирания и постоянного коллапса».
Он цитирует своего коллегу Тоби Орда, который считает, что вероятность вымирания человечества в следующем столетии составляет один из шести из-за таких рисков, как несанкционированный искусственный интеллект и искусственно спланированные эпидемии. Другой коллега из EA, Холден Карновски, также считает, что мы живем в «поворотный момент в истории» или «самый важный век» — особый период в человеческой истории, в котором мы либо будем процветать, как никогда раньше, либо потерпим разрушение. МакАскилл, как и Маск, предполагает в книге, что хороший способ избежать вымирания — это колонизировать другие планеты, чтобы мы не клали все яйца в одну корзину.
Но это только половина «моральных аргументов в пользу космического поселения» Макаскилла. Другая половина заключается в том, что мы должны стремиться сделать будущую человеческую цивилизацию как можно более крупной и утопической. Как выразился Бостром, коллега Макаскилла по Оксфорду, «космическая колонизация» даст нам пространство и ресурсы для запуска огромного количества цифровых симуляций, которые позволят людям жить долго и счастливо. Чем больше пространство, тем больше там счастливых (цифровых) людей! Именно здесь заключено большинство моральных ценностей: не в настоящем здесь, на земле, а в будущем на небесах… извините, я имел в виду «виртуальную загробную жизнь».
Когда мы сложим все эти идеи вместе и обобщим, мы придем к следующему основному утверждению:
Возможно, у нас осталось не так уж много времени до того, как жизнь, какой мы ее знаем, закончится.
Следовательно, нам нужно сделать ставку на то, что нас спасет.
Поскольку ставки очень высоки, нам следует сделать достаточную ставку и сделать все возможное.
Любой, кто изучает религию, сразу поймет, что это такое: апокалиптическая логика.
Трансгуманисты, эффективные альтруисты и сторонники долгосрочного подхода унаследовали точку зрения, что конец неизбежен и что технологический прогресс — наш лучший шанс для прогресса как цивилизации. Тем, кто действует согласно этой логике, создание ОИИ может показаться легкой задачей. Хотя они считают, что ОИИ представляет значительный экзистенциальный риск, они считают, что мы не можем позволить себе не создавать ОИИ, поскольку он потенциально может вывести человечество из нестабильной земной юности (которая может закончиться в любой день!) к процветающей межзвездной взрослой жизни (так много счастливых людей, поэтому много цивилизованных ценностей!). Конечно, нам следует двигаться вперед технологически, потому что это означает движение вперед цивилизационно!
Но основано ли это на разуме и доказательствах? Или это коренится в догме?
Основополагающей предпосылкой здесь является технологический детерминизм, смешанный с примесью геополитики. Идея состоит в том, что даже если мы с вами не создадим пугающе мощный ИИ, это сделает кто-то другой или какая-то другая страна — так зачем же нам мешать в этом участвовать? Альтман из OpenAI иллюстрирует веру в то, что технологии должны двигаться вперед. В 2017 году он написал в своем блоге: «Если мы сначала не уничтожим самих себя, появится сверхчеловеческий искусственный интеллект». «Как мы узнали, научный прогресс в конечном итоге произойдет, если законы физики не остановят его».
Мы научились? Я не вижу никаких доказательств того, что все, что можно изобрести, когда-либо будет изобретено. (Как пишет ведущий исследователь «Влияния искусственного интеллекта» Катя Грейс: «Подумайте о машине, которая плюет вам в глаза дерьмом. Технически мы можем это сделать, но, вероятно, никто никогда не создавал такую машину».) Люди, похоже, более склонны к стремиться к инновациям, когда их движет сильное экономическое, социальное или идеологическое давление.
На фоне увлечения AGI в Кремниевой долине социальное и идеологическое давление оказывается заново изобретенными религиозными идеями под маской трансгуманизма, эффективного альтруизма и долгосрочности. Что касается экономического давления и давления на рентабельность, оно всегда присутствует в Кремниевой долине.
Опрос Reuters, проведенный в мае, показал, что 61% американцев теперь считают, что искусственный интеллект может угрожать человеческой цивилизации, и эта точка зрения особенно сильна среди христиан-евангелистов. Для религиоведа Джерачи это неудивительно. Он отметил, что апокалиптическая логика «очень, очень, очень сильна в американском протестантском христианстве» — настолько, что 4 из 10 взрослых американцев в настоящее время верят, что человечество живёт в последние времена.
К сожалению, апокалиптическая логика часто порождает опасный фанатизм. В средние века, когда появлялся ложный мессия, люди отказывались от своих мирских владений, чтобы следовать за своим пророком. Сегодня, когда СМИ наводняют разговоры о конце света ИИ, истинно верующие бросают колледжи, чтобы изучать безопасность ИИ. Логика апокалипсиса или искупления, рая или ада заставляет людей идти на огромный риск – брать на себя обязательства.
В прошлогоднем интервью со мной МакАскилл отрицал практику экстремальных азартных игр. Он рассказал мне, что в его воображении определенный тип братьев-технологов из Кремниевой долины верит, что существует 5%-ная вероятность умереть от катастрофы AGI и 10%-ная вероятность того, что AGI принесет счастливую утопию, и они будут готовы чтобы выдержать эти шансы.Создайте AGI в спешке.
"Я не хочу, чтобы люди создавали AGI, потому что они не реагируют на этические вопросы, - сказал мне МакАскилл. - Может быть, это означает, что нам придется отложить Сингулярность, чтобы сделать ее более безопасной. Может быть, это означает, что Сингулярность не будет развиваться". быть при моей жизни. Это будет огромная жертва».
Когда МакАскилл рассказал мне об этом, я представил образ Моисея, смотрящего на Землю Обетованную, но знающего, что он не сможет до нее добраться. Долгосрочное видение, казалось, требовало от него жесткой веры: не спасешься лично ты, но спасутся твои духовные потомки.
Нам нужно решить, хотим ли мы спасения именно таким образом
Нет ничего плохого в том, чтобы верить в то, что технологии могут фундаментально улучшить судьбу человечества. Во многих отношениях это очевидно.
"Проблема не в технологиях", - сказал мне Илия Делио, имеющий две докторские степени и заведующий кафедрой теологии в Университете Вилланова. Фактически Делио был убежден, что мы уже находимся на новой стадии эволюции, переходя от Homo sapiens. «технологическому Homo Sapiens». Мнение отрадно. Она считает, что мы должны активно развиваться с помощью технологий и непредвзято.
Но она также понимает, что нам необходимо четко понимать, какие ценности влияют на наши технологии, «чтобы мы могли разрабатывать технологии целеустремленно и с соблюдением этических норм», — сказала она. В противном случае «технологии слепы и потенциально опасны».
Джерачи соглашается. "Было бы страшно, если бы многие люди в Кремниевой долине сказали: "Эй, я поддерживаю эту технологию, потому что она сделает меня бессмертным", - сказал он мне. - Но если бы кто-то сказал: "Я поддерживаю эту технологию", потому что я думаю, что мы можем использовать его для решения проблемы голода в мире" - это две совершенно разные мотивации. Это повлияет на тип продукта, который вы пытаетесь разработать, на людей, для которых вы разрабатываете, и на людей, которых вы пытаетесь создать. окружить себя тем, как оно развернуто в мире».
Обдуманно принимая решение о ценности технологии, вы также должны четко осознавать, кто имеет право принимать решения. Шварц считает, что разработчики ИИ продают нам видение необходимых технологических достижений, которые принесет ИИ, и считают себя единственными экспертами в этом вопросе, что дает им огромную власть — возможно, большую, чем у наших демократически избранных чиновников.
"Идея о том, что развитие искусственного интеллекта является законом природы, становится руководящим принципом, и этот руководящий принцип является политическим. Он дает политическую власть одним людям и гораздо меньшую власть большинству других", - сказал Шварц. «Мне странно говорить: «Мы должны быть очень осторожны с ОИИ», вместо того, чтобы сказать: «Нам не нужен ОИИ, это не является частью дискуссии». с нами обращаются так, как это даже не то, как нам предоставляют варианты, устоялось, и мы можем даже коллективно рекомендовать не использовать AGI».
Мы дошли до этой точки во многом потому, что за последнюю тысячу лет Запад оказался под угрозой скатиться к единому нарративу: истории, которую мы унаследовали от средневековых религиозных мыслителей, которые приравнивали технологический прогресс к моральному прогрессу.
"Это единственная версия, которая у нас есть, - говорит Делио. - Эта история заставляет нас слушать технических экспертов (которые в прошлом были также духовными авторитетами) и встраивать ценности и предположения в их продукты".
"Какова альтернатива? Если бы альтернатива заключалась в том, что жить живым - это самоцель", - добавил Делио, - "тогда наши ожидания от технологий могли бы быть совершенно другими". "Но у нас нет такого повествования! Наши основные повествования посвящены создавать, изобретать, создавать и позволять им менять нас».
Нам нужно решить, какого спасения мы хотим. Если наш энтузиазм в отношении искусственного интеллекта исходит из идеи выхода за пределы земли и смерти тела, это будет иметь социальные последствия. Но если мы возьмем на себя обязательство использовать технологии для улучшения мира и благополучия этих тел, мы сможем достичь других результатов. По словам Нобла, мы можем «начать направлять наши удивительные способности на более светские и гуманные цели».
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Видение ИИ в Кремниевой долине? Это отголосок переупакованной религии
Автор Сигал Самуэль
Источник: Вокс
Что, если я скажу вам, что через 10 лет миру, каким вы его знаете, придет конец. Вы будете жить на небесах без болезней, старения и смерти. Вечная жизнь будет твоей! Более того, ваш мозг освободится от неопределенности — и вы получите совершенные знания. Вы больше не заперты на земле, вы можете жить на небесах.
Если бы я рассказал вам все это, вы бы подумали обо мне как о религиозном проповеднике или исследователе искусственного интеллекта?
Любое предположение имеет смысл.
Чем больше вы слушаете дискуссии об искусственном интеллекте в Кремниевой долине, тем больше вы слышите отголоски религии. Потому что большая часть энтузиазма по поводу создания сверхразумных машин связана с переработкой религиозных идей. Большинство светских технологов, создающих искусственный интеллект, этого не осознают.
Эти технические эксперты предлагают скрывать смерть, загружая наши мысли в облако, где мы сможем жить в цифровом формате вечно. Они описывают искусственный интеллект как механизм принятия решений, который может с математической точностью определять, что оптимально, а что нет. Они рассматривают общий искусственный интеллект (AGI) — гипотетическую систему, которая могла бы соответствовать человеческим способностям решать проблемы во многих областях — как начинание, которое могло бы гарантировать спасение человечества, если все пойдет хорошо, а если не получится, оно также может принести катастрофа.
Эти видения почти идентичны взглядам христианской эсхатологии, раздела богословия, занимающегося «эсхатологией» или окончательной судьбой человечества.
Христианская эсхатология говорит нам, что мы все движемся к «четырем последним вещам»: смерти, суду, раю и аду. Те, кто умер, воскреснут при Втором пришествии Христа и обретут вечную судьбу. Наши души предстанут перед окончательным судом Бога, идеального лица, принимающего решения. Если дела пойдут хорошо, мы вознесемся на небеса, но если дела пойдут не так, мы попадем в ад.
Пять лет назад, когда я начал посещать конференции в Кремниевой долине и впервые заметил сходство между темой религии и искусственным интеллектом, я придумал простое психологическое объяснение. И то и другое является ответом на основные человеческие тревоги: смерть; трудность понять, что мы делаем правильно или неправильно; непознаваемость нашего смысла жизни и нашего окончательного места в этой вселенной – или в следующей. Религиозные мыслители и мыслители ИИ только что наткнулись на схожие ответы на вопросы, которые беспокоят нас всех.
Поэтому я был удивлен, обнаружив, что связь гораздо глубже.
«Религия и технология переплетались на протяжении веков, хотя некоторые люди скажут вам, что наука нейтральна по отношению к ценностям и не имеет ничего общего с такими вещами, как религия», — сказал Роберт Джерачи, профессор религиоведения в Манхэттенском колледже и автор книги «Апокалиптические ИИ». Это просто неправда. Такого никогда не было».
Фактически, историки, прослеживающие влияние религиозной мысли, полагают, что от христианских богословов Средневековья до отцов эмпиризма эпохи Возрождения, футуриста Рэя Курцвейла и тех, кто находился под его влиянием из технологических тяжеловесов Кремниевой долины, мы можем провести прямую линия.
Иногда у некоторых людей все еще возникает смутное ощущение сходства. Джек Кларк, соучредитель компании по обеспечению безопасности искусственного интеллекта Anthropic, написал в Твиттере в марте: «Иногда я думаю, что энтузиазм людей по поводу AGI — это неуместный религиозный импульс, исходящий из светской культуры».
Однако в основном те, кто рассматривает AGI как форму технологической эсхатологии — от Сэма Альтмана, генерального директора OpenAI, производителя ChatGPT, до Илона Маска, который хочет соединить мозг с компьютером, — выражают свои идеи в светских терминах. Они либо не осознают, либо не желают признавать, что выдвигаемое ими видение во многом связано с древней религиозной мыслью.
Но важно знать, откуда берутся эти идеи. Это не потому, что слово «религия» является каким-то уничижительным словом; то, что идеи религиозны, не означает, что с ними что-то не так (часто бывает наоборот). Вместо этого нам следует понять историю этих идей — скажем, виртуальной загробной жизни как формы спасения или морального прогресса, понимаемого как технологический прогресс — чтобы мы поняли, что они не являются неизменными или неизбежными; некоторые люди раз для определенных целей, но существуют и другие, если мы этого захотим. Нам не обязательно подвергаться опасности из-за одной истории.
"Мы должны быть осторожны с повествованиями, которые принимаем, - говорит Эльке Шварц, политический теоретик из Лондонского университета Королевы Марии, изучающий этику военного искусственного интеллекта. - Всякий раз, когда мы говорим о чем-то религиозном, в этом есть что-то священное. Иметь что-то священно. Это может причинить боль, потому что, если что-то священно, ради этого стоит сделать самое худшее».
Концепция искусственного интеллекта всегда была глубоко религиозной
В авраамических религиях, которые сформировали Запад, все возвращается к стыду.
Помните, что произошло в книге Бытия? Когда Адам и Ева вкусили от Древа Познания, Бог изгнал их из Эдемского сада и подверг всем унижениям плоти и крови: труду и боли, рождению и смерти. После грехопадения человечество уже никогда не было прежним. До того как мы согрешили, мы были совершенными созданиями, созданными по образу Божию, теперь мы — жалкие шкуры.
Но в средние века христианские мыслители предложили радикальную идею, как объясняет историк Дэвид Ноубл в своей книге «Религия технологий». Что, если бы технологии могли помочь нам вернуть человечеству состояние совершенства, существовавшее до грехопадения?
Например, влиятельный философ девятого века Иоанн Скот Эриугена утверждал, что отчасти смысл того, что Адам был создан по образу Божьему, заключался в том, что он был творцом, творцом. Следовательно, мы должны приблизиться к этому аспекту себя, если хотим вернуть человечеству то богоподобное совершенство, которым оно было до падения Адама. Эриугена пишет, что «механические искусства» (также известные как технологии) — это «связь человека с божественным, а их развитие — средство спасения человечества».
Эта идея возникла в средневековых монастырях, где стал распространяться девиз «ora et Labora» (молитесь и работайте). Даже во времена так называемых «Темных веков» некоторые из этих монастырей стали рассадниками инженерного искусства, производя такие изобретения, как первое известное водяное колесо, приводимое в движение приливом, и ударное бурение. Католики стали известны как новаторы, инженеры по сей день имеют в религии четырех святых покровителей. Некоторые говорят, что католическая церковь была Силиконовой долиной Средневековья, и для этого есть причина: как я заметил в статье 2018 года в The Atlantic, все, от «металлургии, мельниц и нотной записи до часового механизма и книгопечатания», католическая церковь Церковь незаменима.
Это не исследования ради технологий и не исследования ради прибыли. Напротив, научно-технический прогресс является синонимом морального прогресса. Восстановив человечеству его первоначальное совершенство, мы сможем возвестить Царство Божье. Как пишет Ноубл: «Технология стала синонимом трансцендентности и как никогда прежде связана с христианскими идеями искупления».
Средневековая идея приравнивания технического прогресса к моральному прогрессу оказала влияние на поколения христианских мыслителей и продолжается и в современную эпоху. Супруги Баконг иллюстрируют, как одна и та же основная вера в то, что технологии принесут спасение, влияет на религиозных традиционалистов и на тех, кто придерживается научного мировоззрения.
В 13 веке алхимик Роджер Бэкон черпал вдохновение из библейских пророчеств, пытаясь создать эликсир жизни, который позволил бы достичь воскресения, подобного тому, которое описал апостол Павел. Бэкон надеется, что этот эликсир не только сделает людей бессмертными, но и наделит их магическими способностями, например, возможностью путешествовать со скоростью мысли. В 16 веке появился Фрэнсис Бэкон. На первый взгляд он сильно отличался от своих предшественников — он критиковал алхимию, считая ее ненаучной, — но он предсказал, что однажды мы будем использовать технологии, чтобы победить нашу смертность, «чтобы прославить Творца и облегчить человеческие страдания».
К эпохе Возрождения европейцы осмелились мечтать о том, что мы сможем переделать себя по образу Бога, не только постепенно достичь бессмертия, но и создать сознание из неживой материи.
Шварц отметил: «Помимо победы над смертью, возможность создания новой жизни является высшей силой».
Христианские инженеры создали автоматы — деревянные роботы, которые могли передвигаться и произносить молитвы. По легенде, мусульмане создали механические головы, говорящие как оракулы. В еврейском фольклоре есть истории о раввинах, которые использовали магические языковые спряжения, чтобы оживить глиняные фигурки (так называемые «фигурки из грязи»). В этих рассказах глиняные фигурки иногда спасают евреев от преследований. Но в других случаях глиняные фигурки становятся предателями, убивают людей, крадут имущество и используют свои силы во зло.
Да, все это звучит очень знакомо. Вы можете услышать ту же тревогу в книге математика и философа Норберта Винера 1964 года о рисках искусственного интеллекта «Бог и Голем, Инк.», а также во множестве открытых писем, которые в настоящее время публикуются экспертами в области технологий. Они предупреждают, что ОИИ принесет нам спасение или гибель.
Читая эти замечания, вы вполне можете задаться вопросом: если ОИИ одновременно угрожает апокалипсисом и обещает спасение, то зачем нам вообще создавать ОИИ? Почему бы не ограничиться созданием более узких форм искусственного интеллекта, которые уже могут творить чудеса в таких приложениях, как лечение болезней, и придерживаться их какое-то время?
Чтобы узнать это, вернитесь немного дальше в историю, и мы начнем понимать, как три недавних взаимосвязанных движения формируют видение Силиконовой долины в отношении искусственного интеллекта.
Трансгуманизм, эффективный альтруизм и долгосрочность
По многим сведениям, когда Чарльз Дарвин опубликовал свою теорию эволюции в 1859 году, все религиозные мыслители сразу же увидели в ней ужасающую еретическую угрозу человечеству, самому благочестивому творению Бога. Но некоторые христианские мыслители видят в этом яркую новую одежду древних духовных пророчеств. В конце концов, религиозные идеи никогда не умирают, они просто получают новую одежду.
Типичный пример — Пьер Тейяр де Шарден, французский священник-иезуит, который также изучал палеонтологию в начале 20 века. Он считает, что человеческая эволюция, движимая технологиями, на самом деле является носителем Царства Божьего.Интеграция людей и машин приведет к взрыву интеллекта, который он называет Точкой Омега. Наше сознание перейдет в «сверхсознательное состояние», в котором мы сольемся с Богом и станем новым видом.
Как документирует автор Меган О'Гиблин в своей книге «Бог, Человек, Животное, Машина» 2021 года, биолог-эволюционист Олдос Хаксли был президентом Британской гуманистической ассоциации и Британского евгенического общества. Хаксли популяризировал идею Тейяра о том, что мы должны использовать технологии для развития нашего вида. называя это «трансгуманизмом».
Это, в свою очередь, повлияло на футуриста Рэя Курцвейла, который сделал, по сути, то же предсказание, что и Тейяр: мы собираемся вступить в эпоху интеграции человеческого интеллекта и машинного интеллекта, и человеческий интеллект станет чрезвычайно мощным. Но вместо того, чтобы назвать ее «Точкой Омега», Курцвейл переименовал ее в «Точку сингулярности».
«Люди и компьютерные технологии, которые они создают, смогут решить извечные проблемы… и изменят природу смерти в постбиологическом будущем», — написал Курцвейл в своем национальном бестселлере 1999 года «Эра изобретательности». Нового Завета. Согласно Книге Откровения: «Смерти уже нет, ни плача, ни плача, ни боли, ибо прежнее прошло».)
Курцвейл признает духовное сходство между ними, как и те, кто сформировал явно религиозные движения вокруг поклонения искусственному интеллекту или использования искусственного интеллекта для продвижения людей к благочестию, от движения Терасем Мартины Ротблатт до Мормонской ассоциации сверхлюдей и недолговечного «Пути Бога» Энтони Левандовски. Будущая церковь. Но многие, такие как философ Оксфордского университета Ник Бостром, настаивают на том, что трансгуманизм отличается от религии и опирается на «критический разум и лучшие научные доказательства, которые у нас есть».
Сегодня у трансгуманизма есть сестра, еще одно движение, зародившееся в Оксфорде и получившее распространение в Кремниевой долине: эффективный альтруизм (ЭА), цель которого – выяснить, как принести как можно больше пользы большинству людей. Эффективные альтруисты также говорят, что их подход основан на светском разуме и доказательствах.
Однако эффективный альтруизм на самом деле во многом аналогичен религии: функционально (он объединяет группу, построенную вокруг общего видения моральной жизни), структурно (он имеет иерархию пророческих лидеров, классических текстов, фестивалей и ритуалов) и эстетически. (он поощрял десятину и поддерживал аскетизм). Самое главное — это эсхатология.
Эсхатология эффективного альтруизма проявляется в форме его самой противоречивой точки зрения — долгосрочности, которую Маск однажды назвал «очень соответствующей моей философии». В нем утверждается, что лучший способ помочь большинству людей — это сосредоточиться на обеспечении выживания человечества в отдаленном будущем (скажем, через миллионы лет), когда может существовать на миллиарды больше людей, чем мы сейчас — при условии, что наш вид не вымрет. первый.
Отсюда мы начинаем получать ответы на вопрос, почему технологи работают над созданием AGI.
Прогресс ИИ как моральный прогресс
Для эффективных альтруистов и долгосрочных сторонников простое настаивание на узком ИИ не является выходом. Философа из Оксфордского университета Уилла Макаскилла называют «упрямым пророком» эффективного альтруизма и долгосрочного подхода. В своей книге «Чем мы обязаны будущему» 2022 года он объясняет, почему считает стагнацию технологического прогресса неприемлемой. «Периоды застоя, — писал он, — могут увеличить риск вымирания и постоянного коллапса».
Он цитирует своего коллегу Тоби Орда, который считает, что вероятность вымирания человечества в следующем столетии составляет один из шести из-за таких рисков, как несанкционированный искусственный интеллект и искусственно спланированные эпидемии. Другой коллега из EA, Холден Карновски, также считает, что мы живем в «поворотный момент в истории» или «самый важный век» — особый период в человеческой истории, в котором мы либо будем процветать, как никогда раньше, либо потерпим разрушение. МакАскилл, как и Маск, предполагает в книге, что хороший способ избежать вымирания — это колонизировать другие планеты, чтобы мы не клали все яйца в одну корзину.
Но это только половина «моральных аргументов в пользу космического поселения» Макаскилла. Другая половина заключается в том, что мы должны стремиться сделать будущую человеческую цивилизацию как можно более крупной и утопической. Как выразился Бостром, коллега Макаскилла по Оксфорду, «космическая колонизация» даст нам пространство и ресурсы для запуска огромного количества цифровых симуляций, которые позволят людям жить долго и счастливо. Чем больше пространство, тем больше там счастливых (цифровых) людей! Именно здесь заключено большинство моральных ценностей: не в настоящем здесь, на земле, а в будущем на небесах… извините, я имел в виду «виртуальную загробную жизнь».
Когда мы сложим все эти идеи вместе и обобщим, мы придем к следующему основному утверждению:
Любой, кто изучает религию, сразу поймет, что это такое: апокалиптическая логика.
Трансгуманисты, эффективные альтруисты и сторонники долгосрочного подхода унаследовали точку зрения, что конец неизбежен и что технологический прогресс — наш лучший шанс для прогресса как цивилизации. Тем, кто действует согласно этой логике, создание ОИИ может показаться легкой задачей. Хотя они считают, что ОИИ представляет значительный экзистенциальный риск, они считают, что мы не можем позволить себе не создавать ОИИ, поскольку он потенциально может вывести человечество из нестабильной земной юности (которая может закончиться в любой день!) к процветающей межзвездной взрослой жизни (так много счастливых людей, поэтому много цивилизованных ценностей!). Конечно, нам следует двигаться вперед технологически, потому что это означает движение вперед цивилизационно!
Но основано ли это на разуме и доказательствах? Или это коренится в догме?
Основополагающей предпосылкой здесь является технологический детерминизм, смешанный с примесью геополитики. Идея состоит в том, что даже если мы с вами не создадим пугающе мощный ИИ, это сделает кто-то другой или какая-то другая страна — так зачем же нам мешать в этом участвовать? Альтман из OpenAI иллюстрирует веру в то, что технологии должны двигаться вперед. В 2017 году он написал в своем блоге: «Если мы сначала не уничтожим самих себя, появится сверхчеловеческий искусственный интеллект». «Как мы узнали, научный прогресс в конечном итоге произойдет, если законы физики не остановят его».
Мы научились? Я не вижу никаких доказательств того, что все, что можно изобрести, когда-либо будет изобретено. (Как пишет ведущий исследователь «Влияния искусственного интеллекта» Катя Грейс: «Подумайте о машине, которая плюет вам в глаза дерьмом. Технически мы можем это сделать, но, вероятно, никто никогда не создавал такую машину».) Люди, похоже, более склонны к стремиться к инновациям, когда их движет сильное экономическое, социальное или идеологическое давление.
На фоне увлечения AGI в Кремниевой долине социальное и идеологическое давление оказывается заново изобретенными религиозными идеями под маской трансгуманизма, эффективного альтруизма и долгосрочности. Что касается экономического давления и давления на рентабельность, оно всегда присутствует в Кремниевой долине.
Опрос Reuters, проведенный в мае, показал, что 61% американцев теперь считают, что искусственный интеллект может угрожать человеческой цивилизации, и эта точка зрения особенно сильна среди христиан-евангелистов. Для религиоведа Джерачи это неудивительно. Он отметил, что апокалиптическая логика «очень, очень, очень сильна в американском протестантском христианстве» — настолько, что 4 из 10 взрослых американцев в настоящее время верят, что человечество живёт в последние времена.
К сожалению, апокалиптическая логика часто порождает опасный фанатизм. В средние века, когда появлялся ложный мессия, люди отказывались от своих мирских владений, чтобы следовать за своим пророком. Сегодня, когда СМИ наводняют разговоры о конце света ИИ, истинно верующие бросают колледжи, чтобы изучать безопасность ИИ. Логика апокалипсиса или искупления, рая или ада заставляет людей идти на огромный риск – брать на себя обязательства.
В прошлогоднем интервью со мной МакАскилл отрицал практику экстремальных азартных игр. Он рассказал мне, что в его воображении определенный тип братьев-технологов из Кремниевой долины верит, что существует 5%-ная вероятность умереть от катастрофы AGI и 10%-ная вероятность того, что AGI принесет счастливую утопию, и они будут готовы чтобы выдержать эти шансы.Создайте AGI в спешке.
"Я не хочу, чтобы люди создавали AGI, потому что они не реагируют на этические вопросы, - сказал мне МакАскилл. - Может быть, это означает, что нам придется отложить Сингулярность, чтобы сделать ее более безопасной. Может быть, это означает, что Сингулярность не будет развиваться". быть при моей жизни. Это будет огромная жертва».
Когда МакАскилл рассказал мне об этом, я представил образ Моисея, смотрящего на Землю Обетованную, но знающего, что он не сможет до нее добраться. Долгосрочное видение, казалось, требовало от него жесткой веры: не спасешься лично ты, но спасутся твои духовные потомки.
Нам нужно решить, хотим ли мы спасения именно таким образом
Нет ничего плохого в том, чтобы верить в то, что технологии могут фундаментально улучшить судьбу человечества. Во многих отношениях это очевидно.
"Проблема не в технологиях", - сказал мне Илия Делио, имеющий две докторские степени и заведующий кафедрой теологии в Университете Вилланова. Фактически Делио был убежден, что мы уже находимся на новой стадии эволюции, переходя от Homo sapiens. «технологическому Homo Sapiens». Мнение отрадно. Она считает, что мы должны активно развиваться с помощью технологий и непредвзято.
Но она также понимает, что нам необходимо четко понимать, какие ценности влияют на наши технологии, «чтобы мы могли разрабатывать технологии целеустремленно и с соблюдением этических норм», — сказала она. В противном случае «технологии слепы и потенциально опасны».
Джерачи соглашается. "Было бы страшно, если бы многие люди в Кремниевой долине сказали: "Эй, я поддерживаю эту технологию, потому что она сделает меня бессмертным", - сказал он мне. - Но если бы кто-то сказал: "Я поддерживаю эту технологию", потому что я думаю, что мы можем использовать его для решения проблемы голода в мире" - это две совершенно разные мотивации. Это повлияет на тип продукта, который вы пытаетесь разработать, на людей, для которых вы разрабатываете, и на людей, которых вы пытаетесь создать. окружить себя тем, как оно развернуто в мире».
Обдуманно принимая решение о ценности технологии, вы также должны четко осознавать, кто имеет право принимать решения. Шварц считает, что разработчики ИИ продают нам видение необходимых технологических достижений, которые принесет ИИ, и считают себя единственными экспертами в этом вопросе, что дает им огромную власть — возможно, большую, чем у наших демократически избранных чиновников.
"Идея о том, что развитие искусственного интеллекта является законом природы, становится руководящим принципом, и этот руководящий принцип является политическим. Он дает политическую власть одним людям и гораздо меньшую власть большинству других", - сказал Шварц. «Мне странно говорить: «Мы должны быть очень осторожны с ОИИ», вместо того, чтобы сказать: «Нам не нужен ОИИ, это не является частью дискуссии». с нами обращаются так, как это даже не то, как нам предоставляют варианты, устоялось, и мы можем даже коллективно рекомендовать не использовать AGI».
Мы дошли до этой точки во многом потому, что за последнюю тысячу лет Запад оказался под угрозой скатиться к единому нарративу: истории, которую мы унаследовали от средневековых религиозных мыслителей, которые приравнивали технологический прогресс к моральному прогрессу.
"Это единственная версия, которая у нас есть, - говорит Делио. - Эта история заставляет нас слушать технических экспертов (которые в прошлом были также духовными авторитетами) и встраивать ценности и предположения в их продукты".
"Какова альтернатива? Если бы альтернатива заключалась в том, что жить живым - это самоцель", - добавил Делио, - "тогда наши ожидания от технологий могли бы быть совершенно другими". "Но у нас нет такого повествования! Наши основные повествования посвящены создавать, изобретать, создавать и позволять им менять нас».
Нам нужно решить, какого спасения мы хотим. Если наш энтузиазм в отношении искусственного интеллекта исходит из идеи выхода за пределы земли и смерти тела, это будет иметь социальные последствия. Но если мы возьмем на себя обязательство использовать технологии для улучшения мира и благополучия этих тел, мы сможем достичь других результатов. По словам Нобла, мы можем «начать направлять наши удивительные способности на более светские и гуманные цели».