Джерело зображення: створено інструментом Unbounded AI
Це не випадково - релігія і технології перепліталися століттями.
Що, якби я сказав тобі, що через 10 років настане кінець світу, яким ти його знаєш. Ви будете жити на небесах без хвороб, старіння та смерті. Життя вічне буде тобі! Навіть краще, ваш мозок буде звільнений від невизначеності -- і ви отримаєте ідеальні знання. Ви більше не в пастці на землі, ви можете жити на небі.
Якби я все це вам розповіла, ви б подумали про мене як про релігійного проповідника чи дослідника штучного інтелекту?
Будь-яке припущення має сенс.
Чим більше ви слухаєте дискусії про штучний інтелект у Силіконовій долині, тим більше чуєте відлуння релігії. Оскільки велика частина захоплення створенням надрозумних машин виникає через переробку релігійних ідей. Більшість світських технологів, які створюють штучний інтелект, цього не усвідомлюють.
Ці технічні експерти пропонують приховувати смерть, завантажуючи свої думки в хмару, де ми можемо жити цифрово вічно. Вони описують штучний інтелект як механізм прийняття рішень, який може з математичною точністю визначити, що є оптимальним, а що ні. Вони уявляють штучний загальний інтелект (AGI) — гіпотетичну систему, яка могла б відповідати людським здібностям розв’язувати проблеми в багатьох областях — як спробу, яка могла б гарантувати порятунок людства, якщо вона піде добре, а якщо ні, то може також принести катастрофа.
Ці бачення майже ідентичні баченням християнської есхатології, розділу богослов’я, що займається «есхатологією» або остаточною долею людства.
Християнська есхатологія говорить нам, що всі ми прямуємо до «чотирьох останніх речей»: смерті, суду, раю чи пекла. Ті, хто померли, воскреснуть під час Другого пришестя Христа і отримають вічну долю. Наші душі постануть перед остаточним судом Бога, досконалого, хто приймає рішення. Якщо все піде добре, ми піднімемося на небеса, а якщо все піде не так, ми потрапимо в пекло.
П’ять років тому, коли я почав відвідувати конференції в Силіконовій долині і вперше помітив схожість між темою релігії та штучного інтелекту, я подумав про просте психологічне пояснення. І те, і інше є відповіддю на основні людські тривоги: смерть; труднощі усвідомлення того, що ми робимо правильно чи неправильно; непізнаваність сенсу нашого життя та нашого кінцевого місця в цьому всесвіті чи наступному. Релігійні мислителі та мислителі штучного інтелекту щойно натрапили на схожі відповіді на питання, які хвилюють усіх нас.
Тож я був здивований, виявивши, що зв’язок набагато глибший.
«Релігія та технології були взаємопов’язані протягом століть, хоча деякі люди скажуть вам, що наука є ціннісно нейтральною та не має нічого спільного з такими речами, як релігія», – сказав Роберт Герачі, професор релігієзнавства Манхеттенського коледжу та автор книги «Апокаліптика». ШІ". Це просто неправда. Такого ніколи не було".
Насправді історики, які відстежують вплив релігійної думки, вважають, що від християнських богословів Середньовіччя до засновників емпіризму в епоху Відродження та футуриста Рея Курцвейла та тих, хто перебував під його впливом із технологічних важкоатлетів Силіконової долини, ми можемо скласти пряму картину. лінія.
Іноді деякі люди все ще отримують невиразне відчуття подібності. Джек Кларк, співзасновник компанії з безпеки штучного інтелекту Anthropic, написав у Twitter у березні: «Іноді я думаю, що ентузіазм людей щодо AGI є недоречним релігійним імпульсом світської культури».
Однак переважно ті, хто розглядає AGI як форму технологічної есхатології — від Сема Альтмана, генерального директора виробника ChatGPT OpenAI до Ілона Маска, який хоче підключити мізки до комп’ютерів — висловлюють свої ідеї світськими термінами. Вони або не усвідомлюють, або не бажають визнати, що висунуте ними бачення значною мірою злито з давньою релігійною думкою.
Але важливо знати, звідки беруться ці ідеї. Це не тому, що «релігія» є якимось принизливим словом; те, що ідеї релігійні, не означає, що з ними щось не так (часто трапляється навпаки). Натомість ми повинні зрозуміти історію цих ідей — скажімо, віртуальне загробне життя як форма порятунку або моральний прогрес, що розуміється як технологічний прогрес — щоб ми зрозуміли, що вони не є незмінними чи неминучими; деякі люди Ці ідеї були запропоновані в певний час. часи для певних цілей, але інші існують, якщо ми цього хочемо. Ми не повинні впадати в небезпеку однієї історії.
"Ми маємо бути обережними щодо наративів, які ми приймаємо, - сказала Елке Шварц, політичний теоретик Лондонського університету королеви Марії, яка вивчає етику військового штучного інтелекту. - Щоразу, коли ми говоримо про щось релігійне, це стосується чогось священного. Мати щось священне Це може боляче, тому що якщо щось священне, варто зробити для цього найгірше».
Концепція штучного інтелекту завжди була глибоко релігійною
В авраамічних релігіях, які сформували Захід, усе повертається до сорому.
Пам’ятаєте, що сталося в книзі Буття? Коли Адам і Єва їли з дерева пізнання, Бог вигнав їх з Едемського саду і піддав усім зневагам плоті й крові: праці й болю, народження й смерті. Після гріхопадіння людство ніколи не було колишнім. До того, як ми згрішили, ми були досконалими створіннями, створеними за образом Божим; тепер ми жалюгідні шкури.
Але в середні віки християнські мислителі запропонували радикальну ідею, як пояснює історик Девід Нобл у своїй книзі «Релігія технологій». Що, якби технології могли допомогти нам відновити людство до його стану досконалості до гріхопадіння?
Наприклад, впливовий філософ дев’ятого століття Іоанн Скот Еріугена стверджував, що частина Адама, створеного за образом Бога, полягає в тому, що він був творцем, творцем. Тому ми повинні наблизитися до цього аспекту себе, якщо хочемо відновити людство до богоподібної досконалості, яким воно було до гріхопадіння Адама. Еріугена пише, що «механічні мистецтва» (також відомі як технологія) — це «зв’язок людини з божественним, а їхнє культивування є засобом порятунку людства».
Ця ідея виникла в середньовічних монастирях, де почав поширюватися девіз «ora et labora» (молись і працюй). Навіть під час так званих темних віків деякі з цих монастирів стали осередками інженерії, створивши такі винаходи, як перше відоме водяне колесо, що працює від припливів, і ударне буріння. Католиків стали називати новаторами, і донині інженери мають чотирьох святих покровителів у релігії. Дехто каже, що католицька церква була Кремнієвою долиною Середньовіччя, і на це є причина: як я зазначив у статті 2018 року в The Atlantic, все, починаючи від «металургії, млинів і нотного запису до годинникового механізму та друкарства», католицьке Церква незамінна.
Це не дослідження для технологій і не дослідження для прибутку. Навпаки, науково-технічний прогрес є синонімом морального прогресу. Відновлюючи людство до його початкової досконалості, ми можемо вступити в Царство Боже. Як пише Ноубл: «Технологія стала синонімом трансцендентності та, як ніколи раніше, пов’язана з християнськими ідеями спокути».
Середньовічна ідея ототожнення технічного прогресу з моральним прогресом вплинула на покоління християнських мислителів і продовжується в сучасну епоху. Подружжя Баконг ілюструє, як одне й те саме головне переконання — що технологія принесе спасіння — впливає на релігійних традиціоналістів і тих, хто приймає науковий світогляд.
У 13 столітті алхімік Роджер Бекон черпав натхнення з біблійних пророцтв, намагаючись створити еліксир життя, який мав би досягти воскресіння, подібного до того, яке описав апостол Павло. Бекон сподівається, що цей еліксир не тільки зробить людей безсмертними, але й наділить їх магічними здібностями, такими як подорожувати зі швидкістю думки. У 16 столітті з'явився Френсіс Бекон. На перший погляд він дуже відрізнявся від своїх попередників – він критикував алхімію, вважаючи її ненауковою, – але він передбачив, що одного дня ми використаємо технологію, щоб перемогти нашу смертність, «щоб прославити Творця та полегшити людські страждання». біль».
До епохи Відродження європейці насмілилися мріяти, що ми зможемо переробити себе за образом Бога, не тільки поступово досягти безсмертя, але й створити свідомість з неживої матерії.
Шварц зазначив: «Окрім перемоги над смертю, можливість створити нове життя є найвищою силою».
Інженери-християни створили автоматони – дерев’яних роботів – які могли пересуватися та читати молитви. Згідно з легендою, мусульмани створили механічні голови, які говорили як оракули. У єврейському фольклорі є історії про рабинів, які використовували магічні мовні сполучення, щоб оживити глиняні фігури (так звані «фігури з глини»). У цих історіях глиняні фігурки іноді рятують євреїв від переслідувань. Але в інший час глиняні фігурки стають зрадниками, вбивають людей і викрадають товари, а також використовують свою силу, щоб чинити зло.
Так, усе це звучить дуже знайомо. Ви можете почути таке ж занепокоєння в книзі математика та філософа Норберта Вінера 1964 року про ризики штучного інтелекту God & Golem, Inc., а також у низці відкритих листів, які зараз публікують експерти з технологій. Вони попереджають, що AGI принесе нам порятунок або загибель.
Читаючи ці зауваження, ви можете запитати: якщо AGI загрожує апокаліпсисом і обіцяє порятунок, навіщо ми взагалі створюємо AGI? Чому б не обмежитися створенням більш вузьких форм штучного інтелекту - який уже може творити чудеса в таких програмах, як лікування хвороб - і не залишитися з ним деякий час?
Щоб дізнатися про це, прослідкуйте за мною трохи далі в історію, коли ми починаємо розуміти, як три недавні переплетені рухи формують бачення Кремнієвої долини щодо штучного інтелекту.
До трансгуманізму, ефективного альтруїзму та довготермінізму
За багатьма свідченнями, коли Чарльз Дарвін опублікував свою теорію еволюції в 1859 році, усі релігійні мислителі відразу ж сприйняли її як жахливу єретичну загрозу людству, найблагочестивішому творінню Бога. Але деякі християнські мислителі бачать у ньому яскраве нове вбрання стародавніх духовних пророцтв. Адже релігійні ідеї насправді ніколи не вмирають, вони просто отримують новий одяг.
Типовим прикладом є П’єр Тейяр де Шарден, французький священик-єзуїт, який також вивчав палеонтологію на початку 20 століття. Він вважає, що людська еволюція, керована технологіями, насправді є носієм Царства Божого.Інтеграція людей і машин призведе до вибуху інтелекту, який він називає точкою Омега. Наша свідомість увійде в «надсвідомий стан», в якому ми зливаємося з Богом і стаємо новим видом.
У своїй книзі «Бог, людина, тварина, машина» 2021 року Меган О’Ґіблін документує, що біолог-еволюціоніст Олдос Хакслі був президентом Британської асоціації гуманістів і Британського товариства євгеніки. Хакслі популяризував ідею Тейяра про те, що ми повинні використовувати технології для еволюції нашого виду, назвавши це «трансгуманізмом».
Це, у свою чергу, вплинуло на футуриста Рея Курцвейла, який зробив в основному той самий прогноз, що й Тейяр: ми збираємося вступити в еру інтеграції людського та машинного інтелекту, і людський інтелект стане надзвичайно потужним. Але замість того, щоб назвати її «точка Омега», Курцвейл перейменував її в «точку сингулярності».
«Люди та обчислювальні технології, які вони створюють, зможуть вирішити давні проблеми... і змінять природу смерті в постбіологічному майбутньому», — написав Курцвейл у своєму національному бестселері «Епоха винахідливості» 1999 року. Нового Заповіту. Згідно з Книгою Одкровення: «Нема вже смерті, ані скорботи, ані плачу, ані болю, бо перше минулося».)
Курцвейл визнає духовну подібність між ними, як і ті, хто сформував явно релігійні рухи навколо поклоніння штучному інтелекту або використання штучного інтелекту для того, щоб спрямувати людей до благочестя, від руху Терасем Мартіни Ротблатт до Асоціації надлюдей Мормонів, до недовготривалого Шляху Ентоні Левандовського. Майбутня церква. Але багато хто, як-от філософ Оксфордського університету Нік Бостром, наполягають на тому, що трансгуманізм відрізняється від релігії та спирається на «критичний розум і найкращі наукові докази, які ми маємо».
Сьогодні у трансгуманізму є сестра, ще один рух, який народився в Оксфорді та розгорівся в Силіконовій долині: Ефективний альтруїзм (EA), метою якого є з’ясувати, як зробити якомога більше добра для більшості людей. Ефективні альтруїсти також кажуть, що їхній підхід ґрунтується на світському розумінні та доказах.
Однак ефективний альтруїзм насправді багато в чому схожий на релігію: функціонально (він об’єднує групу, сформовану навколо спільного бачення морального життя), структурно (він має ієрархію пророчих лідерів, класичні тексти, фестивалі та ритуали) та естетично (вона сприяла сплаті десятини та підтримувала аскетизм). Найважливіше – це есхатологія.
Есхатологія ефективного альтруїзму виступає у формі його найбільш суперечливого погляду, довготермінізму, який Маск одного разу описав як «дуже сумісний з моєю філософією». У ньому стверджується, що найкращий спосіб допомогти більшості людей — зосередитися на забезпеченні виживання людства у віддаленому майбутньому (скажімо, через мільйони років), коли людей може існувати на мільярди більше, ніж зараз, припускаючи, що наш вид не зникне. перший.
Звідси ми починаємо отримувати відповіді на запитання, чому технологи працюють над створенням AGI.
Прогрес ШІ як моральний прогрес
Для ефективних альтруїстів і довготермінів просто наполягати на вузькому ШІ – не варіант. Філософа Оксфордського університету Вілла Макаскілла називають «неохоче пророком» ефективного альтруїзму та довгострокового погляду. У своїй книзі «Чим ми зобов’язані майбутньому» 2022 року він пояснює, чому вважає застій технологічного прогресу неприйнятним. «Періоди застою, — писав він, — можуть збільшити ризик вимирання та остаточного краху».
Він цитує свого колегу Тобі Орда, який вважає, що існує одна з шести ймовірностей вимирання людства протягом наступного століття через такі ризики, як шахрайський штучний інтелект та спровоковані епідемії. Інший колега EA, Холден Карнофскі, так само вважає, що ми живемо в «переломний момент в історії» або «найважливіше століття» — особливий період в історії людства, в якому ми або процвітатимемо, як ніколи раніше, або зазнаємо знищення. Макаскілл, як і Маск, припускає в книзі, що хороший спосіб уникнути вимирання — це колонізувати інші планети, щоб не складати всі яйця в один кошик.
Але це лише половина «морального аргументу МакАскілла на користь космічного врегулювання». Інша половина полягає в тому, що ми повинні прагнути зробити майбутню людську цивілізацію якомога більшою та утопічною. За словами оксфордського колеги МакАскілла Бострома, «космічна колонізація» дасть нам простір і ресурси для запуску величезної кількості цифрових симуляцій, які дозволять людям жити довго і щасливо. Чим більше простір, тим більше щасливих (цифрових) людей! Саме тут лежить більшість моральних цінностей: не в теперішньому тут, на землі, а в майбутньому на небі… вибачте, я мав на увазі «віртуальне загробне життя».
Коли ми складаємо всі ці ідеї разом і узагальнюємо, ми приходимо до цієї основної пропозиції:
У нас може залишитися небагато часу до кінця життя, яке ми знаємо.
Тому треба робити ставку на те, що нас врятує.
Оскільки ставки такі високі, ми повинні поставити достатньо і викластися на все.
Кожен, хто вивчає релігію, відразу розуміє, що це таке: апокаліптична логіка.
Трансгуманісти, ефективні альтруїсти та довготермісти успадковують погляд, що кінець неминучий і що технологічний прогрес є нашим найкращим шансом для прогресу як цивілізації. Для тих, хто діє за цією логікою, пошук AGI може здатися простою справою. Хоча вони вважають, що AGI становить значний ризик для існування, вони вважають, що ми не можемо дозволити собі не будувати AGI, оскільки він має потенціал перевести людство від нестабільного земного підліткового віку (який може закінчитися будь-коли!) до процвітаючого міжзоряного дорослого життя (так багато щасливих людей, тому багато цивілізованих цінностей!). Звичайно, ми повинні рухатися вперед технологічно, тому що це означає рух вперед цивілізаційно!
Але чи це ґрунтується на розумі та доказах? Або це корениться в догмі?
Головною передумовою тут є технологічний детермінізм, змішаний із геополітикою. Ідея полягає в тому, що навіть якщо ми з вами не створимо жахливо потужний штучний інтелект, це зробить хтось інший або якась інша країна, тож навіщо заважати нам брати участь? Альтман з OpenAI є прикладом віри в те, що технології повинні рухатися вперед. У 2017 році він написав у своєму блозі: «Якщо ми спочатку не знищимо себе, з’явиться надлюдський штучний інтелект.» Чому? «Як ми дізналися, науковий прогрес зрештою відбудеться, якщо закони фізики не зупинять його».
Ми навчилися? Я не бачу доказів того, що щось, що можна винайти, коли-небудь буде винайдено. (Як пише провідний дослідник Impact of Artificial Intelligence Катя Грейс: «Подумайте про машину, яка плює лайно вам в очі. Технічно ми можемо це зробити, але, ймовірно, ніхто ніколи не створював такої машини».) Люди, здається, більш схильні до прагнути до інновацій, коли їх спонукає сильний економічний, соціальний чи ідеологічний тиск.
Серед божевілля AGI у Силіконовій долині соціальний та ідеологічний тиск створюється заново винайденими релігійними ідеями під виглядом трансгуманізму, ефективного альтруїзму та довготермінізму. Що стосується економічного тиску та тиску на прибутковість, він завжди присутній у Кремнієвій долині.
Опитування Reuters у травні показало, що 61% американців зараз вірять, що штучний інтелект може загрожувати людській цивілізації, і ця точка зору особливо сильна серед євангельських християн. Для релігієзнавця Герачі це не дивно. Він зазначив, що апокаліптична логіка «дуже, дуже, дуже потужна в американському протестантському християнстві» — настільки, що 4 з 10 дорослих американців наразі вірять, що людство живе в кінці часів.
На жаль, апокаліптична логіка часто породжує небезпечний фанатизм. У середні віки, коли з’являвся фальшивий месія, люди залишали свої світські маєтки, щоб піти за своїм пророком. Сьогодні, коли розмови про судний день штучного інтелекту заповнюють засоби масової інформації, справжні віруючі кидають навчання в коледжах, щоб вивчати безпеку штучного інтелекту. Логіка апокаліпсису чи спокути, раю чи пекла спонукає людей йти на величезний ризик – віддатися цьому.
Минулого року в інтерв’ю зі мною Макаскілл заперечував практику екстремальних азартних ігор. Він сказав мені, що в його уяві певний тип братів-технологів у Кремнієвій долині вірить, що існує 5% шансів померти від катастрофи AGI, і 10% шансів, що AGI принесе щасливу утопію, і вони будуть готові щоб витримати ці шанси. Поспішайте будувати AGI.
"Я не хочу, щоб такі люди створювали AGI, тому що вони не реагують на етичні проблеми, – сказав мені МакАскілл. – Можливо, це означає, що нам потрібно відкласти Сингулярність, щоб зробити її безпечнішою. Можливо, це означає, що Сингулярність не збирається бути в моєму житті. Це буде величезна жертва».
Коли Макаскілл сказав мені це, я уявив образ Мойсея, який дивиться на землю обітовану, але знає, що не може її досягти. Довгострокове бачення, здавалося, вимагало від нього жорстокої віри: ви особисто не будете врятовані, але ваші духовні нащадки врятуються.
Ми повинні вирішити, чи це спосіб, яким ми хочемо порятунку
Немає нічого поганого само по собі у вірі в те, що технології можуть кардинально покращити долю людства. Багато в чому це явно так.
«Проблема не в техніці», — сказав мені Ілія Деліо, який має два докторські ступені та очолює кафедру богослов’я в Університеті Вілланова.Насправді Деліо був переконаний, що ми вже перебуваємо на новому етапі еволюції, переході від Homo sapiens. до «технологічного Homo sapiens». Вона вважає, що ми повинні активно розвиватися за допомогою технологій з відкритим розумом.
Але вона також розуміє, що ми повинні чітко розуміти, які цінності впливають на нашу технологію, «щоб ми могли розвивати технологію з цілеспрямованою метою — і з етикою», — сказала вона. Інакше «технологія сліпа і потенційно небезпечна».
Джерачі погоджується. «Було б страшно, якби багато людей у Кремнієвій долині сказали: «Гей, я підтримую цю технологію, тому що вона зробить мене безсмертним», — сказав він мені. «Але якби хтось сказав: «Я підтримую цю технологію», тому що я вважаю, що ми можемо використати це, щоб подолати голод у світі" - це дві дуже різні мотивації. Це вплине на тип продукту, який ви намагаєтесь створити, на людей, для яких ви розробляєте, і людей, яких ви намагаєтеся щоб оточити себе тим, як це розгортається у світі».
Зважено приймаючи рішення про цінність технології, ви також повинні чітко усвідомлювати, хто має право приймати рішення. Шварц вважає, що розробники штучного інтелекту продають нам бачення необхідних технологічних досягнень, які принесе штучний інтелект, і визнають себе єдиними експертами в цьому, що дає їм величезну владу — мабуть, більше, ніж наші демократично обрані чиновники мають більше влади.
«Ідея про те, що розвиток штучного інтелекту є законом природи, стає принципом упорядкування, і цей принцип упорядкування є політичним. Він дає політичну владу деяким людям і набагато менше — більшості інших», — сказав Шварц. «Для мене дивно говорити: «Ми повинні бути дуже обережними з AGI», на відміну від того, що «Нам не потрібен AGI, це не є частиною обговорення». Але ми досягли точки, коли сила до нас ставляться таким чином, що навіть не те, як нам надають варіанти, є твердим, і ми навіть можемо колективно рекомендувати, щоб AGI не переслідував».
Ми дійшли до цього значною мірою тому, що протягом останньої тисячі років Захід був під загрозою впасти в єдиний наратив: історію, яку ми успадкували від середньовічних релігійних мислителів, які ототожнювали технічний прогрес з мораллю. прогрес.
«Це єдиний наратив, який ми маємо, — каже Деліо. — Цей наратив змушує нас прислухатися до технічних експертів (які в минулому також були духовними авторитетами) і вбудовувати цінності та припущення в їхні продукти».
«Яка альтернатива? Якби альтернативою було «жити живим — це самоціль», — додав Деліо, — тоді наші очікування щодо технологій могли б бути зовсім іншими». «Але у нас немає такого наративу! створюючи, винаходячи, створюючи та дозволяючи їм змінити нас».
Нам потрібно вирішити, якого типу спасіння ми хочемо. Якщо наш ентузіазм щодо штучного інтелекту походить від бачення виходу за межі землі та смерті тіла, це матиме соціальні наслідки. Але якщо ми зобов’язуємося використовувати технології для покращення світу та добробуту цих тіл, ми можемо досягти інших результатів. Як каже Ноубл, ми можемо «почати спрямовувати наші дивовижні здібності на більш світські та гуманні цілі».
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Бачення ШІ Кремнієвої долини? Це відлуння перепакованої релігії
Автор Сігал Семюель
Джерело: Vox
Що, якби я сказав тобі, що через 10 років настане кінець світу, яким ти його знаєш. Ви будете жити на небесах без хвороб, старіння та смерті. Життя вічне буде тобі! Навіть краще, ваш мозок буде звільнений від невизначеності -- і ви отримаєте ідеальні знання. Ви більше не в пастці на землі, ви можете жити на небі.
Якби я все це вам розповіла, ви б подумали про мене як про релігійного проповідника чи дослідника штучного інтелекту?
Будь-яке припущення має сенс.
Чим більше ви слухаєте дискусії про штучний інтелект у Силіконовій долині, тим більше чуєте відлуння релігії. Оскільки велика частина захоплення створенням надрозумних машин виникає через переробку релігійних ідей. Більшість світських технологів, які створюють штучний інтелект, цього не усвідомлюють.
Ці технічні експерти пропонують приховувати смерть, завантажуючи свої думки в хмару, де ми можемо жити цифрово вічно. Вони описують штучний інтелект як механізм прийняття рішень, який може з математичною точністю визначити, що є оптимальним, а що ні. Вони уявляють штучний загальний інтелект (AGI) — гіпотетичну систему, яка могла б відповідати людським здібностям розв’язувати проблеми в багатьох областях — як спробу, яка могла б гарантувати порятунок людства, якщо вона піде добре, а якщо ні, то може також принести катастрофа.
Ці бачення майже ідентичні баченням християнської есхатології, розділу богослов’я, що займається «есхатологією» або остаточною долею людства.
Християнська есхатологія говорить нам, що всі ми прямуємо до «чотирьох останніх речей»: смерті, суду, раю чи пекла. Ті, хто померли, воскреснуть під час Другого пришестя Христа і отримають вічну долю. Наші душі постануть перед остаточним судом Бога, досконалого, хто приймає рішення. Якщо все піде добре, ми піднімемося на небеса, а якщо все піде не так, ми потрапимо в пекло.
П’ять років тому, коли я почав відвідувати конференції в Силіконовій долині і вперше помітив схожість між темою релігії та штучного інтелекту, я подумав про просте психологічне пояснення. І те, і інше є відповіддю на основні людські тривоги: смерть; труднощі усвідомлення того, що ми робимо правильно чи неправильно; непізнаваність сенсу нашого життя та нашого кінцевого місця в цьому всесвіті чи наступному. Релігійні мислителі та мислителі штучного інтелекту щойно натрапили на схожі відповіді на питання, які хвилюють усіх нас.
Тож я був здивований, виявивши, що зв’язок набагато глибший.
«Релігія та технології були взаємопов’язані протягом століть, хоча деякі люди скажуть вам, що наука є ціннісно нейтральною та не має нічого спільного з такими речами, як релігія», – сказав Роберт Герачі, професор релігієзнавства Манхеттенського коледжу та автор книги «Апокаліптика». ШІ". Це просто неправда. Такого ніколи не було".
Насправді історики, які відстежують вплив релігійної думки, вважають, що від християнських богословів Середньовіччя до засновників емпіризму в епоху Відродження та футуриста Рея Курцвейла та тих, хто перебував під його впливом із технологічних важкоатлетів Силіконової долини, ми можемо скласти пряму картину. лінія.
Іноді деякі люди все ще отримують невиразне відчуття подібності. Джек Кларк, співзасновник компанії з безпеки штучного інтелекту Anthropic, написав у Twitter у березні: «Іноді я думаю, що ентузіазм людей щодо AGI є недоречним релігійним імпульсом світської культури».
Однак переважно ті, хто розглядає AGI як форму технологічної есхатології — від Сема Альтмана, генерального директора виробника ChatGPT OpenAI до Ілона Маска, який хоче підключити мізки до комп’ютерів — висловлюють свої ідеї світськими термінами. Вони або не усвідомлюють, або не бажають визнати, що висунуте ними бачення значною мірою злито з давньою релігійною думкою.
Але важливо знати, звідки беруться ці ідеї. Це не тому, що «релігія» є якимось принизливим словом; те, що ідеї релігійні, не означає, що з ними щось не так (часто трапляється навпаки). Натомість ми повинні зрозуміти історію цих ідей — скажімо, віртуальне загробне життя як форма порятунку або моральний прогрес, що розуміється як технологічний прогрес — щоб ми зрозуміли, що вони не є незмінними чи неминучими; деякі люди Ці ідеї були запропоновані в певний час. часи для певних цілей, але інші існують, якщо ми цього хочемо. Ми не повинні впадати в небезпеку однієї історії.
"Ми маємо бути обережними щодо наративів, які ми приймаємо, - сказала Елке Шварц, політичний теоретик Лондонського університету королеви Марії, яка вивчає етику військового штучного інтелекту. - Щоразу, коли ми говоримо про щось релігійне, це стосується чогось священного. Мати щось священне Це може боляче, тому що якщо щось священне, варто зробити для цього найгірше».
Концепція штучного інтелекту завжди була глибоко релігійною
В авраамічних релігіях, які сформували Захід, усе повертається до сорому.
Пам’ятаєте, що сталося в книзі Буття? Коли Адам і Єва їли з дерева пізнання, Бог вигнав їх з Едемського саду і піддав усім зневагам плоті й крові: праці й болю, народження й смерті. Після гріхопадіння людство ніколи не було колишнім. До того, як ми згрішили, ми були досконалими створіннями, створеними за образом Божим; тепер ми жалюгідні шкури.
Але в середні віки християнські мислителі запропонували радикальну ідею, як пояснює історик Девід Нобл у своїй книзі «Релігія технологій». Що, якби технології могли допомогти нам відновити людство до його стану досконалості до гріхопадіння?
Наприклад, впливовий філософ дев’ятого століття Іоанн Скот Еріугена стверджував, що частина Адама, створеного за образом Бога, полягає в тому, що він був творцем, творцем. Тому ми повинні наблизитися до цього аспекту себе, якщо хочемо відновити людство до богоподібної досконалості, яким воно було до гріхопадіння Адама. Еріугена пише, що «механічні мистецтва» (також відомі як технологія) — це «зв’язок людини з божественним, а їхнє культивування є засобом порятунку людства».
Ця ідея виникла в середньовічних монастирях, де почав поширюватися девіз «ora et labora» (молись і працюй). Навіть під час так званих темних віків деякі з цих монастирів стали осередками інженерії, створивши такі винаходи, як перше відоме водяне колесо, що працює від припливів, і ударне буріння. Католиків стали називати новаторами, і донині інженери мають чотирьох святих покровителів у релігії. Дехто каже, що католицька церква була Кремнієвою долиною Середньовіччя, і на це є причина: як я зазначив у статті 2018 року в The Atlantic, все, починаючи від «металургії, млинів і нотного запису до годинникового механізму та друкарства», католицьке Церква незамінна.
Це не дослідження для технологій і не дослідження для прибутку. Навпаки, науково-технічний прогрес є синонімом морального прогресу. Відновлюючи людство до його початкової досконалості, ми можемо вступити в Царство Боже. Як пише Ноубл: «Технологія стала синонімом трансцендентності та, як ніколи раніше, пов’язана з християнськими ідеями спокути».
Середньовічна ідея ототожнення технічного прогресу з моральним прогресом вплинула на покоління християнських мислителів і продовжується в сучасну епоху. Подружжя Баконг ілюструє, як одне й те саме головне переконання — що технологія принесе спасіння — впливає на релігійних традиціоналістів і тих, хто приймає науковий світогляд.
У 13 столітті алхімік Роджер Бекон черпав натхнення з біблійних пророцтв, намагаючись створити еліксир життя, який мав би досягти воскресіння, подібного до того, яке описав апостол Павло. Бекон сподівається, що цей еліксир не тільки зробить людей безсмертними, але й наділить їх магічними здібностями, такими як подорожувати зі швидкістю думки. У 16 столітті з'явився Френсіс Бекон. На перший погляд він дуже відрізнявся від своїх попередників – він критикував алхімію, вважаючи її ненауковою, – але він передбачив, що одного дня ми використаємо технологію, щоб перемогти нашу смертність, «щоб прославити Творця та полегшити людські страждання». біль».
До епохи Відродження європейці насмілилися мріяти, що ми зможемо переробити себе за образом Бога, не тільки поступово досягти безсмертя, але й створити свідомість з неживої матерії.
Шварц зазначив: «Окрім перемоги над смертю, можливість створити нове життя є найвищою силою».
Інженери-християни створили автоматони – дерев’яних роботів – які могли пересуватися та читати молитви. Згідно з легендою, мусульмани створили механічні голови, які говорили як оракули. У єврейському фольклорі є історії про рабинів, які використовували магічні мовні сполучення, щоб оживити глиняні фігури (так звані «фігури з глини»). У цих історіях глиняні фігурки іноді рятують євреїв від переслідувань. Але в інший час глиняні фігурки стають зрадниками, вбивають людей і викрадають товари, а також використовують свою силу, щоб чинити зло.
Так, усе це звучить дуже знайомо. Ви можете почути таке ж занепокоєння в книзі математика та філософа Норберта Вінера 1964 року про ризики штучного інтелекту God & Golem, Inc., а також у низці відкритих листів, які зараз публікують експерти з технологій. Вони попереджають, що AGI принесе нам порятунок або загибель.
Читаючи ці зауваження, ви можете запитати: якщо AGI загрожує апокаліпсисом і обіцяє порятунок, навіщо ми взагалі створюємо AGI? Чому б не обмежитися створенням більш вузьких форм штучного інтелекту - який уже може творити чудеса в таких програмах, як лікування хвороб - і не залишитися з ним деякий час?
Щоб дізнатися про це, прослідкуйте за мною трохи далі в історію, коли ми починаємо розуміти, як три недавні переплетені рухи формують бачення Кремнієвої долини щодо штучного інтелекту.
До трансгуманізму, ефективного альтруїзму та довготермінізму
За багатьма свідченнями, коли Чарльз Дарвін опублікував свою теорію еволюції в 1859 році, усі релігійні мислителі відразу ж сприйняли її як жахливу єретичну загрозу людству, найблагочестивішому творінню Бога. Але деякі християнські мислителі бачать у ньому яскраве нове вбрання стародавніх духовних пророцтв. Адже релігійні ідеї насправді ніколи не вмирають, вони просто отримують новий одяг.
Типовим прикладом є П’єр Тейяр де Шарден, французький священик-єзуїт, який також вивчав палеонтологію на початку 20 століття. Він вважає, що людська еволюція, керована технологіями, насправді є носієм Царства Божого.Інтеграція людей і машин призведе до вибуху інтелекту, який він називає точкою Омега. Наша свідомість увійде в «надсвідомий стан», в якому ми зливаємося з Богом і стаємо новим видом.
У своїй книзі «Бог, людина, тварина, машина» 2021 року Меган О’Ґіблін документує, що біолог-еволюціоніст Олдос Хакслі був президентом Британської асоціації гуманістів і Британського товариства євгеніки. Хакслі популяризував ідею Тейяра про те, що ми повинні використовувати технології для еволюції нашого виду, назвавши це «трансгуманізмом».
Це, у свою чергу, вплинуло на футуриста Рея Курцвейла, який зробив в основному той самий прогноз, що й Тейяр: ми збираємося вступити в еру інтеграції людського та машинного інтелекту, і людський інтелект стане надзвичайно потужним. Але замість того, щоб назвати її «точка Омега», Курцвейл перейменував її в «точку сингулярності».
«Люди та обчислювальні технології, які вони створюють, зможуть вирішити давні проблеми... і змінять природу смерті в постбіологічному майбутньому», — написав Курцвейл у своєму національному бестселері «Епоха винахідливості» 1999 року. Нового Заповіту. Згідно з Книгою Одкровення: «Нема вже смерті, ані скорботи, ані плачу, ані болю, бо перше минулося».)
Курцвейл визнає духовну подібність між ними, як і ті, хто сформував явно релігійні рухи навколо поклоніння штучному інтелекту або використання штучного інтелекту для того, щоб спрямувати людей до благочестя, від руху Терасем Мартіни Ротблатт до Асоціації надлюдей Мормонів, до недовготривалого Шляху Ентоні Левандовського. Майбутня церква. Але багато хто, як-от філософ Оксфордського університету Нік Бостром, наполягають на тому, що трансгуманізм відрізняється від релігії та спирається на «критичний розум і найкращі наукові докази, які ми маємо».
Сьогодні у трансгуманізму є сестра, ще один рух, який народився в Оксфорді та розгорівся в Силіконовій долині: Ефективний альтруїзм (EA), метою якого є з’ясувати, як зробити якомога більше добра для більшості людей. Ефективні альтруїсти також кажуть, що їхній підхід ґрунтується на світському розумінні та доказах.
Однак ефективний альтруїзм насправді багато в чому схожий на релігію: функціонально (він об’єднує групу, сформовану навколо спільного бачення морального життя), структурно (він має ієрархію пророчих лідерів, класичні тексти, фестивалі та ритуали) та естетично (вона сприяла сплаті десятини та підтримувала аскетизм). Найважливіше – це есхатологія.
Есхатологія ефективного альтруїзму виступає у формі його найбільш суперечливого погляду, довготермінізму, який Маск одного разу описав як «дуже сумісний з моєю філософією». У ньому стверджується, що найкращий спосіб допомогти більшості людей — зосередитися на забезпеченні виживання людства у віддаленому майбутньому (скажімо, через мільйони років), коли людей може існувати на мільярди більше, ніж зараз, припускаючи, що наш вид не зникне. перший.
Звідси ми починаємо отримувати відповіді на запитання, чому технологи працюють над створенням AGI.
Прогрес ШІ як моральний прогрес
Для ефективних альтруїстів і довготермінів просто наполягати на вузькому ШІ – не варіант. Філософа Оксфордського університету Вілла Макаскілла називають «неохоче пророком» ефективного альтруїзму та довгострокового погляду. У своїй книзі «Чим ми зобов’язані майбутньому» 2022 року він пояснює, чому вважає застій технологічного прогресу неприйнятним. «Періоди застою, — писав він, — можуть збільшити ризик вимирання та остаточного краху».
Він цитує свого колегу Тобі Орда, який вважає, що існує одна з шести ймовірностей вимирання людства протягом наступного століття через такі ризики, як шахрайський штучний інтелект та спровоковані епідемії. Інший колега EA, Холден Карнофскі, так само вважає, що ми живемо в «переломний момент в історії» або «найважливіше століття» — особливий період в історії людства, в якому ми або процвітатимемо, як ніколи раніше, або зазнаємо знищення. Макаскілл, як і Маск, припускає в книзі, що хороший спосіб уникнути вимирання — це колонізувати інші планети, щоб не складати всі яйця в один кошик.
Але це лише половина «морального аргументу МакАскілла на користь космічного врегулювання». Інша половина полягає в тому, що ми повинні прагнути зробити майбутню людську цивілізацію якомога більшою та утопічною. За словами оксфордського колеги МакАскілла Бострома, «космічна колонізація» дасть нам простір і ресурси для запуску величезної кількості цифрових симуляцій, які дозволять людям жити довго і щасливо. Чим більше простір, тим більше щасливих (цифрових) людей! Саме тут лежить більшість моральних цінностей: не в теперішньому тут, на землі, а в майбутньому на небі… вибачте, я мав на увазі «віртуальне загробне життя».
Коли ми складаємо всі ці ідеї разом і узагальнюємо, ми приходимо до цієї основної пропозиції:
Кожен, хто вивчає релігію, відразу розуміє, що це таке: апокаліптична логіка.
Трансгуманісти, ефективні альтруїсти та довготермісти успадковують погляд, що кінець неминучий і що технологічний прогрес є нашим найкращим шансом для прогресу як цивілізації. Для тих, хто діє за цією логікою, пошук AGI може здатися простою справою. Хоча вони вважають, що AGI становить значний ризик для існування, вони вважають, що ми не можемо дозволити собі не будувати AGI, оскільки він має потенціал перевести людство від нестабільного земного підліткового віку (який може закінчитися будь-коли!) до процвітаючого міжзоряного дорослого життя (так багато щасливих людей, тому багато цивілізованих цінностей!). Звичайно, ми повинні рухатися вперед технологічно, тому що це означає рух вперед цивілізаційно!
Але чи це ґрунтується на розумі та доказах? Або це корениться в догмі?
Головною передумовою тут є технологічний детермінізм, змішаний із геополітикою. Ідея полягає в тому, що навіть якщо ми з вами не створимо жахливо потужний штучний інтелект, це зробить хтось інший або якась інша країна, тож навіщо заважати нам брати участь? Альтман з OpenAI є прикладом віри в те, що технології повинні рухатися вперед. У 2017 році він написав у своєму блозі: «Якщо ми спочатку не знищимо себе, з’явиться надлюдський штучний інтелект.» Чому? «Як ми дізналися, науковий прогрес зрештою відбудеться, якщо закони фізики не зупинять його».
Ми навчилися? Я не бачу доказів того, що щось, що можна винайти, коли-небудь буде винайдено. (Як пише провідний дослідник Impact of Artificial Intelligence Катя Грейс: «Подумайте про машину, яка плює лайно вам в очі. Технічно ми можемо це зробити, але, ймовірно, ніхто ніколи не створював такої машини».) Люди, здається, більш схильні до прагнути до інновацій, коли їх спонукає сильний економічний, соціальний чи ідеологічний тиск.
Серед божевілля AGI у Силіконовій долині соціальний та ідеологічний тиск створюється заново винайденими релігійними ідеями під виглядом трансгуманізму, ефективного альтруїзму та довготермінізму. Що стосується економічного тиску та тиску на прибутковість, він завжди присутній у Кремнієвій долині.
Опитування Reuters у травні показало, що 61% американців зараз вірять, що штучний інтелект може загрожувати людській цивілізації, і ця точка зору особливо сильна серед євангельських християн. Для релігієзнавця Герачі це не дивно. Він зазначив, що апокаліптична логіка «дуже, дуже, дуже потужна в американському протестантському християнстві» — настільки, що 4 з 10 дорослих американців наразі вірять, що людство живе в кінці часів.
На жаль, апокаліптична логіка часто породжує небезпечний фанатизм. У середні віки, коли з’являвся фальшивий месія, люди залишали свої світські маєтки, щоб піти за своїм пророком. Сьогодні, коли розмови про судний день штучного інтелекту заповнюють засоби масової інформації, справжні віруючі кидають навчання в коледжах, щоб вивчати безпеку штучного інтелекту. Логіка апокаліпсису чи спокути, раю чи пекла спонукає людей йти на величезний ризик – віддатися цьому.
Минулого року в інтерв’ю зі мною Макаскілл заперечував практику екстремальних азартних ігор. Він сказав мені, що в його уяві певний тип братів-технологів у Кремнієвій долині вірить, що існує 5% шансів померти від катастрофи AGI, і 10% шансів, що AGI принесе щасливу утопію, і вони будуть готові щоб витримати ці шанси. Поспішайте будувати AGI.
"Я не хочу, щоб такі люди створювали AGI, тому що вони не реагують на етичні проблеми, – сказав мені МакАскілл. – Можливо, це означає, що нам потрібно відкласти Сингулярність, щоб зробити її безпечнішою. Можливо, це означає, що Сингулярність не збирається бути в моєму житті. Це буде величезна жертва».
Коли Макаскілл сказав мені це, я уявив образ Мойсея, який дивиться на землю обітовану, але знає, що не може її досягти. Довгострокове бачення, здавалося, вимагало від нього жорстокої віри: ви особисто не будете врятовані, але ваші духовні нащадки врятуються.
Ми повинні вирішити, чи це спосіб, яким ми хочемо порятунку
Немає нічого поганого само по собі у вірі в те, що технології можуть кардинально покращити долю людства. Багато в чому це явно так.
«Проблема не в техніці», — сказав мені Ілія Деліо, який має два докторські ступені та очолює кафедру богослов’я в Університеті Вілланова.Насправді Деліо був переконаний, що ми вже перебуваємо на новому етапі еволюції, переході від Homo sapiens. до «технологічного Homo sapiens». Вона вважає, що ми повинні активно розвиватися за допомогою технологій з відкритим розумом.
Але вона також розуміє, що ми повинні чітко розуміти, які цінності впливають на нашу технологію, «щоб ми могли розвивати технологію з цілеспрямованою метою — і з етикою», — сказала вона. Інакше «технологія сліпа і потенційно небезпечна».
Джерачі погоджується. «Було б страшно, якби багато людей у Кремнієвій долині сказали: «Гей, я підтримую цю технологію, тому що вона зробить мене безсмертним», — сказав він мені. «Але якби хтось сказав: «Я підтримую цю технологію», тому що я вважаю, що ми можемо використати це, щоб подолати голод у світі" - це дві дуже різні мотивації. Це вплине на тип продукту, який ви намагаєтесь створити, на людей, для яких ви розробляєте, і людей, яких ви намагаєтеся щоб оточити себе тим, як це розгортається у світі».
Зважено приймаючи рішення про цінність технології, ви також повинні чітко усвідомлювати, хто має право приймати рішення. Шварц вважає, що розробники штучного інтелекту продають нам бачення необхідних технологічних досягнень, які принесе штучний інтелект, і визнають себе єдиними експертами в цьому, що дає їм величезну владу — мабуть, більше, ніж наші демократично обрані чиновники мають більше влади.
«Ідея про те, що розвиток штучного інтелекту є законом природи, стає принципом упорядкування, і цей принцип упорядкування є політичним. Він дає політичну владу деяким людям і набагато менше — більшості інших», — сказав Шварц. «Для мене дивно говорити: «Ми повинні бути дуже обережними з AGI», на відміну від того, що «Нам не потрібен AGI, це не є частиною обговорення». Але ми досягли точки, коли сила до нас ставляться таким чином, що навіть не те, як нам надають варіанти, є твердим, і ми навіть можемо колективно рекомендувати, щоб AGI не переслідував».
Ми дійшли до цього значною мірою тому, що протягом останньої тисячі років Захід був під загрозою впасти в єдиний наратив: історію, яку ми успадкували від середньовічних релігійних мислителів, які ототожнювали технічний прогрес з мораллю. прогрес.
«Це єдиний наратив, який ми маємо, — каже Деліо. — Цей наратив змушує нас прислухатися до технічних експертів (які в минулому також були духовними авторитетами) і вбудовувати цінності та припущення в їхні продукти».
«Яка альтернатива? Якби альтернативою було «жити живим — це самоціль», — додав Деліо, — тоді наші очікування щодо технологій могли б бути зовсім іншими». «Але у нас немає такого наративу! створюючи, винаходячи, створюючи та дозволяючи їм змінити нас».
Нам потрібно вирішити, якого типу спасіння ми хочемо. Якщо наш ентузіазм щодо штучного інтелекту походить від бачення виходу за межі землі та смерті тіла, це матиме соціальні наслідки. Але якщо ми зобов’язуємося використовувати технології для покращення світу та добробуту цих тіл, ми можемо досягти інших результатів. Як каже Ноубл, ми можемо «почати спрямовувати наші дивовижні здібності на більш світські та гуманні цілі».