Fonte da imagem: gerada pela ferramenta Unbounded AI
Isto não é por acaso – religião e tecnologia estão interligadas há séculos.
E se eu lhe dissesse que em 10 anos o mundo como você o conhece acabará. Você viverá no céu sem doença, envelhecimento ou morte. A vida eterna será sua! Melhor ainda, seu cérebro ficará livre da incerteza – e você obterá conhecimento perfeito. Você não está mais preso na terra, você pode viver no céu.
Se eu lhe contasse tudo isso, você pensaria em mim como um pregador religioso ou um pesquisador de inteligência artificial?
Qualquer um dos palpites faz sentido.
Quanto mais você ouve discussões sobre inteligência artificial no Vale do Silício, mais você ouve ecos de religião. Porque grande parte do entusiasmo pela construção de máquinas superinteligentes decorre da reciclagem de ideias religiosas. A maioria dos tecnólogos seculares que estão construindo inteligência artificial não percebe isso.
Esses especialistas em tecnologia sugerem esconder a morte enviando nossos pensamentos para a nuvem, onde poderemos viver digitalmente para sempre. Eles descrevem a inteligência artificial como um mecanismo de tomada de decisão que pode determinar com certeza matemática o que é ideal e o que não é. Eles imaginam a inteligência artificial geral (AGI) - um sistema hipotético que poderia corresponder às capacidades humanas de resolução de problemas em muitos domínios - como um esforço que poderia garantir a salvação da humanidade se correr bem e, se não correr, também pode trazer desastre.
Estas visões são quase idênticas às da escatologia cristã, um ramo da teologia preocupado com a "escatologia" ou destino final da humanidade.
A escatologia cristã nos diz que todos estamos caminhando para “quatro últimas coisas”: morte, julgamento, céu ou inferno. Aqueles que morreram serão ressuscitados na Segunda Vinda de Cristo e encontrarão o destino eterno. Nossas almas enfrentarão o julgamento final de Deus, o perfeito tomador de decisões. Se tudo correr bem, subiremos ao céu, mas se tudo correr mal, cairemos no inferno.
Há cinco anos, quando comecei a participar de conferências no Vale do Silício e percebi pela primeira vez as semelhanças entre o tema religião e inteligência artificial, pensei em uma explicação psicológica simples. Ambas são respostas às principais ansiedades humanas: a morte; a dificuldade de saber o que estamos fazendo certo ou errado; a incognoscibilidade do nosso significado na vida e do nosso lugar final neste universo – ou no próximo. Pensadores religiosos e de IA acabaram de encontrar respostas semelhantes para questões que preocupam a todos nós.
Fiquei surpreso ao descobrir que a conexão é muito mais profunda do que isso.
“A religião e a tecnologia estão interligadas há séculos, embora algumas pessoas digam que a ciência tem valor neutro e não tem nada a ver com coisas como religião”, disse Robert Geraci, professor de estudos religiosos no Manhattan College e autor de “Apocalyptic AI." Isso simplesmente não é verdade. Nunca foi assim."
Na verdade, os historiadores que traçam a influência do pensamento religioso acreditam que desde os teólogos cristãos da Idade Média até os pais do empirismo na Renascença, até o futurista Ray Kurzweil e aqueles influenciados por ele pelos pesos pesados da tecnologia do Vale do Silício, podemos traçar uma linha reta. linha.
Ocasionalmente, algumas pessoas ainda têm uma vaga noção das semelhanças. Jack Clark, cofundador da empresa de segurança de inteligência artificial Anthropic, escreveu no Twitter em março: “Às vezes penso que o entusiasmo das pessoas pela AGI é um impulso religioso equivocado de uma cultura secular”.
A maioria, porém, daqueles que vêem a AGI como uma forma de escatologia tecnológica – desde Sam Altman, CEO da OpenAI, criadora do ChatGPT, até Elon Musk, que quer ligar cérebros a computadores – estão a falar em termos seculares. Ou não conseguem perceber, ou não estão dispostos a admitir, que a visão que promovem está em grande parte fundida com o pensamento religioso antigo.
Mas é importante saber de onde vêm essas ideias. Isso não ocorre porque “religião” seja de alguma forma pejorativa; só porque as ideias são religiosas não significa que haja algo de errado com elas (o oposto é frequentemente verdadeiro). Em vez disso, deveríamos compreender a história destas ideias – digamos, uma vida após a morte virtual como forma de salvação, ou progresso moral entendido como progresso tecnológico – para que possamos compreender que elas não são imutáveis ou inevitáveis; algumas pessoas Estas ideias foram propostas em determinados momentos. vezes para determinados fins, mas outros existem se quisermos. Não precisamos cair no perigo de uma única história.
“Temos que ter cuidado com as narrativas que aceitamos”, disse Elke Schwarz, teórica política da Universidade Queen Mary de Londres que estuda a ética da inteligência artificial militar. “Sempre que falamos sobre algo religioso, há algo sagrado envolvido. sagrado Pode doer porque se algo é sagrado, vale a pena fazer o pior por isso.”
O conceito de inteligência artificial sempre foi profundamente religioso
Nas religiões abraâmicas que moldaram o Ocidente, tudo volta à vergonha.
Lembra do que aconteceu em Gênesis? Quando Adão e Eva comeram da Árvore do Conhecimento, Deus os expulsou do Jardim do Éden e os sujeitou a todas as indignidades da carne e do sangue: trabalho e dor, nascimento e morte. Após a queda em desgraça, a humanidade nunca mais foi a mesma. Antes de pecarmos, éramos criaturas perfeitas, criadas à imagem de Deus; agora, somos peles lamentáveis.
Mas na Idade Média, os pensadores cristãos propuseram uma ideia radical, como explica o historiador David Noble no seu livro The Religion of Technology. E se a tecnologia pudesse ajudar-nos a restaurar a humanidade ao seu estado de perfeição anterior à Queda?
Por exemplo, o influente filósofo do século IX, John Scotus Eriugena, sustentou que parte do significado de Adão ter sido feito à imagem de Deus era que ele era um criador, um criador. Portanto, devemos aproximar-nos deste aspecto de nós mesmos se quisermos restaurar a humanidade à perfeição divina que era antes da queda de Adão. Eriugena escreve que as “artes mecânicas” (também conhecidas como tecnologia) são “a conexão do homem com o divino, e seu cultivo é o meio de salvar a humanidade”.
Esta ideia surgiu nos mosteiros medievais, onde começou a circular o lema “ora et labora” (rezar e trabalhar). Mesmo durante a chamada Idade das Trevas, alguns desses mosteiros tornaram-se focos de engenharia, produzindo invenções como a primeira roda d'água movida pelas marés e a perfuração de percussão conhecidas. Os católicos ficaram conhecidos como inovadores; até hoje, os engenheiros têm quatro santos padroeiros na religião. Alguns dizem que a Igreja Católica era o Vale do Silício da Idade Média, e há uma razão para isso: como observei em um artigo de 2018 no The Atlantic, tudo, desde “metalurgia, moinhos e notação musical até mecanismos de relógio e impressão”, a Igreja Católica A igreja é indispensável.
Isto não é investigação para tecnologia, nem investigação para lucro. Pelo contrário, o progresso científico e tecnológico é sinónimo de progresso moral. Ao restaurar a humanidade à sua perfeição original, podemos inaugurar o Reino de Deus. Como escreve Noble: “A tecnologia tornou-se sinônimo de transcendência e está ligada como nunca antes às ideias cristãs de redenção”.
A ideia medieval de equiparar o progresso tecnológico ao progresso moral influenciou gerações de pensadores cristãos e continua na era moderna. Um casal Bakong ilustra como a mesma crença central – de que a tecnologia trará a salvação – afecta os tradicionalistas religiosos e aqueles que adoptam uma visão científica do mundo.
No século XIII, o alquimista Roger Bacon inspirou-se nas profecias bíblicas na tentativa de criar um elixir da vida que alcançasse uma ressurreição semelhante à descrita pelo apóstolo Paulo. Bacon espera que este elixir não apenas torne os humanos imortais, mas também lhes conceda habilidades mágicas, como viajar na velocidade do pensamento. No século 16, Francis Bacon apareceu. Superficialmente, ele parecia muito diferente de seus antecessores – criticou a alquimia, considerando-a não científica – mas previu que um dia usaríamos a tecnologia para derrotar nossa mortalidade, “para glorificar o Criador e aliviar a dor humana”.
Na Renascença, os europeus ousaram sonhar que poderíamos nos refazer à imagem de Deus, não apenas alcançar gradualmente a imortalidade, mas também criar consciência a partir da matéria inanimada.
Schwarz observou: “Além da vitória sobre a morte, a possibilidade de criar uma nova vida é o poder supremo”.
Engenheiros cristãos criaram autômatos – robôs de madeira – que podiam se movimentar e fazer orações. Segundo a lenda, os muçulmanos criaram cabeças mecânicas que falavam como oráculos. Há histórias no folclore judaico sobre rabinos usando conjugações de linguagem mágica para dar vida a figuras de barro (chamadas de "figuras de lama"). Nessas histórias, figuras de barro às vezes salvam os judeus da perseguição. Mas outras vezes, as figuras de barro se tornarão traidoras, matarão pessoas e roubarão bens, e usarão seus poderes para praticar o mal.
Sim, tudo isso parece muito familiar. Você pode ouvir a mesma ansiedade no livro de 1964 do matemático e filósofo Norbert Wiener sobre os riscos da inteligência artificial, God & Golem, Inc., e na série de cartas abertas atualmente publicadas por especialistas em tecnologia. Eles alertam que a AGI nos trará salvação ou destruição.
Lendo estas observações, você pode muito bem perguntar: Se a AGI ameaça o apocalipse e promete a salvação, por que criamos a AGI? Por que não nos limitarmos a criar formas mais restritas de inteligência artificial – que já podem fazer maravilhas em aplicações como o tratamento de doenças – e persistir nelas por algum tempo?
Para descobrir, siga-me um pouco mais atrás na história, à medida que começamos a compreender como três movimentos recentes e interligados estão a moldar a visão de Silicon Valley para a inteligência artificial.
Em Transumanismo, Altruísmo Eficaz e Longo Prazo
Segundo muitos relatos, quando Charles Darwin publicou a sua teoria da evolução em 1859, todos os pensadores religiosos imediatamente a consideraram uma terrível ameaça herética à humanidade, a criação mais piedosa de Deus. Mas alguns pensadores cristãos vêem isso como uma nova roupagem vistosa de antigas profecias espirituais. Afinal, as ideias religiosas nunca morrem de verdade, elas apenas ganham roupas novas.
Um exemplo típico é Pierre Teilhard de Chardin, um padre jesuíta francês que também estudou paleontologia no início do século XX. Ele acredita que impulsionada pela tecnologia, a evolução humana é na verdade a portadora do reino de Deus. A integração de humanos e máquinas levará a uma explosão de inteligência, que ele chama de Ponto Ômega. Nossa consciência entrará em um “estado superconsciente” no qual nos fundiremos com Deus e nos tornaremos uma nova espécie.
Como documenta a autora Meghan O'Gieblyn em seu livro God, Man, Animal, Machine, de 2021, o biólogo evolucionista Aldous Huxley foi presidente da Associação Humanista Britânica e da Sociedade Britânica de Eugenia. Huxley popularizou a ideia de Teilhard de que deveríamos usar a tecnologia para evoluir nossa espécie, chamando isso de "transumanismo".
Isto, por sua vez, influenciou o futurista Ray Kurzweil, que fez basicamente a mesma previsão de Teilhard: Estamos prestes a inaugurar uma era de integração da inteligência humana e da inteligência mecânica, e a inteligência humana tornar-se-á extremamente poderosa. Mas em vez de chamá-lo de “Ponto Ômega”, Kurzweil o renomeou como “Ponto de Singularidade”.
"Os humanos e as tecnologias de computação que eles criarem serão capazes de resolver problemas antigos... e mudarão a natureza da morte num futuro pós-biológico", escreveu Kurzweil no seu best-seller nacional de 1999, A Era do Ingenuismo. (Forte) A respiração do Novo Testamento. De acordo com o Livro do Apocalipse: "Não há mais morte, nem luto, nem pranto, nem dor, porque as coisas anteriores já passaram.")
Kurzweil reconhece as semelhanças espirituais entre os dois, assim como aqueles que formaram movimentos explicitamente religiosos em torno da adoração da inteligência artificial ou do uso da inteligência artificial para levar os humanos à piedade, do movimento Terasem de Martine Rothblatt à Associação de Super-Humanos Mórmons, ao curto Caminho de Anthony Levandowski. a Igreja do Futuro. Mas muitos, como o filósofo da Universidade de Oxford, Nick Bostrom, insistem que o transumanismo é diferente da religião e se baseia na “razão crítica e nas melhores evidências científicas que temos”.
Hoje, o transumanismo tem um irmão, outro movimento nascido em Oxford e que explodiu em Silicon Valley: o Altruísmo Eficaz (EA), cujo objectivo é descobrir como fazer o melhor bem possível ao maior número de pessoas. Os altruístas eficazes também dizem que a sua abordagem está enraizada na razão e na evidência secular.
No entanto, o altruísmo eficaz é, na verdade, em muitos aspectos igual à religião: funcionalmente (reúne um grupo construído em torno de uma visão partilhada da vida moral), estruturalmente (tem uma hierarquia de líderes proféticos, textos clássicos, festivais e rituais) e esteticamente (promoveu o dízimo e favoreceu o ascetismo). Mais importante ainda, fornece uma escatologia.
A escatologia do altruísmo eficaz surge na forma da sua visão mais controversa, o longo prazo, que Musk certa vez descreveu como “muito consistente com a minha filosofia”. Argumenta que a melhor maneira de ajudar o maior número de pessoas é concentrar-se em garantir a sobrevivência da humanidade num futuro distante (digamos, daqui a milhões de anos), quando poderão existir milhares de milhões de pessoas a mais do que nós agora - assumindo que a nossa espécie não será extinta. primeiro.
A partir daqui começamos a obter respostas à questão de por que os tecnólogos estão trabalhando para construir a AGI.
Progresso da IA como progresso moral
Para os altruístas eficazes e os defensores do longo prazo, insistir simplesmente numa IA estreita não é uma opção. O filósofo da Universidade de Oxford, Will MacAskill, foi chamado de "profeta relutante" do altruísmo eficaz e do longo prazo. No seu livro de 2022, What We Owe the Future, ele explica porque acredita que a estagnação do progresso tecnológico é inaceitável. “Períodos de estagnação”, escreveu ele, “poderiam aumentar o risco de extinção e colapso permanente”.
Ele cita o seu colega Toby Ord, que estima que há uma chance em seis de extinção humana no próximo século devido a riscos como IA desonesta e epidemias projetadas. Outro colega da EA, Holden Karnofsky, acredita igualmente que estamos a viver num “ponto de viragem na história” ou “o século mais importante” – um período especial na história humana em que ou prosperaremos como nunca antes ou sofreremos a destruição. MacAskill, assim como Musk, sugere no livro que uma boa maneira de evitar a extinção é colonizar outros planetas para não colocarmos todos os ovos na mesma cesta.
Mas isso é apenas metade do “caso moral de MacAskill para a colonização espacial”. A outra metade é que devemos nos esforçar para tornar a futura civilização humana tão grande e utópica quanto possível. Como afirma Bostrom, colega de MacAskill em Oxford, a “colonização cósmica” nos dará o espaço e os recursos para executar o grande número de simulações digitais que permitirão aos humanos viver felizes para sempre. Quanto maior o espaço, mais humanos (digitais) felizes existem! É aqui que reside a maioria dos valores morais: não no presente aqui na terra, mas no futuro no céu… desculpe, eu quis dizer a “vida após a morte virtual”.
Quando juntamos todas essas ideias e generalizamos, chegamos a esta proposição básica:
Talvez não nos reste muito tempo antes que a vida como a conhecemos acabe.
Portanto, precisamos apostar em algo que nos salve.
Como os riscos são tão altos, devemos apostar o suficiente e dar tudo de nós.
Qualquer pessoa que estude religião pode ver imediatamente o que é isso: lógica apocalíptica.
Os transumanistas, os altruístas eficazes e os defensores do longo prazo herdam a visão de que o fim é iminente e que o progresso tecnológico é a nossa melhor oportunidade para o progresso como civilização. Para aqueles que agem de acordo com essa lógica, buscar a AGI pode parecer algo óbvio. Embora acreditem que a AGI representa um risco existencial significativo, eles acreditam que não podemos nos dar ao luxo de não construir a AGI porque ela tem o potencial de impulsionar a humanidade da precária adolescência terrestre (que pode terminar a qualquer dia!) para a próspera vida adulta interestelar (tantas pessoas felizes, tão muitos valores civilizados!). É claro que devemos avançar tecnologicamente, porque isso significa avançar civilizacionalmente!
Mas isso está enraizado na razão e na evidência? Ou está enraizado em dogmas?
A premissa subjacente aqui é o determinismo tecnológico, misturado com uma pitada de geopolítica. A ideia é que mesmo que você e eu não criemos uma IA assustadoramente poderosa, outra pessoa ou algum outro país o fará – então por que impedir-nos de nos envolvermos? Altman da OpenAI exemplifica a crença de que a tecnologia deve avançar. Ele escreveu em seu blog em 2017: “A menos que nos destruamos primeiro, surgirá uma inteligência artificial sobre-humana”. "Como aprendemos, o progresso científico acabará por acontecer se as leis da física não o impedirem."
Aprendemos? Não vejo nenhuma evidência de que qualquer coisa que possa ser inventada será inventada. (Como Katja Grace, pesquisadora-chefe do Impact of Artificial Intelligence, escreve: “Pense em uma máquina que cospe merda nos seus olhos. Tecnicamente, podemos fazer isso, mas provavelmente ninguém jamais construiu tal máquina.”) As pessoas parecem estar mais inclinadas a buscar a inovação quando impulsionados por fortes pressões econômicas, sociais ou ideológicas.
No meio da mania da AGI em Silicon Valley, a pressão social e ideológica é proporcionada por ideias religiosas reinventadas sob o disfarce do transumanismo, do altruísmo eficaz e do longo prazo. Quanto às pressões económicas e de rentabilidade, elas estão sempre presentes em Silicon Valley.
Uma sondagem da Reuters realizada em Maio mostrou que 61% dos americanos acreditam agora que a inteligência artificial pode ameaçar a civilização humana, uma opinião que é particularmente forte entre os cristãos evangélicos. Para o estudioso de estudos religiosos Geraci, isso não é surpreendente. Ele observou que a lógica apocalíptica é “muito, muito, muito poderosa no cristianismo protestante americano” – tanto que 4 em cada 10 adultos americanos acreditam atualmente que a humanidade está vivendo no fim dos tempos.
Infelizmente, a lógica apocalíptica muitas vezes gera fanatismo perigoso. Na Idade Média, quando um falso messias aparecia, as pessoas abandonavam os seus bens mundanos para seguir o seu profeta. Hoje, enquanto as conversas sobre o dia do juízo final da IA inundam a mídia, os verdadeiros crentes estão abandonando a faculdade para estudar a segurança da IA. A lógica do apocalipse ou da redenção, do céu ou do inferno, leva as pessoas a assumirem riscos enormes – a comprometerem-se com isso.
Numa entrevista comigo no ano passado, MacAskill negou práticas extremas de jogo. Ele me disse que, em sua imaginação, um certo tipo de irmão da tecnologia no Vale do Silício acredita que há 5% de chance de morrer devido a um desastre de AGI e 10% de chance de que a AGI traga uma utopia feliz, e eles estarão dispostos para suportar essas chances. Construa AGI rapidamente.
“Não quero que pessoas assim construam AGI porque não respondem a questões éticas”, disse-me MacAskill. “Talvez isso signifique que temos que adiar a Singularidade para torná-la mais segura. Talvez isso signifique que a Singularidade não. acontecer durante minha vida. Será um enorme sacrifício."
Quando MacAskill me contou isso, imaginei a imagem de Moisés olhando para a Terra Prometida, mas sabendo que não poderia alcançá-la. A visão de longo prazo parecia exigir que ele tivesse uma crença brutal: você pessoalmente não será salvo, mas os seus descendentes espirituais serão.
Precisamos decidir se é assim que queremos a salvação
Não há nada de errado em acreditar que a tecnologia pode melhorar fundamentalmente o destino da humanidade. Em muitos aspectos, isso claramente aconteceu.
“A tecnologia não é o problema", disse-me Ilia Delio, que possui dois doutorados e uma cátedra de teologia na Universidade Villanova. Na verdade, Delio estava convencido de que já estamos em um novo estágio evolutivo, em transição do Homo sapiens ao “Homo sapiens tecnológico”. ”A visão é gratificante. Ela acredita que devemos evoluir de forma proativa com a ajuda da tecnologia e com a mente aberta.
Mas ela também entende que precisamos ter clareza sobre quais valores influenciam nossa tecnologia, “para que possamos desenvolver tecnologia com propósito – e com ética”, disse ela. Caso contrário, “a tecnologia é cega e potencialmente perigosa”.
Geraci concorda. "Seria um pouco assustador se muitas pessoas no Vale do Silício dissessem: 'Ei, eu apoio essa tecnologia porque ela me tornará imortal'", ele me disse. "Mas se alguém dissesse: 'Eu apoio essa tecnologia, , porque acho que podemos usá-lo para resolver a fome mundial "- essas são duas motivações muito diferentes. Isso terá impacto no tipo de produto que você está tentando projetar, nas pessoas para quem você está projetando e nas pessoas que você está tentando cercar-se da forma como ela é implantada no mundo.”
Ao decidir cuidadosamente sobre o valor da tecnologia, você também deve estar ciente de quem tem o poder de decidir. Schwarz acredita que os criadores da IA nos vendem uma visão dos avanços tecnológicos necessários que a IA trará e consideram-se os únicos especialistas nesta matéria, o que lhes confere um enorme poder - provavelmente mais do que os nossos representantes eleitos democraticamente.
"A ideia de que o desenvolvimento da inteligência artificial é uma lei natural torna-se um princípio ordenador, e esse princípio ordenador é político. Dá poder político a algumas pessoas e muito menos poder à maioria das outras", disse Schwarz. "É estranho para mim dizer: 'Temos que ter muito cuidado com a AGI', em vez de dizer: 'Não precisamos de AGI, não faz parte da discussão'. Mas chegamos a um ponto em que o poder é sendo tratados de uma forma que não é uniforme. A forma como nos são dadas opções está solidificada, e podemos até recomendar coletivamente que a AGI não deve ser perseguida."
Chegámos a este ponto em grande parte porque, ao longo dos últimos mil anos, o Ocidente correu o risco de cair numa única narrativa: a história que herdámos dos pensadores religiosos medievais que equiparavam o progresso tecnológico à moralidade.
“É a única narrativa que temos”, diz Delio.”Essa narrativa nos leva a ouvir os especialistas técnicos (que, no passado, também eram autoridades espirituais) e a incorporar os valores e pressupostos em seus produtos”.
"Qual é a alternativa? Se a alternativa fosse 'viver vivo é um objetivo em si'", acrescentou Delio, "então nossas expectativas em relação à tecnologia poderiam ser completamente diferentes." "Mas não temos essa narrativa! Nossas narrativas convencionais tratam de criando, inventando, fazendo e deixando que eles nos mudem.”
Precisamos decidir que tipo de salvação queremos. Se o nosso entusiasmo pela inteligência artificial vier de uma visão de transcender os limites da terra e da morte do corpo, isso terá uma consequência social. Mas se nos comprometermos a utilizar a tecnologia para melhorar o mundo e o bem-estar destes organismos, poderemos alcançar resultados diferentes. Como diz Noble, podemos “começar a direcionar nossas incríveis habilidades para fins mais seculares e humanos”.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
A visão de IA do Vale do Silício? Esse é o eco da religião reembalada
Escrito por Sigal Samuel
Fonte: Vox
E se eu lhe dissesse que em 10 anos o mundo como você o conhece acabará. Você viverá no céu sem doença, envelhecimento ou morte. A vida eterna será sua! Melhor ainda, seu cérebro ficará livre da incerteza – e você obterá conhecimento perfeito. Você não está mais preso na terra, você pode viver no céu.
Se eu lhe contasse tudo isso, você pensaria em mim como um pregador religioso ou um pesquisador de inteligência artificial?
Qualquer um dos palpites faz sentido.
Quanto mais você ouve discussões sobre inteligência artificial no Vale do Silício, mais você ouve ecos de religião. Porque grande parte do entusiasmo pela construção de máquinas superinteligentes decorre da reciclagem de ideias religiosas. A maioria dos tecnólogos seculares que estão construindo inteligência artificial não percebe isso.
Esses especialistas em tecnologia sugerem esconder a morte enviando nossos pensamentos para a nuvem, onde poderemos viver digitalmente para sempre. Eles descrevem a inteligência artificial como um mecanismo de tomada de decisão que pode determinar com certeza matemática o que é ideal e o que não é. Eles imaginam a inteligência artificial geral (AGI) - um sistema hipotético que poderia corresponder às capacidades humanas de resolução de problemas em muitos domínios - como um esforço que poderia garantir a salvação da humanidade se correr bem e, se não correr, também pode trazer desastre.
Estas visões são quase idênticas às da escatologia cristã, um ramo da teologia preocupado com a "escatologia" ou destino final da humanidade.
A escatologia cristã nos diz que todos estamos caminhando para “quatro últimas coisas”: morte, julgamento, céu ou inferno. Aqueles que morreram serão ressuscitados na Segunda Vinda de Cristo e encontrarão o destino eterno. Nossas almas enfrentarão o julgamento final de Deus, o perfeito tomador de decisões. Se tudo correr bem, subiremos ao céu, mas se tudo correr mal, cairemos no inferno.
Há cinco anos, quando comecei a participar de conferências no Vale do Silício e percebi pela primeira vez as semelhanças entre o tema religião e inteligência artificial, pensei em uma explicação psicológica simples. Ambas são respostas às principais ansiedades humanas: a morte; a dificuldade de saber o que estamos fazendo certo ou errado; a incognoscibilidade do nosso significado na vida e do nosso lugar final neste universo – ou no próximo. Pensadores religiosos e de IA acabaram de encontrar respostas semelhantes para questões que preocupam a todos nós.
Fiquei surpreso ao descobrir que a conexão é muito mais profunda do que isso.
“A religião e a tecnologia estão interligadas há séculos, embora algumas pessoas digam que a ciência tem valor neutro e não tem nada a ver com coisas como religião”, disse Robert Geraci, professor de estudos religiosos no Manhattan College e autor de “Apocalyptic AI." Isso simplesmente não é verdade. Nunca foi assim."
Na verdade, os historiadores que traçam a influência do pensamento religioso acreditam que desde os teólogos cristãos da Idade Média até os pais do empirismo na Renascença, até o futurista Ray Kurzweil e aqueles influenciados por ele pelos pesos pesados da tecnologia do Vale do Silício, podemos traçar uma linha reta. linha.
Ocasionalmente, algumas pessoas ainda têm uma vaga noção das semelhanças. Jack Clark, cofundador da empresa de segurança de inteligência artificial Anthropic, escreveu no Twitter em março: “Às vezes penso que o entusiasmo das pessoas pela AGI é um impulso religioso equivocado de uma cultura secular”.
A maioria, porém, daqueles que vêem a AGI como uma forma de escatologia tecnológica – desde Sam Altman, CEO da OpenAI, criadora do ChatGPT, até Elon Musk, que quer ligar cérebros a computadores – estão a falar em termos seculares. Ou não conseguem perceber, ou não estão dispostos a admitir, que a visão que promovem está em grande parte fundida com o pensamento religioso antigo.
Mas é importante saber de onde vêm essas ideias. Isso não ocorre porque “religião” seja de alguma forma pejorativa; só porque as ideias são religiosas não significa que haja algo de errado com elas (o oposto é frequentemente verdadeiro). Em vez disso, deveríamos compreender a história destas ideias – digamos, uma vida após a morte virtual como forma de salvação, ou progresso moral entendido como progresso tecnológico – para que possamos compreender que elas não são imutáveis ou inevitáveis; algumas pessoas Estas ideias foram propostas em determinados momentos. vezes para determinados fins, mas outros existem se quisermos. Não precisamos cair no perigo de uma única história.
“Temos que ter cuidado com as narrativas que aceitamos”, disse Elke Schwarz, teórica política da Universidade Queen Mary de Londres que estuda a ética da inteligência artificial militar. “Sempre que falamos sobre algo religioso, há algo sagrado envolvido. sagrado Pode doer porque se algo é sagrado, vale a pena fazer o pior por isso.”
O conceito de inteligência artificial sempre foi profundamente religioso
Nas religiões abraâmicas que moldaram o Ocidente, tudo volta à vergonha.
Lembra do que aconteceu em Gênesis? Quando Adão e Eva comeram da Árvore do Conhecimento, Deus os expulsou do Jardim do Éden e os sujeitou a todas as indignidades da carne e do sangue: trabalho e dor, nascimento e morte. Após a queda em desgraça, a humanidade nunca mais foi a mesma. Antes de pecarmos, éramos criaturas perfeitas, criadas à imagem de Deus; agora, somos peles lamentáveis.
Mas na Idade Média, os pensadores cristãos propuseram uma ideia radical, como explica o historiador David Noble no seu livro The Religion of Technology. E se a tecnologia pudesse ajudar-nos a restaurar a humanidade ao seu estado de perfeição anterior à Queda?
Por exemplo, o influente filósofo do século IX, John Scotus Eriugena, sustentou que parte do significado de Adão ter sido feito à imagem de Deus era que ele era um criador, um criador. Portanto, devemos aproximar-nos deste aspecto de nós mesmos se quisermos restaurar a humanidade à perfeição divina que era antes da queda de Adão. Eriugena escreve que as “artes mecânicas” (também conhecidas como tecnologia) são “a conexão do homem com o divino, e seu cultivo é o meio de salvar a humanidade”.
Esta ideia surgiu nos mosteiros medievais, onde começou a circular o lema “ora et labora” (rezar e trabalhar). Mesmo durante a chamada Idade das Trevas, alguns desses mosteiros tornaram-se focos de engenharia, produzindo invenções como a primeira roda d'água movida pelas marés e a perfuração de percussão conhecidas. Os católicos ficaram conhecidos como inovadores; até hoje, os engenheiros têm quatro santos padroeiros na religião. Alguns dizem que a Igreja Católica era o Vale do Silício da Idade Média, e há uma razão para isso: como observei em um artigo de 2018 no The Atlantic, tudo, desde “metalurgia, moinhos e notação musical até mecanismos de relógio e impressão”, a Igreja Católica A igreja é indispensável.
Isto não é investigação para tecnologia, nem investigação para lucro. Pelo contrário, o progresso científico e tecnológico é sinónimo de progresso moral. Ao restaurar a humanidade à sua perfeição original, podemos inaugurar o Reino de Deus. Como escreve Noble: “A tecnologia tornou-se sinônimo de transcendência e está ligada como nunca antes às ideias cristãs de redenção”.
A ideia medieval de equiparar o progresso tecnológico ao progresso moral influenciou gerações de pensadores cristãos e continua na era moderna. Um casal Bakong ilustra como a mesma crença central – de que a tecnologia trará a salvação – afecta os tradicionalistas religiosos e aqueles que adoptam uma visão científica do mundo.
No século XIII, o alquimista Roger Bacon inspirou-se nas profecias bíblicas na tentativa de criar um elixir da vida que alcançasse uma ressurreição semelhante à descrita pelo apóstolo Paulo. Bacon espera que este elixir não apenas torne os humanos imortais, mas também lhes conceda habilidades mágicas, como viajar na velocidade do pensamento. No século 16, Francis Bacon apareceu. Superficialmente, ele parecia muito diferente de seus antecessores – criticou a alquimia, considerando-a não científica – mas previu que um dia usaríamos a tecnologia para derrotar nossa mortalidade, “para glorificar o Criador e aliviar a dor humana”.
Na Renascença, os europeus ousaram sonhar que poderíamos nos refazer à imagem de Deus, não apenas alcançar gradualmente a imortalidade, mas também criar consciência a partir da matéria inanimada.
Schwarz observou: “Além da vitória sobre a morte, a possibilidade de criar uma nova vida é o poder supremo”.
Engenheiros cristãos criaram autômatos – robôs de madeira – que podiam se movimentar e fazer orações. Segundo a lenda, os muçulmanos criaram cabeças mecânicas que falavam como oráculos. Há histórias no folclore judaico sobre rabinos usando conjugações de linguagem mágica para dar vida a figuras de barro (chamadas de "figuras de lama"). Nessas histórias, figuras de barro às vezes salvam os judeus da perseguição. Mas outras vezes, as figuras de barro se tornarão traidoras, matarão pessoas e roubarão bens, e usarão seus poderes para praticar o mal.
Sim, tudo isso parece muito familiar. Você pode ouvir a mesma ansiedade no livro de 1964 do matemático e filósofo Norbert Wiener sobre os riscos da inteligência artificial, God & Golem, Inc., e na série de cartas abertas atualmente publicadas por especialistas em tecnologia. Eles alertam que a AGI nos trará salvação ou destruição.
Lendo estas observações, você pode muito bem perguntar: Se a AGI ameaça o apocalipse e promete a salvação, por que criamos a AGI? Por que não nos limitarmos a criar formas mais restritas de inteligência artificial – que já podem fazer maravilhas em aplicações como o tratamento de doenças – e persistir nelas por algum tempo?
Para descobrir, siga-me um pouco mais atrás na história, à medida que começamos a compreender como três movimentos recentes e interligados estão a moldar a visão de Silicon Valley para a inteligência artificial.
Em Transumanismo, Altruísmo Eficaz e Longo Prazo
Segundo muitos relatos, quando Charles Darwin publicou a sua teoria da evolução em 1859, todos os pensadores religiosos imediatamente a consideraram uma terrível ameaça herética à humanidade, a criação mais piedosa de Deus. Mas alguns pensadores cristãos vêem isso como uma nova roupagem vistosa de antigas profecias espirituais. Afinal, as ideias religiosas nunca morrem de verdade, elas apenas ganham roupas novas.
Um exemplo típico é Pierre Teilhard de Chardin, um padre jesuíta francês que também estudou paleontologia no início do século XX. Ele acredita que impulsionada pela tecnologia, a evolução humana é na verdade a portadora do reino de Deus. A integração de humanos e máquinas levará a uma explosão de inteligência, que ele chama de Ponto Ômega. Nossa consciência entrará em um “estado superconsciente” no qual nos fundiremos com Deus e nos tornaremos uma nova espécie.
Como documenta a autora Meghan O'Gieblyn em seu livro God, Man, Animal, Machine, de 2021, o biólogo evolucionista Aldous Huxley foi presidente da Associação Humanista Britânica e da Sociedade Britânica de Eugenia. Huxley popularizou a ideia de Teilhard de que deveríamos usar a tecnologia para evoluir nossa espécie, chamando isso de "transumanismo".
Isto, por sua vez, influenciou o futurista Ray Kurzweil, que fez basicamente a mesma previsão de Teilhard: Estamos prestes a inaugurar uma era de integração da inteligência humana e da inteligência mecânica, e a inteligência humana tornar-se-á extremamente poderosa. Mas em vez de chamá-lo de “Ponto Ômega”, Kurzweil o renomeou como “Ponto de Singularidade”.
"Os humanos e as tecnologias de computação que eles criarem serão capazes de resolver problemas antigos... e mudarão a natureza da morte num futuro pós-biológico", escreveu Kurzweil no seu best-seller nacional de 1999, A Era do Ingenuismo. (Forte) A respiração do Novo Testamento. De acordo com o Livro do Apocalipse: "Não há mais morte, nem luto, nem pranto, nem dor, porque as coisas anteriores já passaram.")
Kurzweil reconhece as semelhanças espirituais entre os dois, assim como aqueles que formaram movimentos explicitamente religiosos em torno da adoração da inteligência artificial ou do uso da inteligência artificial para levar os humanos à piedade, do movimento Terasem de Martine Rothblatt à Associação de Super-Humanos Mórmons, ao curto Caminho de Anthony Levandowski. a Igreja do Futuro. Mas muitos, como o filósofo da Universidade de Oxford, Nick Bostrom, insistem que o transumanismo é diferente da religião e se baseia na “razão crítica e nas melhores evidências científicas que temos”.
Hoje, o transumanismo tem um irmão, outro movimento nascido em Oxford e que explodiu em Silicon Valley: o Altruísmo Eficaz (EA), cujo objectivo é descobrir como fazer o melhor bem possível ao maior número de pessoas. Os altruístas eficazes também dizem que a sua abordagem está enraizada na razão e na evidência secular.
No entanto, o altruísmo eficaz é, na verdade, em muitos aspectos igual à religião: funcionalmente (reúne um grupo construído em torno de uma visão partilhada da vida moral), estruturalmente (tem uma hierarquia de líderes proféticos, textos clássicos, festivais e rituais) e esteticamente (promoveu o dízimo e favoreceu o ascetismo). Mais importante ainda, fornece uma escatologia.
A escatologia do altruísmo eficaz surge na forma da sua visão mais controversa, o longo prazo, que Musk certa vez descreveu como “muito consistente com a minha filosofia”. Argumenta que a melhor maneira de ajudar o maior número de pessoas é concentrar-se em garantir a sobrevivência da humanidade num futuro distante (digamos, daqui a milhões de anos), quando poderão existir milhares de milhões de pessoas a mais do que nós agora - assumindo que a nossa espécie não será extinta. primeiro.
A partir daqui começamos a obter respostas à questão de por que os tecnólogos estão trabalhando para construir a AGI.
Progresso da IA como progresso moral
Para os altruístas eficazes e os defensores do longo prazo, insistir simplesmente numa IA estreita não é uma opção. O filósofo da Universidade de Oxford, Will MacAskill, foi chamado de "profeta relutante" do altruísmo eficaz e do longo prazo. No seu livro de 2022, What We Owe the Future, ele explica porque acredita que a estagnação do progresso tecnológico é inaceitável. “Períodos de estagnação”, escreveu ele, “poderiam aumentar o risco de extinção e colapso permanente”.
Ele cita o seu colega Toby Ord, que estima que há uma chance em seis de extinção humana no próximo século devido a riscos como IA desonesta e epidemias projetadas. Outro colega da EA, Holden Karnofsky, acredita igualmente que estamos a viver num “ponto de viragem na história” ou “o século mais importante” – um período especial na história humana em que ou prosperaremos como nunca antes ou sofreremos a destruição. MacAskill, assim como Musk, sugere no livro que uma boa maneira de evitar a extinção é colonizar outros planetas para não colocarmos todos os ovos na mesma cesta.
Mas isso é apenas metade do “caso moral de MacAskill para a colonização espacial”. A outra metade é que devemos nos esforçar para tornar a futura civilização humana tão grande e utópica quanto possível. Como afirma Bostrom, colega de MacAskill em Oxford, a “colonização cósmica” nos dará o espaço e os recursos para executar o grande número de simulações digitais que permitirão aos humanos viver felizes para sempre. Quanto maior o espaço, mais humanos (digitais) felizes existem! É aqui que reside a maioria dos valores morais: não no presente aqui na terra, mas no futuro no céu… desculpe, eu quis dizer a “vida após a morte virtual”.
Quando juntamos todas essas ideias e generalizamos, chegamos a esta proposição básica:
Qualquer pessoa que estude religião pode ver imediatamente o que é isso: lógica apocalíptica.
Os transumanistas, os altruístas eficazes e os defensores do longo prazo herdam a visão de que o fim é iminente e que o progresso tecnológico é a nossa melhor oportunidade para o progresso como civilização. Para aqueles que agem de acordo com essa lógica, buscar a AGI pode parecer algo óbvio. Embora acreditem que a AGI representa um risco existencial significativo, eles acreditam que não podemos nos dar ao luxo de não construir a AGI porque ela tem o potencial de impulsionar a humanidade da precária adolescência terrestre (que pode terminar a qualquer dia!) para a próspera vida adulta interestelar (tantas pessoas felizes, tão muitos valores civilizados!). É claro que devemos avançar tecnologicamente, porque isso significa avançar civilizacionalmente!
Mas isso está enraizado na razão e na evidência? Ou está enraizado em dogmas?
A premissa subjacente aqui é o determinismo tecnológico, misturado com uma pitada de geopolítica. A ideia é que mesmo que você e eu não criemos uma IA assustadoramente poderosa, outra pessoa ou algum outro país o fará – então por que impedir-nos de nos envolvermos? Altman da OpenAI exemplifica a crença de que a tecnologia deve avançar. Ele escreveu em seu blog em 2017: “A menos que nos destruamos primeiro, surgirá uma inteligência artificial sobre-humana”. "Como aprendemos, o progresso científico acabará por acontecer se as leis da física não o impedirem."
Aprendemos? Não vejo nenhuma evidência de que qualquer coisa que possa ser inventada será inventada. (Como Katja Grace, pesquisadora-chefe do Impact of Artificial Intelligence, escreve: “Pense em uma máquina que cospe merda nos seus olhos. Tecnicamente, podemos fazer isso, mas provavelmente ninguém jamais construiu tal máquina.”) As pessoas parecem estar mais inclinadas a buscar a inovação quando impulsionados por fortes pressões econômicas, sociais ou ideológicas.
No meio da mania da AGI em Silicon Valley, a pressão social e ideológica é proporcionada por ideias religiosas reinventadas sob o disfarce do transumanismo, do altruísmo eficaz e do longo prazo. Quanto às pressões económicas e de rentabilidade, elas estão sempre presentes em Silicon Valley.
Uma sondagem da Reuters realizada em Maio mostrou que 61% dos americanos acreditam agora que a inteligência artificial pode ameaçar a civilização humana, uma opinião que é particularmente forte entre os cristãos evangélicos. Para o estudioso de estudos religiosos Geraci, isso não é surpreendente. Ele observou que a lógica apocalíptica é “muito, muito, muito poderosa no cristianismo protestante americano” – tanto que 4 em cada 10 adultos americanos acreditam atualmente que a humanidade está vivendo no fim dos tempos.
Infelizmente, a lógica apocalíptica muitas vezes gera fanatismo perigoso. Na Idade Média, quando um falso messias aparecia, as pessoas abandonavam os seus bens mundanos para seguir o seu profeta. Hoje, enquanto as conversas sobre o dia do juízo final da IA inundam a mídia, os verdadeiros crentes estão abandonando a faculdade para estudar a segurança da IA. A lógica do apocalipse ou da redenção, do céu ou do inferno, leva as pessoas a assumirem riscos enormes – a comprometerem-se com isso.
Numa entrevista comigo no ano passado, MacAskill negou práticas extremas de jogo. Ele me disse que, em sua imaginação, um certo tipo de irmão da tecnologia no Vale do Silício acredita que há 5% de chance de morrer devido a um desastre de AGI e 10% de chance de que a AGI traga uma utopia feliz, e eles estarão dispostos para suportar essas chances. Construa AGI rapidamente.
“Não quero que pessoas assim construam AGI porque não respondem a questões éticas”, disse-me MacAskill. “Talvez isso signifique que temos que adiar a Singularidade para torná-la mais segura. Talvez isso signifique que a Singularidade não. acontecer durante minha vida. Será um enorme sacrifício."
Quando MacAskill me contou isso, imaginei a imagem de Moisés olhando para a Terra Prometida, mas sabendo que não poderia alcançá-la. A visão de longo prazo parecia exigir que ele tivesse uma crença brutal: você pessoalmente não será salvo, mas os seus descendentes espirituais serão.
Precisamos decidir se é assim que queremos a salvação
Não há nada de errado em acreditar que a tecnologia pode melhorar fundamentalmente o destino da humanidade. Em muitos aspectos, isso claramente aconteceu.
“A tecnologia não é o problema", disse-me Ilia Delio, que possui dois doutorados e uma cátedra de teologia na Universidade Villanova. Na verdade, Delio estava convencido de que já estamos em um novo estágio evolutivo, em transição do Homo sapiens ao “Homo sapiens tecnológico”. ”A visão é gratificante. Ela acredita que devemos evoluir de forma proativa com a ajuda da tecnologia e com a mente aberta.
Mas ela também entende que precisamos ter clareza sobre quais valores influenciam nossa tecnologia, “para que possamos desenvolver tecnologia com propósito – e com ética”, disse ela. Caso contrário, “a tecnologia é cega e potencialmente perigosa”.
Geraci concorda. "Seria um pouco assustador se muitas pessoas no Vale do Silício dissessem: 'Ei, eu apoio essa tecnologia porque ela me tornará imortal'", ele me disse. "Mas se alguém dissesse: 'Eu apoio essa tecnologia, , porque acho que podemos usá-lo para resolver a fome mundial "- essas são duas motivações muito diferentes. Isso terá impacto no tipo de produto que você está tentando projetar, nas pessoas para quem você está projetando e nas pessoas que você está tentando cercar-se da forma como ela é implantada no mundo.”
Ao decidir cuidadosamente sobre o valor da tecnologia, você também deve estar ciente de quem tem o poder de decidir. Schwarz acredita que os criadores da IA nos vendem uma visão dos avanços tecnológicos necessários que a IA trará e consideram-se os únicos especialistas nesta matéria, o que lhes confere um enorme poder - provavelmente mais do que os nossos representantes eleitos democraticamente.
"A ideia de que o desenvolvimento da inteligência artificial é uma lei natural torna-se um princípio ordenador, e esse princípio ordenador é político. Dá poder político a algumas pessoas e muito menos poder à maioria das outras", disse Schwarz. "É estranho para mim dizer: 'Temos que ter muito cuidado com a AGI', em vez de dizer: 'Não precisamos de AGI, não faz parte da discussão'. Mas chegamos a um ponto em que o poder é sendo tratados de uma forma que não é uniforme. A forma como nos são dadas opções está solidificada, e podemos até recomendar coletivamente que a AGI não deve ser perseguida."
Chegámos a este ponto em grande parte porque, ao longo dos últimos mil anos, o Ocidente correu o risco de cair numa única narrativa: a história que herdámos dos pensadores religiosos medievais que equiparavam o progresso tecnológico à moralidade.
“É a única narrativa que temos”, diz Delio.”Essa narrativa nos leva a ouvir os especialistas técnicos (que, no passado, também eram autoridades espirituais) e a incorporar os valores e pressupostos em seus produtos”.
"Qual é a alternativa? Se a alternativa fosse 'viver vivo é um objetivo em si'", acrescentou Delio, "então nossas expectativas em relação à tecnologia poderiam ser completamente diferentes." "Mas não temos essa narrativa! Nossas narrativas convencionais tratam de criando, inventando, fazendo e deixando que eles nos mudem.”
Precisamos decidir que tipo de salvação queremos. Se o nosso entusiasmo pela inteligência artificial vier de uma visão de transcender os limites da terra e da morte do corpo, isso terá uma consequência social. Mas se nos comprometermos a utilizar a tecnologia para melhorar o mundo e o bem-estar destes organismos, poderemos alcançar resultados diferentes. Como diz Noble, podemos “começar a direcionar nossas incríveis habilidades para fins mais seculares e humanos”.