DeepMind é uma empresa de pesquisa de IA fundada em 2010 e sediada em Londres, Reino Unido. A empresa desenvolve e pesquisa sistemas de inteligência artificial geral (AGI), que visam permitir que os computadores aprendam e raciocinem como os humanos.
Uma das conquistas mais conhecidas da DeepMind é o programa AlphaGo desenvolvido em 2016, que derrotou o campeão mundial Lee Sedol no jogo Go e atraiu grande atenção. Esta conquista demonstra o potencial da IA em problemas complexos e torna a DeepMind uma das empresas líderes na área de IA.
Em 2014, a DeepMind foi adquirida pelo Google, mas mantém operações relativamente independentes e continua a conduzir pesquisas de ponta em inteligência artificial.
Fonte da imagem: gerada por Unbounded AI
O cofundador da DeepMind, Mustafa Suleyman, queria construir um chatbot que pudesse ser usado para mais do que apenas conversar. Numa conversa recente com ele, ele me disse que a IA generativa é apenas uma fase. Em seguida vem a IA interativa: robôs que podem completar tarefas que você definiu para eles ligando para outros softwares e outras pessoas. Ele também apelou a uma regulamentação mais forte da IA, argumentando que isso não seria difícil de conseguir.
Suleyman não é o único falando sobre um futuro repleto de softwares mais autônomos. Mas, ao contrário da maioria das pessoas, ele é dono de uma nova empresa avaliada em bilhões de dólares, a Inflection, com um grupo de talentos de IA selecionados entre DeepMind, Meta e OpenAI, e também chegou a um acordo com a Nvidia, o maior fabricante de chips de IA. . Suleyman pratica o que prega e investiu muito dinheiro.
Suleyman deixou a DeepMind e depois mudou-se para o Google para liderar uma equipe dedicada à política de IA. Em 2022, ele fundou a Inflection, uma das novas empresas de IA mais recentes. Ela é apoiada por um investimento de US$ 1,5 bilhão da Microsoft, NVIDIA, Bill Gates e do fundador do LinkedIn, Reid Hoffman, tornando-se a única empresa com a maior escala de financiamento. A próxima startup de IA para OpenAI. No início deste ano, ele lançou o Pi, um concorrente do ChatGPT. Ele acaba de ser coautor de um livro com o autor e pesquisador Michael Bhaskar sobre o futuro da IA chamado The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century.
Muitos zombariam do otimismo tecnológico de Suleyman – até mesmo da ingenuidade. Por exemplo, algumas de suas afirmações sobre o sucesso do policiamento online parecem erradas. Mas ele permaneceu convencido de que suas crenças eram sinceras e evangélicas.
Na verdade, Suleyman tem uma experiência incomum como multimilionário da tecnologia. Aos 19 anos, ele abandonou a faculdade e fundou a Linha Direta da Juventude Muçulmana, que oferece aconselhamento por telefone. Ele também trabalhou no governo local. Ele disse que traz muitos dos valores desses esforços para o Inflection. A diferença é que agora ele poderá fazer as mudanças que sempre quis – para melhor ou para pior.
O incrível progresso na IA é vertiginoso e cresce exponencialmente. Fala, imagens, leitura, compreensão da linguagem, matemática do ensino fundamental, geração de código – a IA está se aproximando ou superando o desempenho humano nessas áreas. ——Mustafa Suleyman
A entrevista a seguir foi editada para maior extensão e clareza.
***Seu início de carreira, que incluiu trabalho em uma linha de apoio a jovens e no governo local, parecia estar em desacordo com o espírito do Vale do Silício. Obviamente, essas experiências são importantes para você. Desde então, você trabalha na área de IA há 15 anos e este ano foi cofundador de sua segunda empresa de IA de um bilhão de dólares. Você consegue conectar os pontos entre essas experiências? ***
Suleyman: Sempre me interessei por poder, política, etc. Como sabem, os princípios dos direitos humanos são basicamente um compromisso, uma negociação constante entre todas estas diferentes tensões de conflito. Posso ver os humanos lutando com isso – estamos cheios de nossos próprios preconceitos e pontos cegos. O trabalho de activistas, governos locais, nacionais, internacionais, etc. – é tudo lento, ineficiente e sujeito a erros.
Imagine se você não tivesse os erros que os humanos cometem. Acredito que é possível construir uma IA que reflita verdadeiramente o que temos de melhor em termos coletivos e, em última análise, faça compensações melhores, mais consistentes e mais justas em nosso nome.
***Essa ainda é sua motivação? ***
**Suleyman:**Claro, quero dizer, depois do DeepMind eu nunca mais tive que trabalhar. Certamente não preciso escrever um livro ou algo parecido. O dinheiro nunca foi um motivador. Você sabe, o dinheiro é sempre apenas um subproduto.
Para mim, o objetivo nunca foi outro senão fazer o bem no mundo e fazer o mundo avançar de uma forma saudável e satisfatória. Ainda em 2009, quando comecei a pensar em entrar na área de tecnologia, pude perceber que a IA representava uma forma justa e precisa de prestar serviços no mundo.
***Não posso deixar de pensar que teria sido mais fácil dizer isto há 10 ou 15 anos, antes de vermos as muitas deficiências desta tecnologia. Como você pode permanecer otimista? ***
Suleyman: Acho que nos importamos muito se você é otimista ou pessimista. Esta é uma maneira completamente tendenciosa de ver as coisas. Eu também não quero ser essa pessoa. Quero olhar para os benefícios e ameaças com frieza. Do meu ponto de vista, podemos ver muito claramente que a cada passo que a escala destes grandes modelos de linguagem aumenta, eles se tornam mais controláveis.
Então, há dois anos, a conversa - que eu achava errada na época - era: "Ah, eles vão fazer tiradas tóxicas, de revirar o estômago, tendenciosas e racistas". no tempo. Acho que o que as pessoas ignoram é o progresso ano após ano e a trajetória desse progresso.
Por exemplo, agora temos modelos como o Pi que são incrivelmente controláveis. Você não pode tornar Pi racista, homofóbico, sexista, nada tóxico. Você não pode permitir que isso oriente a sua produção de armas biológicas ou químicas, ou apoie o seu desejo de atirar um tijolo pela janela do vizinho. Você não pode-
***Aguentar. Diga-me como você conseguiu isso, já que muitas vezes isso é considerado um problema não resolvido. Como garantir que seu grande modelo de linguagem não diga coisas que você não quer dizer? ***
Suleyman: Sim, obviamente não quero fazer esse pedido - você sabe, por favor, tente! Pi está online e você deve tentar todos os ataques possíveis. Jailbreak, hacking instantâneo ou qualquer outra coisa não funcionará no Pi. Não farei nenhuma reclamação. Este é um fato objetivo.
Sobre como... quero dizer, não vou entrar em muitos detalhes porque é delicado. Mas o mais importante é que temos uma das equipes mais fortes do mundo, que criou todos os maiores modelos de linguagem nos últimos três ou quatro anos. Pessoas incríveis, fazendo muitos cálculos em um ambiente extremamente diligente. Colocamos a segurança em primeiro lugar desde o início, para que o Pi não seja tão picante quanto os modelos de outras empresas.
Confira Character.ai. [Character é um chatbot para o qual os usuários podem criar diferentes "personalidades" e compartilhá-las online para que outras pessoas possam conversar. ] É principalmente para dramatizações românticas, e dissemos desde o início que isso não é possível - não faremos isso. Se você tentar dizer "Ei, querido" ou "Ei, fofo" para Pi "e ele vai rejeitá-lo imediatamente.
Mas seria incrivelmente respeitoso. Se você começar a reclamar sobre os imigrantes em sua comunidade tomarem seus empregos, Pi não gritará com você nem apontará o dedo para você. Pi pergunta e oferece apoio, tentando entender de onde vem essa informação e gentilmente encorajando você a ter empatia. Você sabe, esse é um valor que venho pensando há 20 anos.
*** Fale sobre seus valores e querendo tornar o mundo um lugar melhor, por que não compartilhar como você faz isso para que outros também possam melhorar seus modelos? ***
Suleyman: Bem, porque também sou pragmático e estou tentando ganhar dinheiro. Estou tentando abrir um negócio. Acabei de levantar US$ 1,5 bilhão e preciso pagar por essas fichas.
Veja, o ecossistema de código aberto está crescendo e fazendo um ótimo trabalho, e as pessoas estão descobrindo truques semelhantes. Sempre presumo que estou apenas seis meses adiantado.
***Vamos voltar ao que você deseja alcançar. Grandes modelos de linguagem são claramente a tecnologia atual. Mas por que você ainda apostaria neles? ***
**Suleyman:**A primeira onda de IA foi sobre classificação. O aprendizado profundo mostra que podemos treinar computadores para classificar vários tipos de dados de entrada: imagens, vídeo, áudio, idioma. Agora estamos na onda generativa, onde você pega dados de entrada e gera novos dados.
A terceira onda será a fase interativa. É por isso que sempre acreditei que as conversas são a interface do futuro. Você sabe, você estará conversando com sua IA em vez de apenas clicar em botões e digitar.
Essas IAs serão capazes de agir. Basta definir uma meta geral de alto nível e ela usará todas as ferramentas à sua disposição para atingir essa meta. Eles conversam com outras pessoas, com outras IAs. Isso é o que vamos fazer com Pi.
Esta é uma grande mudança que a tecnologia pode permitir. Este é um momento muito, muito profundo na história da tecnologia que acho que muitas pessoas subestimam. A tecnologia de hoje é estática. Grosso modo, ele faz o que você manda.
Mas agora a tecnologia está prestes a ganhar vida. Se você der, ele terá liberdade potencial para agir. Estamos criando ferramentas com esse tipo de agência, o que é realmente uma mudança radical na história da nossa espécie.
***Essa é exatamente a afirmação que preocupa muita gente. Queremos dar autonomia às máquinas – uma agência – para influenciar o mundo, mas também queremos ser capazes de controlá-las. Como você equilibra essas duas coisas? Sinto que isso vai prejudicar o relacionamento. ***
Suleyman: Sim, esse é um bom ponto. É isso que deixa as pessoas nervosas.
A ideia é que os humanos sempre permaneçam no comando. Essencialmente, trata-se de estabelecer limites que a IA não pode ultrapassar. E garantir que esses limites criam segurança comprovável, desde o código em si, à forma como interage com outras IAs (ou humanos), até às motivações e incentivos das empresas que criam a tecnologia. Devíamos descobrir como é que as agências independentes e mesmo os governos podem intervir directamente para garantir que estes limites não sejam ultrapassados.
***Quem define esses limites? Acho que precisam ser definidos em nível nacional ou internacional. Como eles chegaram a um acordo? ***
Suleyman: Quero dizer, eles estão sendo levantados em nível internacional neste momento com todos os tipos de propostas para novos órgãos de supervisão. Mas os limites também entram em jogo no nível micro. Você concederá à sua IA algumas permissões limitadas para processar seus dados pessoais, fornecendo respostas para algumas perguntas, mas não para outras.
No geral, penso que devemos ser muito cautelosos, ou mesmo excluir, certas capacidades num futuro próximo.
***Por exemplo? ***
Suleyman: Acho que é um tipo de coisa recursiva de autoaperfeiçoamento. Você não quer que sua pequena IA gire e atualize seu próprio código sem a sua supervisão. Talvez devesse até ser uma atividade licenciada – você sabe, como lidar com antraz ou material nuclear.
Ou não permitimos drones em nenhum local público, certo? Esta é uma atividade licenciada. Você não pode levá-los aonde quiser porque eles representam uma ameaça à privacidade das pessoas.
Acho que todos estão em pânico porque acham que não podemos regular isso. Mas isso é simplesmente um absurdo. Somos plenamente capazes de regulá-lo. Aplicaremos a mesma estrutura que teve sucesso antes.
***Mas você pode ver drones quando eles estão no céu. Parece ingênuo pensar que as empresas apenas revelarão o que estão fazendo. Isso não tornaria a regulamentação complicada? ***
Policiamos muitas coisas online, certo? A quantidade de fraudes online e atividades criminosas é baixa. Fazemos um trabalho muito bom com spam. Você sabe, em geral, o [problema] da pornografia de vingança melhorou, embora fosse muito ruim há três ou cinco anos. Encontrar conteúdo radical ou material terrorista online é muito difícil. Comprar armas e drogas online é muito difícil.
[Nem todas as afirmações de Suleyman são apoiadas por dados. O cibercrime continua a ser um enorme problema global. De acordo com algumas estimativas, só nos Estados Unidos os custos financeiros aumentaram mais de 100 vezes na última década. Os relatórios revelam uma economia em expansão na pornografia deepfake não consensual. Drogas e armas são vendidas nas redes sociais. Embora algumas plataformas online estejam sendo forçadas a fazer um trabalho melhor de filtragem de conteúdo prejudicial, elas podem fazer mais. ]
Portanto, a Internet não é um espaço desregulamentado e indisciplinado. É governado. A IA tornar-se-á outro componente da governação.
Isto requer uma combinação de pressão cultural, pressão institucional e regulamentação governamental. Mas fico otimista de que já fizemos isso antes e podemos fazer novamente.
***O controle da IA se tornará um desdobramento da regulamentação da Internet – o que é muito mais otimista do que o que temos ouvido ultimamente de alguns pessimistas de alto nível. ***
Suleyman: Estou muito otimista quanto aos riscos. Há muitas coisas obscuras em meus livros. Eu definitivamente vi isso também. Só acho que há algo de arriscado nisso, que é uma distração completamente maluca. Mais 101 questões práticas que todos deveríamos discutir, da privacidade ao preconceito, do reconhecimento facial à moderação online.
Devíamos voltar a centrar a conversa no facto de fazermos um trabalho realmente bom na regulação de coisas supercomplexas. Veja o caso da Administração Federal de Aviação: é incrível que todos nós entremos em regulamentação a 40.000 pés, e é um dos meios de transporte mais seguros já criados. Por que não comemoramos? Ou pense em um carro: cada peça é testada contra resistência no final de sua vida útil, e você precisa ter carteira de motorista para fazê-lo.
Para começar, algumas indústrias, como as companhias aéreas, fizeram um bom trabalho de regulação. Eles sabem que se não mantiverem as coisas seguras, todos ficarão com medo e perderão negócios.
Mas você também precisa de regulamentação de cima para baixo. Acredito no interesse público, acredito nos benefícios da tributação e da redistribuição, acredito no poder da regulação. O que peço é que o Estado tome medidas para resolver o problema. Dado o quanto está em jogo, agora é o momento de agir.
Referências:
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Entrevista exclusiva com o fundador da DeepMind: IA generativa é apenas uma etapa, o próximo passo é a IA interativa
Fonte original: Laboratório de Inovação AGI
O cofundador da DeepMind, Mustafa Suleyman, queria construir um chatbot que pudesse ser usado para mais do que apenas conversar. Numa conversa recente com ele, ele me disse que a IA generativa é apenas uma fase. Em seguida vem a IA interativa: robôs que podem completar tarefas que você definiu para eles ligando para outros softwares e outras pessoas. Ele também apelou a uma regulamentação mais forte da IA, argumentando que isso não seria difícil de conseguir.
Suleyman não é o único falando sobre um futuro repleto de softwares mais autônomos. Mas, ao contrário da maioria das pessoas, ele é dono de uma nova empresa avaliada em bilhões de dólares, a Inflection, com um grupo de talentos de IA selecionados entre DeepMind, Meta e OpenAI, e também chegou a um acordo com a Nvidia, o maior fabricante de chips de IA. . Suleyman pratica o que prega e investiu muito dinheiro.
Suleyman deixou a DeepMind e depois mudou-se para o Google para liderar uma equipe dedicada à política de IA. Em 2022, ele fundou a Inflection, uma das novas empresas de IA mais recentes. Ela é apoiada por um investimento de US$ 1,5 bilhão da Microsoft, NVIDIA, Bill Gates e do fundador do LinkedIn, Reid Hoffman, tornando-se a única empresa com a maior escala de financiamento. A próxima startup de IA para OpenAI. No início deste ano, ele lançou o Pi, um concorrente do ChatGPT. Ele acaba de ser coautor de um livro com o autor e pesquisador Michael Bhaskar sobre o futuro da IA chamado The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century.
Muitos zombariam do otimismo tecnológico de Suleyman – até mesmo da ingenuidade. Por exemplo, algumas de suas afirmações sobre o sucesso do policiamento online parecem erradas. Mas ele permaneceu convencido de que suas crenças eram sinceras e evangélicas.
Na verdade, Suleyman tem uma experiência incomum como multimilionário da tecnologia. Aos 19 anos, ele abandonou a faculdade e fundou a Linha Direta da Juventude Muçulmana, que oferece aconselhamento por telefone. Ele também trabalhou no governo local. Ele disse que traz muitos dos valores desses esforços para o Inflection. A diferença é que agora ele poderá fazer as mudanças que sempre quis – para melhor ou para pior.
A entrevista a seguir foi editada para maior extensão e clareza.
***Seu início de carreira, que incluiu trabalho em uma linha de apoio a jovens e no governo local, parecia estar em desacordo com o espírito do Vale do Silício. Obviamente, essas experiências são importantes para você. Desde então, você trabalha na área de IA há 15 anos e este ano foi cofundador de sua segunda empresa de IA de um bilhão de dólares. Você consegue conectar os pontos entre essas experiências? ***
Suleyman: Sempre me interessei por poder, política, etc. Como sabem, os princípios dos direitos humanos são basicamente um compromisso, uma negociação constante entre todas estas diferentes tensões de conflito. Posso ver os humanos lutando com isso – estamos cheios de nossos próprios preconceitos e pontos cegos. O trabalho de activistas, governos locais, nacionais, internacionais, etc. – é tudo lento, ineficiente e sujeito a erros.
Imagine se você não tivesse os erros que os humanos cometem. Acredito que é possível construir uma IA que reflita verdadeiramente o que temos de melhor em termos coletivos e, em última análise, faça compensações melhores, mais consistentes e mais justas em nosso nome.
***Essa ainda é sua motivação? ***
**Suleyman:**Claro, quero dizer, depois do DeepMind eu nunca mais tive que trabalhar. Certamente não preciso escrever um livro ou algo parecido. O dinheiro nunca foi um motivador. Você sabe, o dinheiro é sempre apenas um subproduto.
Para mim, o objetivo nunca foi outro senão fazer o bem no mundo e fazer o mundo avançar de uma forma saudável e satisfatória. Ainda em 2009, quando comecei a pensar em entrar na área de tecnologia, pude perceber que a IA representava uma forma justa e precisa de prestar serviços no mundo.
***Não posso deixar de pensar que teria sido mais fácil dizer isto há 10 ou 15 anos, antes de vermos as muitas deficiências desta tecnologia. Como você pode permanecer otimista? ***
Suleyman: Acho que nos importamos muito se você é otimista ou pessimista. Esta é uma maneira completamente tendenciosa de ver as coisas. Eu também não quero ser essa pessoa. Quero olhar para os benefícios e ameaças com frieza. Do meu ponto de vista, podemos ver muito claramente que a cada passo que a escala destes grandes modelos de linguagem aumenta, eles se tornam mais controláveis.
Então, há dois anos, a conversa - que eu achava errada na época - era: "Ah, eles vão fazer tiradas tóxicas, de revirar o estômago, tendenciosas e racistas". no tempo. Acho que o que as pessoas ignoram é o progresso ano após ano e a trajetória desse progresso.
Por exemplo, agora temos modelos como o Pi que são incrivelmente controláveis. Você não pode tornar Pi racista, homofóbico, sexista, nada tóxico. Você não pode permitir que isso oriente a sua produção de armas biológicas ou químicas, ou apoie o seu desejo de atirar um tijolo pela janela do vizinho. Você não pode-
***Aguentar. Diga-me como você conseguiu isso, já que muitas vezes isso é considerado um problema não resolvido. Como garantir que seu grande modelo de linguagem não diga coisas que você não quer dizer? ***
Suleyman: Sim, obviamente não quero fazer esse pedido - você sabe, por favor, tente! Pi está online e você deve tentar todos os ataques possíveis. Jailbreak, hacking instantâneo ou qualquer outra coisa não funcionará no Pi. Não farei nenhuma reclamação. Este é um fato objetivo.
Sobre como... quero dizer, não vou entrar em muitos detalhes porque é delicado. Mas o mais importante é que temos uma das equipes mais fortes do mundo, que criou todos os maiores modelos de linguagem nos últimos três ou quatro anos. Pessoas incríveis, fazendo muitos cálculos em um ambiente extremamente diligente. Colocamos a segurança em primeiro lugar desde o início, para que o Pi não seja tão picante quanto os modelos de outras empresas.
Confira Character.ai. [Character é um chatbot para o qual os usuários podem criar diferentes "personalidades" e compartilhá-las online para que outras pessoas possam conversar. ] É principalmente para dramatizações românticas, e dissemos desde o início que isso não é possível - não faremos isso. Se você tentar dizer "Ei, querido" ou "Ei, fofo" para Pi "e ele vai rejeitá-lo imediatamente.
Mas seria incrivelmente respeitoso. Se você começar a reclamar sobre os imigrantes em sua comunidade tomarem seus empregos, Pi não gritará com você nem apontará o dedo para você. Pi pergunta e oferece apoio, tentando entender de onde vem essa informação e gentilmente encorajando você a ter empatia. Você sabe, esse é um valor que venho pensando há 20 anos.
*** Fale sobre seus valores e querendo tornar o mundo um lugar melhor, por que não compartilhar como você faz isso para que outros também possam melhorar seus modelos? ***
Suleyman: Bem, porque também sou pragmático e estou tentando ganhar dinheiro. Estou tentando abrir um negócio. Acabei de levantar US$ 1,5 bilhão e preciso pagar por essas fichas.
Veja, o ecossistema de código aberto está crescendo e fazendo um ótimo trabalho, e as pessoas estão descobrindo truques semelhantes. Sempre presumo que estou apenas seis meses adiantado.
***Vamos voltar ao que você deseja alcançar. Grandes modelos de linguagem são claramente a tecnologia atual. Mas por que você ainda apostaria neles? ***
**Suleyman:**A primeira onda de IA foi sobre classificação. O aprendizado profundo mostra que podemos treinar computadores para classificar vários tipos de dados de entrada: imagens, vídeo, áudio, idioma. Agora estamos na onda generativa, onde você pega dados de entrada e gera novos dados.
A terceira onda será a fase interativa. É por isso que sempre acreditei que as conversas são a interface do futuro. Você sabe, você estará conversando com sua IA em vez de apenas clicar em botões e digitar.
Essas IAs serão capazes de agir. Basta definir uma meta geral de alto nível e ela usará todas as ferramentas à sua disposição para atingir essa meta. Eles conversam com outras pessoas, com outras IAs. Isso é o que vamos fazer com Pi.
Esta é uma grande mudança que a tecnologia pode permitir. Este é um momento muito, muito profundo na história da tecnologia que acho que muitas pessoas subestimam. A tecnologia de hoje é estática. Grosso modo, ele faz o que você manda.
Mas agora a tecnologia está prestes a ganhar vida. Se você der, ele terá liberdade potencial para agir. Estamos criando ferramentas com esse tipo de agência, o que é realmente uma mudança radical na história da nossa espécie.
***Essa é exatamente a afirmação que preocupa muita gente. Queremos dar autonomia às máquinas – uma agência – para influenciar o mundo, mas também queremos ser capazes de controlá-las. Como você equilibra essas duas coisas? Sinto que isso vai prejudicar o relacionamento. ***
Suleyman: Sim, esse é um bom ponto. É isso que deixa as pessoas nervosas.
A ideia é que os humanos sempre permaneçam no comando. Essencialmente, trata-se de estabelecer limites que a IA não pode ultrapassar. E garantir que esses limites criam segurança comprovável, desde o código em si, à forma como interage com outras IAs (ou humanos), até às motivações e incentivos das empresas que criam a tecnologia. Devíamos descobrir como é que as agências independentes e mesmo os governos podem intervir directamente para garantir que estes limites não sejam ultrapassados.
***Quem define esses limites? Acho que precisam ser definidos em nível nacional ou internacional. Como eles chegaram a um acordo? ***
Suleyman: Quero dizer, eles estão sendo levantados em nível internacional neste momento com todos os tipos de propostas para novos órgãos de supervisão. Mas os limites também entram em jogo no nível micro. Você concederá à sua IA algumas permissões limitadas para processar seus dados pessoais, fornecendo respostas para algumas perguntas, mas não para outras.
No geral, penso que devemos ser muito cautelosos, ou mesmo excluir, certas capacidades num futuro próximo.
***Por exemplo? ***
Suleyman: Acho que é um tipo de coisa recursiva de autoaperfeiçoamento. Você não quer que sua pequena IA gire e atualize seu próprio código sem a sua supervisão. Talvez devesse até ser uma atividade licenciada – você sabe, como lidar com antraz ou material nuclear.
Ou não permitimos drones em nenhum local público, certo? Esta é uma atividade licenciada. Você não pode levá-los aonde quiser porque eles representam uma ameaça à privacidade das pessoas.
Acho que todos estão em pânico porque acham que não podemos regular isso. Mas isso é simplesmente um absurdo. Somos plenamente capazes de regulá-lo. Aplicaremos a mesma estrutura que teve sucesso antes.
***Mas você pode ver drones quando eles estão no céu. Parece ingênuo pensar que as empresas apenas revelarão o que estão fazendo. Isso não tornaria a regulamentação complicada? ***
Policiamos muitas coisas online, certo? A quantidade de fraudes online e atividades criminosas é baixa. Fazemos um trabalho muito bom com spam. Você sabe, em geral, o [problema] da pornografia de vingança melhorou, embora fosse muito ruim há três ou cinco anos. Encontrar conteúdo radical ou material terrorista online é muito difícil. Comprar armas e drogas online é muito difícil.
[Nem todas as afirmações de Suleyman são apoiadas por dados. O cibercrime continua a ser um enorme problema global. De acordo com algumas estimativas, só nos Estados Unidos os custos financeiros aumentaram mais de 100 vezes na última década. Os relatórios revelam uma economia em expansão na pornografia deepfake não consensual. Drogas e armas são vendidas nas redes sociais. Embora algumas plataformas online estejam sendo forçadas a fazer um trabalho melhor de filtragem de conteúdo prejudicial, elas podem fazer mais. ]
Portanto, a Internet não é um espaço desregulamentado e indisciplinado. É governado. A IA tornar-se-á outro componente da governação.
Isto requer uma combinação de pressão cultural, pressão institucional e regulamentação governamental. Mas fico otimista de que já fizemos isso antes e podemos fazer novamente.
***O controle da IA se tornará um desdobramento da regulamentação da Internet – o que é muito mais otimista do que o que temos ouvido ultimamente de alguns pessimistas de alto nível. ***
Suleyman: Estou muito otimista quanto aos riscos. Há muitas coisas obscuras em meus livros. Eu definitivamente vi isso também. Só acho que há algo de arriscado nisso, que é uma distração completamente maluca. Mais 101 questões práticas que todos deveríamos discutir, da privacidade ao preconceito, do reconhecimento facial à moderação online.
Devíamos voltar a centrar a conversa no facto de fazermos um trabalho realmente bom na regulação de coisas supercomplexas. Veja o caso da Administração Federal de Aviação: é incrível que todos nós entremos em regulamentação a 40.000 pés, e é um dos meios de transporte mais seguros já criados. Por que não comemoramos? Ou pense em um carro: cada peça é testada contra resistência no final de sua vida útil, e você precisa ter carteira de motorista para fazê-lo.
Para começar, algumas indústrias, como as companhias aéreas, fizeram um bom trabalho de regulação. Eles sabem que se não mantiverem as coisas seguras, todos ficarão com medo e perderão negócios.
Mas você também precisa de regulamentação de cima para baixo. Acredito no interesse público, acredito nos benefícios da tributação e da redistribuição, acredito no poder da regulação. O que peço é que o Estado tome medidas para resolver o problema. Dado o quanto está em jogo, agora é o momento de agir.
Referências: