DeepMind est une société de recherche en IA fondée en 2010 et dont le siège est à Londres, au Royaume-Uni. L'entreprise développe et recherche des systèmes d'intelligence générale artificielle (AGI), qui visent à permettre aux ordinateurs d'apprendre et de raisonner comme les humains.
L'une des réalisations les plus connues de DeepMind est le programme AlphaGo développé en 2016, qui a battu le champion du monde Lee Sedol au jeu de Go et a attiré une large attention. Cette réalisation démontre le potentiel de l’IA sur des problèmes complexes et fait de DeepMind l’une des entreprises leader dans le domaine de l’IA.
En 2014, DeepMind a été rachetée par Google, mais elle maintient des opérations relativement indépendantes et continue de mener des recherches de pointe en matière d'intelligence artificielle.
Source de l'image : générée par Unbounded AI
Le co-fondateur de DeepMind, Mustafa Suleyman, souhaitait créer un chatbot qui pourrait être utilisé pour bien plus que simplement discuter. Lors d’une récente conversation avec lui, il m’a dit que l’IA générative n’était qu’une phase. Vient ensuite l’IA interactive : des robots qui peuvent accomplir les tâches que vous leur avez définies en appelant d’autres logiciels et d’autres personnes. Il a également appelé à une réglementation plus stricte de l’IA, arguant que cela ne serait pas difficile à réaliser.
Suleyman n'est pas le seul à parler d'un avenir rempli de logiciels plus autonomes. Mais contrairement à la plupart des gens, il possède une nouvelle société valant des milliards de dollars, Inflection, avec un groupe de talents en IA sélectionnés parmi DeepMind, Meta et OpenAI, et a également conclu un accord avec Nvidia, le plus grand fabricant de puces IA. . Suleyman met en pratique ce qu'il prêche et a investi beaucoup d'argent.
Suleyman a quitté DeepMind puis a rejoint Google pour diriger une équipe dédiée à la politique en matière d'IA. En 2022, il a fondé Inflection, l'une des nouvelles sociétés d'IA les plus en vogue. Elle est soutenue par un investissement de 1,5 milliard de dollars de Microsoft, NVIDIA, Bill Gates et du fondateur de LinkedIn, Reid Hoffman, devenant ainsi la seule entreprise bénéficiant de la plus grande échelle de financement. à OpenAI. Plus tôt cette année, il a lancé Pi, un concurrent de ChatGPT. Il vient de co-écrire un livre avec l'auteur et chercheur Michael Bhaskar sur l'avenir de l'IA intitulé The Coming Wave : Technology, Power, and the Greatest Dilemmas of the 21st Century.
Beaucoup se moqueraient de l’optimisme technologique de Suleyman, voire de sa naïveté. Par exemple, certaines de ses affirmations sur le succès de la police en ligne semblent fausses. Mais il restait convaincu que ses convictions étaient sincères et évangéliques.
En effet, Suleyman a un parcours inhabituel en tant que multimillionnaire technologique. À 19 ans, il abandonne ses études et fonde la Muslim Youth Hotline, qui propose des conseils téléphoniques. Il a également travaillé dans le gouvernement local. Il a déclaré qu’il apportait à Inflection bon nombre des valeurs de ces efforts. La différence est qu'il pourrait désormais être en mesure d'effectuer les changements qu'il a toujours souhaités – pour le meilleur ou pour le pire.
Les progrès incroyables de l’IA sont vertigineux et croissent de façon exponentielle. Parole, imagerie, lecture, compréhension du langage, mathématiques à l’école primaire, génération de codes : l’IA approche ou dépasse les performances humaines dans ces domaines. ——Mustafa Soliman
L’interview suivante a été modifiée pour des raisons de longueur et de clarté.
***Votre début de carrière, qui comprenait un travail sur une ligne d'assistance téléphonique pour les jeunes et sur le gouvernement local, semblait en contradiction avec la philosophie de la Silicon Valley. Évidemment, ces expériences sont importantes pour vous. Depuis, vous travaillez dans le domaine de l'IA depuis 15 ans et avez cofondé cette année votre deuxième entreprise d'IA d'un milliard de dollars. Pouvez-vous relier les points entre ces expériences ? ***
Suleyman : J'ai toujours été intéressé par le pouvoir, la politique, etc. Vous savez, les principes des droits de l’homme sont fondamentalement un compromis, une négociation constante entre toutes ces différentes tensions conflictuelles. Je peux voir les humains lutter contre cela : nous sommes pleins de nos propres préjugés et angles morts. Le travail des militants, des gouvernements locaux, nationaux, internationaux, etc. est lent, inefficace et sujet aux erreurs.
Imaginez si vous n'aviez pas les erreurs que commettent les humains. Je pense qu'il est possible de construire une IA qui reflète véritablement notre meilleur moi collectif et qui, en fin de compte, permet de faire des compromis meilleurs, plus cohérents et plus justes en notre nom.
***Est-ce toujours votre motivation ? ***
**Suleyman :**Bien sûr, je veux dire, après DeepMind, je n'ai plus jamais eu à travailler. Je n’ai certainement pas besoin d’écrire un livre ou quoi que ce soit du genre. L'argent n'a jamais été une motivation. Vous savez, l’argent n’est toujours qu’un sous-produit.
Pour moi, l’objectif n’a jamais été autre chose que de savoir comment faire le bien dans le monde et comment faire avancer le monde d’une manière saine et satisfaisante. Même en 2009, lorsque j’ai commencé à envisager de me lancer dans le domaine de la technologie, j’ai pu constater que l’IA représentait un moyen juste et précis de fournir des services dans le monde.
***Je ne peux m'empêcher de penser qu'il aurait été plus facile de dire cela il y a 10 ou 15 ans, avant qu'on ne voie les nombreuses lacunes de cette technologie. Comment rester optimiste ? ***
Suleyman : Je pense que nous nous soucions beaucoup de savoir si vous êtes optimiste ou pessimiste. C’est une façon complètement biaisée de voir les choses. Je ne veux pas non plus être une telle personne. Je veux considérer les avantages et les menaces avec froideur. D’où je me trouve, nous pouvons voir très clairement qu’à chaque étape, l’échelle de ces grands modèles linguistiques augmente, ils deviennent plus contrôlables.
Il y a deux ans, la conversation - que je pensais fausse à l'époque - était : "Oh, ils vont juste se lancer dans des tirades toxiques, déchirantes, biaisées et racistes." Je me suis dit : c'est un instantané. dans le temps. Je pense que ce que les gens négligent, ce sont les progrès d’année en année et la trajectoire de ces progrès.
Par exemple, nous avons désormais des modèles comme le Pi qui sont incroyablement contrôlables. Vous ne pouvez pas rendre Pi raciste, homophobe, sexiste, quoi que ce soit de toxique. Vous ne pouvez pas le laisser guider votre production d'armes biologiques ou chimiques, ni soutenir votre envie de jeter une brique par la fenêtre de votre voisin. Tu ne peux pas-
***Attendez. Dites-moi comment vous y êtes parvenu, car ce problème est souvent considéré comme non résolu. Comment vous assurer que votre grand modèle de langage ne dit pas des choses que vous ne voulez pas dire ? ***
Suleyman : Ouais, évidemment, je ne veux pas faire cette demande - vous savez, s'il vous plaît, essayez-le ! Pi est en ligne et vous devriez essayer toutes les attaques possibles. Le jailbreak, le piratage instantané ou toute autre chose ne fonctionnera pas sur le Pi. Je ne ferai pas de réclamation. C'est un fait objectif.
À propos de la façon dont – je veux dire, je n’entrerai pas dans trop de détails parce que c’est sensible. Mais plus important encore, nous disposons de l’une des équipes les plus solides au monde, qui a créé tous les plus grands modèles linguistiques au cours des trois ou quatre dernières années. Des gens extraordinaires, effectuant beaucoup de calculs dans un environnement extrêmement diligent. Dès le départ, nous avons accordé la priorité à la sécurité, c'est pourquoi le Pi n'est pas aussi épicé que les modèles d'autres sociétés.
Découvrez Character.ai. [Character est un chatbot pour lequel les utilisateurs peuvent créer différentes « personnalités » et les partager en ligne pour que d'autres puissent discuter avec eux. ] C'est principalement pour les jeux de rôle romantiques, et nous avons dit depuis le début que ce n'était pas possible - nous ne le ferons pas. Si vous essayez de dire "Hey chérie" ou "Hey cutie" à Pi " et ce sera le cas. vous rejette immédiatement.
Mais ce serait incroyablement respectueux. Si vous commencez à vous plaindre du fait que des immigrants de votre communauté prennent votre emploi, Pi ne vous criera pas dessus et ne vous fera pas signe du doigt. Pi demande et offre son soutien, en essayant de comprendre d'où viennent ces informations et en vous encourageant gentiment à faire preuve d'empathie. Vous savez, c'est une valeur à laquelle je réfléchis depuis 20 ans.
*** Parlez de vos valeurs et souhaitez rendre le monde meilleur, pourquoi ne pas partager comment vous le faites afin que les autres puissent également améliorer leurs modèles ? ***
Suleyman : Eh bien, parce que je suis aussi un pragmatique et que j'essaie de gagner de l'argent. J'essaie de démarrer une entreprise. Je viens de lever 1,5 milliard de dollars et je dois payer pour ces jetons.
Écoutez, l'écosystème open source est en plein essor et fait un excellent travail, et les gens découvrent des astuces similaires. Je suppose toujours que je n'ai que six mois d'avance.
*** Revenons à ce que vous souhaitez réaliser. Les grands modèles de langage constituent clairement la technologie actuelle. Mais pourquoi pariez-vous encore sur eux ? ***
**Suleyman :**La première vague d'IA concernait la classification. Le deep learning montre que nous pouvons entraîner les ordinateurs à classer différents types de données d’entrée : images, vidéo, audio, langage. Nous sommes maintenant dans la vague générative, où vous prenez des données d'entrée et générez de nouvelles données.
La troisième vague sera la phase interactive. C’est pourquoi j’ai longtemps cru que les conversations étaient l’interface du futur. Vous savez, vous parlerez à votre IA au lieu de simplement cliquer sur des boutons et taper.
Ces IA pourront agir. Vous lui donnez simplement un objectif global de haut niveau et il utilisera tous les outils à sa disposition pour atteindre cet objectif. Ils parlent à d’autres personnes, à d’autres IA. C'est ce que nous allons faire avec Pi.
Il s’agit d’un énorme changement que la technologie peut permettre. Il s’agit d’un moment très, très profond dans l’histoire de la technologie que beaucoup de gens sous-estiment, je pense. La technologie d'aujourd'hui est statique. En gros, il fait ce que vous lui dites de faire.
Mais aujourd’hui, la technologie est sur le point de prendre vie. Si vous le lui donnez, il aura potentiellement la liberté d’agir. Nous créons des outils avec ce type d’agence, ce qui constitue véritablement un changement radical dans l’histoire de notre espèce.
***C'est exactement la déclaration qui inquiète beaucoup de gens. Vous voulez donner aux machines une autonomie – une agence – pour influencer le monde, mais nous voulons aussi pouvoir les contrôler. Comment équilibrez-vous ces deux choses ? J'ai l'impression que cela va mettre à rude épreuve la relation. ***
Suleyman : Ouais, c'est un bon point. C'est ce qui rend les gens nerveux.
L’idée est que les humains resteront toujours aux commandes. Il s’agit essentiellement de fixer des limites que l’IA ne peut pas franchir. Et garantir que ces limites créent une sécurité prouvable, du code lui-même à la manière dont il interagit avec d’autres IA (ou humains), en passant par les motivations et les incitations des entreprises qui créent la technologie. Nous devrions comprendre comment les agences indépendantes et même les gouvernements peuvent intervenir directement pour garantir que ces limites ne soient pas franchies.
***Qui fixe ces limites ? Je pense qu'ils doivent être définis au niveau national ou international. Comment sont-ils parvenus à un accord ? ***
Suleyman : Je veux dire, ces problèmes sont actuellement soulevés au niveau international avec toutes sortes de propositions concernant de nouveaux organismes de surveillance. Mais les limites entrent également en jeu au niveau micro. Vous accorderez à votre IA des autorisations limitées pour traiter vos données personnelles, vous fournissant ainsi des réponses à certaines questions mais pas à d'autres.
Dans l’ensemble, je pense que nous devrions être très prudents, voire exclure, certaines capacités dans un avenir proche.
***Par exemple? ***
Suleyman : Je suppose qu'il s'agit d'une sorte de chose récursive d'auto-amélioration. Vous ne voulez pas que votre petite IA démarre et mette à jour son propre code sans votre supervision. Peut-être que cela devrait même être une activité autorisée - vous savez, comme le traitement de l'anthrax ou des matières nucléaires.
Ou bien, nous n’autorisons les drones dans aucun lieu public, n’est-ce pas ? Il s'agit d'une activité autorisée. Vous ne pouvez pas les emmener où vous voulez car ils constituent une menace pour la vie privée des personnes.
Je pense que tout le monde panique parce qu'ils pensent que nous ne pouvons pas réglementer cela. Mais c’est tout simplement absurde. Nous sommes tout à fait capables de le réguler. Nous appliquerons le même cadre qui a fait ses preuves auparavant.
***Mais vous pouvez voir les drones lorsqu'ils sont dans le ciel. Il semble naïf de penser que les entreprises se contenteront de révéler ce qu’elles fabriquent. Cela ne rendrait-il pas la réglementation délicate ? ***
Nous surveillons beaucoup de choses en ligne, n'est-ce pas ? Le nombre de fraudes et d’activités criminelles en ligne est faible. Nous faisons un très bon travail avec le spam. Vous savez, en général, le [problème] avec la vengeance pornographique s'est amélioré, même s'il était plutôt grave il y a trois ou cinq ans. Trouver du contenu radical ou du matériel terroriste en ligne est très difficile. Acheter des armes et de la drogue en ligne est très difficile.
[Toutes les affirmations de Suleyman ne sont pas étayées par des données. La cybercriminalité reste un énorme problème mondial. Selon certaines estimations, les coûts financiers, rien qu’aux États-Unis, ont été multipliés par plus de 100 au cours de la dernière décennie. Des rapports révèlent une économie en plein essor dans le domaine de la pornographie deepfake non consensuelle. De la drogue et des armes sont vendues sur les réseaux sociaux. Même si certaines plateformes en ligne sont contraintes de mieux filtrer les contenus préjudiciables, elles peuvent faire davantage. ]
Internet n’est donc pas un espace non réglementé et indiscipliné. Il est gouverné. L’IA deviendra une autre composante de la gouvernance.
Cela nécessite une combinaison de pressions culturelles, de pressions institutionnelles et de réglementation gouvernementale. Mais cela me rend optimiste de savoir que nous l’avons déjà fait et que nous pouvons le refaire.
***Le contrôle de l’IA deviendra une émanation de la réglementation d’Internet – ce qui est bien plus optimiste que ce que nous avons entendu récemment de la part de certains pessimistes de premier plan. ***
Suleyman : Je suis très optimiste quant aux risques. Il y a beaucoup de choses sombres dans mes livres. J'ai certainement vu ça aussi. Je pense juste qu'il y a quelque chose de risqué là-dedans, c'est une distraction complètement folle. 101 questions plus pratiques dont nous devrions tous discuter, de la confidentialité aux préjugés, de la reconnaissance faciale à la modération en ligne.
Nous devrions recentrer la conversation sur le fait que nous faisons un très bon travail en matière de réglementation de choses extrêmement complexes. Regardez la Federal Aviation Administration : c'est incroyable que nous adoptions tous une réglementation à 40 000 pieds, et c'est l'un des modes de transport les plus sûrs jamais créés. Pourquoi ne faisons-nous pas la fête ? Ou pensez à une voiture : chaque pièce est soumise à des tests de résistance en fin de vie, et vous devez avoir un permis de conduire pour le faire.
Certaines industries, comme les compagnies aériennes, ont déjà fait du bon travail en matière de réglementation. Ils savent que s’ils n’assurent pas la sécurité, tout le monde aura peur et ils perdront des affaires.
Mais il faut aussi une réglementation descendante. Je crois à l’intérêt public, je crois aux avantages de la fiscalité et de la redistribution, je crois au pouvoir de la réglementation. Ce que je demande, c’est que l’État agisse pour résoudre le problème. Compte tenu de l’ampleur des enjeux, il est temps d’agir.
Les références:
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Entretien exclusif avec le fondateur de DeepMind : L'IA générative n'est qu'une étape, la prochaine étape est l'IA interactive
Source originale : AGI Innovation Lab
Le co-fondateur de DeepMind, Mustafa Suleyman, souhaitait créer un chatbot qui pourrait être utilisé pour bien plus que simplement discuter. Lors d’une récente conversation avec lui, il m’a dit que l’IA générative n’était qu’une phase. Vient ensuite l’IA interactive : des robots qui peuvent accomplir les tâches que vous leur avez définies en appelant d’autres logiciels et d’autres personnes. Il a également appelé à une réglementation plus stricte de l’IA, arguant que cela ne serait pas difficile à réaliser.
Suleyman n'est pas le seul à parler d'un avenir rempli de logiciels plus autonomes. Mais contrairement à la plupart des gens, il possède une nouvelle société valant des milliards de dollars, Inflection, avec un groupe de talents en IA sélectionnés parmi DeepMind, Meta et OpenAI, et a également conclu un accord avec Nvidia, le plus grand fabricant de puces IA. . Suleyman met en pratique ce qu'il prêche et a investi beaucoup d'argent.
Suleyman a quitté DeepMind puis a rejoint Google pour diriger une équipe dédiée à la politique en matière d'IA. En 2022, il a fondé Inflection, l'une des nouvelles sociétés d'IA les plus en vogue. Elle est soutenue par un investissement de 1,5 milliard de dollars de Microsoft, NVIDIA, Bill Gates et du fondateur de LinkedIn, Reid Hoffman, devenant ainsi la seule entreprise bénéficiant de la plus grande échelle de financement. à OpenAI. Plus tôt cette année, il a lancé Pi, un concurrent de ChatGPT. Il vient de co-écrire un livre avec l'auteur et chercheur Michael Bhaskar sur l'avenir de l'IA intitulé The Coming Wave : Technology, Power, and the Greatest Dilemmas of the 21st Century.
Beaucoup se moqueraient de l’optimisme technologique de Suleyman, voire de sa naïveté. Par exemple, certaines de ses affirmations sur le succès de la police en ligne semblent fausses. Mais il restait convaincu que ses convictions étaient sincères et évangéliques.
En effet, Suleyman a un parcours inhabituel en tant que multimillionnaire technologique. À 19 ans, il abandonne ses études et fonde la Muslim Youth Hotline, qui propose des conseils téléphoniques. Il a également travaillé dans le gouvernement local. Il a déclaré qu’il apportait à Inflection bon nombre des valeurs de ces efforts. La différence est qu'il pourrait désormais être en mesure d'effectuer les changements qu'il a toujours souhaités – pour le meilleur ou pour le pire.
L’interview suivante a été modifiée pour des raisons de longueur et de clarté.
***Votre début de carrière, qui comprenait un travail sur une ligne d'assistance téléphonique pour les jeunes et sur le gouvernement local, semblait en contradiction avec la philosophie de la Silicon Valley. Évidemment, ces expériences sont importantes pour vous. Depuis, vous travaillez dans le domaine de l'IA depuis 15 ans et avez cofondé cette année votre deuxième entreprise d'IA d'un milliard de dollars. Pouvez-vous relier les points entre ces expériences ? ***
Suleyman : J'ai toujours été intéressé par le pouvoir, la politique, etc. Vous savez, les principes des droits de l’homme sont fondamentalement un compromis, une négociation constante entre toutes ces différentes tensions conflictuelles. Je peux voir les humains lutter contre cela : nous sommes pleins de nos propres préjugés et angles morts. Le travail des militants, des gouvernements locaux, nationaux, internationaux, etc. est lent, inefficace et sujet aux erreurs.
Imaginez si vous n'aviez pas les erreurs que commettent les humains. Je pense qu'il est possible de construire une IA qui reflète véritablement notre meilleur moi collectif et qui, en fin de compte, permet de faire des compromis meilleurs, plus cohérents et plus justes en notre nom.
***Est-ce toujours votre motivation ? ***
**Suleyman :**Bien sûr, je veux dire, après DeepMind, je n'ai plus jamais eu à travailler. Je n’ai certainement pas besoin d’écrire un livre ou quoi que ce soit du genre. L'argent n'a jamais été une motivation. Vous savez, l’argent n’est toujours qu’un sous-produit.
Pour moi, l’objectif n’a jamais été autre chose que de savoir comment faire le bien dans le monde et comment faire avancer le monde d’une manière saine et satisfaisante. Même en 2009, lorsque j’ai commencé à envisager de me lancer dans le domaine de la technologie, j’ai pu constater que l’IA représentait un moyen juste et précis de fournir des services dans le monde.
***Je ne peux m'empêcher de penser qu'il aurait été plus facile de dire cela il y a 10 ou 15 ans, avant qu'on ne voie les nombreuses lacunes de cette technologie. Comment rester optimiste ? ***
Suleyman : Je pense que nous nous soucions beaucoup de savoir si vous êtes optimiste ou pessimiste. C’est une façon complètement biaisée de voir les choses. Je ne veux pas non plus être une telle personne. Je veux considérer les avantages et les menaces avec froideur. D’où je me trouve, nous pouvons voir très clairement qu’à chaque étape, l’échelle de ces grands modèles linguistiques augmente, ils deviennent plus contrôlables.
Il y a deux ans, la conversation - que je pensais fausse à l'époque - était : "Oh, ils vont juste se lancer dans des tirades toxiques, déchirantes, biaisées et racistes." Je me suis dit : c'est un instantané. dans le temps. Je pense que ce que les gens négligent, ce sont les progrès d’année en année et la trajectoire de ces progrès.
Par exemple, nous avons désormais des modèles comme le Pi qui sont incroyablement contrôlables. Vous ne pouvez pas rendre Pi raciste, homophobe, sexiste, quoi que ce soit de toxique. Vous ne pouvez pas le laisser guider votre production d'armes biologiques ou chimiques, ni soutenir votre envie de jeter une brique par la fenêtre de votre voisin. Tu ne peux pas-
***Attendez. Dites-moi comment vous y êtes parvenu, car ce problème est souvent considéré comme non résolu. Comment vous assurer que votre grand modèle de langage ne dit pas des choses que vous ne voulez pas dire ? ***
Suleyman : Ouais, évidemment, je ne veux pas faire cette demande - vous savez, s'il vous plaît, essayez-le ! Pi est en ligne et vous devriez essayer toutes les attaques possibles. Le jailbreak, le piratage instantané ou toute autre chose ne fonctionnera pas sur le Pi. Je ne ferai pas de réclamation. C'est un fait objectif.
À propos de la façon dont – je veux dire, je n’entrerai pas dans trop de détails parce que c’est sensible. Mais plus important encore, nous disposons de l’une des équipes les plus solides au monde, qui a créé tous les plus grands modèles linguistiques au cours des trois ou quatre dernières années. Des gens extraordinaires, effectuant beaucoup de calculs dans un environnement extrêmement diligent. Dès le départ, nous avons accordé la priorité à la sécurité, c'est pourquoi le Pi n'est pas aussi épicé que les modèles d'autres sociétés.
Découvrez Character.ai. [Character est un chatbot pour lequel les utilisateurs peuvent créer différentes « personnalités » et les partager en ligne pour que d'autres puissent discuter avec eux. ] C'est principalement pour les jeux de rôle romantiques, et nous avons dit depuis le début que ce n'était pas possible - nous ne le ferons pas. Si vous essayez de dire "Hey chérie" ou "Hey cutie" à Pi " et ce sera le cas. vous rejette immédiatement.
Mais ce serait incroyablement respectueux. Si vous commencez à vous plaindre du fait que des immigrants de votre communauté prennent votre emploi, Pi ne vous criera pas dessus et ne vous fera pas signe du doigt. Pi demande et offre son soutien, en essayant de comprendre d'où viennent ces informations et en vous encourageant gentiment à faire preuve d'empathie. Vous savez, c'est une valeur à laquelle je réfléchis depuis 20 ans.
*** Parlez de vos valeurs et souhaitez rendre le monde meilleur, pourquoi ne pas partager comment vous le faites afin que les autres puissent également améliorer leurs modèles ? ***
Suleyman : Eh bien, parce que je suis aussi un pragmatique et que j'essaie de gagner de l'argent. J'essaie de démarrer une entreprise. Je viens de lever 1,5 milliard de dollars et je dois payer pour ces jetons.
Écoutez, l'écosystème open source est en plein essor et fait un excellent travail, et les gens découvrent des astuces similaires. Je suppose toujours que je n'ai que six mois d'avance.
*** Revenons à ce que vous souhaitez réaliser. Les grands modèles de langage constituent clairement la technologie actuelle. Mais pourquoi pariez-vous encore sur eux ? ***
**Suleyman :**La première vague d'IA concernait la classification. Le deep learning montre que nous pouvons entraîner les ordinateurs à classer différents types de données d’entrée : images, vidéo, audio, langage. Nous sommes maintenant dans la vague générative, où vous prenez des données d'entrée et générez de nouvelles données.
La troisième vague sera la phase interactive. C’est pourquoi j’ai longtemps cru que les conversations étaient l’interface du futur. Vous savez, vous parlerez à votre IA au lieu de simplement cliquer sur des boutons et taper.
Ces IA pourront agir. Vous lui donnez simplement un objectif global de haut niveau et il utilisera tous les outils à sa disposition pour atteindre cet objectif. Ils parlent à d’autres personnes, à d’autres IA. C'est ce que nous allons faire avec Pi.
Il s’agit d’un énorme changement que la technologie peut permettre. Il s’agit d’un moment très, très profond dans l’histoire de la technologie que beaucoup de gens sous-estiment, je pense. La technologie d'aujourd'hui est statique. En gros, il fait ce que vous lui dites de faire.
Mais aujourd’hui, la technologie est sur le point de prendre vie. Si vous le lui donnez, il aura potentiellement la liberté d’agir. Nous créons des outils avec ce type d’agence, ce qui constitue véritablement un changement radical dans l’histoire de notre espèce.
***C'est exactement la déclaration qui inquiète beaucoup de gens. Vous voulez donner aux machines une autonomie – une agence – pour influencer le monde, mais nous voulons aussi pouvoir les contrôler. Comment équilibrez-vous ces deux choses ? J'ai l'impression que cela va mettre à rude épreuve la relation. ***
Suleyman : Ouais, c'est un bon point. C'est ce qui rend les gens nerveux.
L’idée est que les humains resteront toujours aux commandes. Il s’agit essentiellement de fixer des limites que l’IA ne peut pas franchir. Et garantir que ces limites créent une sécurité prouvable, du code lui-même à la manière dont il interagit avec d’autres IA (ou humains), en passant par les motivations et les incitations des entreprises qui créent la technologie. Nous devrions comprendre comment les agences indépendantes et même les gouvernements peuvent intervenir directement pour garantir que ces limites ne soient pas franchies.
***Qui fixe ces limites ? Je pense qu'ils doivent être définis au niveau national ou international. Comment sont-ils parvenus à un accord ? ***
Suleyman : Je veux dire, ces problèmes sont actuellement soulevés au niveau international avec toutes sortes de propositions concernant de nouveaux organismes de surveillance. Mais les limites entrent également en jeu au niveau micro. Vous accorderez à votre IA des autorisations limitées pour traiter vos données personnelles, vous fournissant ainsi des réponses à certaines questions mais pas à d'autres.
Dans l’ensemble, je pense que nous devrions être très prudents, voire exclure, certaines capacités dans un avenir proche.
***Par exemple? ***
Suleyman : Je suppose qu'il s'agit d'une sorte de chose récursive d'auto-amélioration. Vous ne voulez pas que votre petite IA démarre et mette à jour son propre code sans votre supervision. Peut-être que cela devrait même être une activité autorisée - vous savez, comme le traitement de l'anthrax ou des matières nucléaires.
Ou bien, nous n’autorisons les drones dans aucun lieu public, n’est-ce pas ? Il s'agit d'une activité autorisée. Vous ne pouvez pas les emmener où vous voulez car ils constituent une menace pour la vie privée des personnes.
Je pense que tout le monde panique parce qu'ils pensent que nous ne pouvons pas réglementer cela. Mais c’est tout simplement absurde. Nous sommes tout à fait capables de le réguler. Nous appliquerons le même cadre qui a fait ses preuves auparavant.
***Mais vous pouvez voir les drones lorsqu'ils sont dans le ciel. Il semble naïf de penser que les entreprises se contenteront de révéler ce qu’elles fabriquent. Cela ne rendrait-il pas la réglementation délicate ? ***
Nous surveillons beaucoup de choses en ligne, n'est-ce pas ? Le nombre de fraudes et d’activités criminelles en ligne est faible. Nous faisons un très bon travail avec le spam. Vous savez, en général, le [problème] avec la vengeance pornographique s'est amélioré, même s'il était plutôt grave il y a trois ou cinq ans. Trouver du contenu radical ou du matériel terroriste en ligne est très difficile. Acheter des armes et de la drogue en ligne est très difficile.
[Toutes les affirmations de Suleyman ne sont pas étayées par des données. La cybercriminalité reste un énorme problème mondial. Selon certaines estimations, les coûts financiers, rien qu’aux États-Unis, ont été multipliés par plus de 100 au cours de la dernière décennie. Des rapports révèlent une économie en plein essor dans le domaine de la pornographie deepfake non consensuelle. De la drogue et des armes sont vendues sur les réseaux sociaux. Même si certaines plateformes en ligne sont contraintes de mieux filtrer les contenus préjudiciables, elles peuvent faire davantage. ]
Internet n’est donc pas un espace non réglementé et indiscipliné. Il est gouverné. L’IA deviendra une autre composante de la gouvernance.
Cela nécessite une combinaison de pressions culturelles, de pressions institutionnelles et de réglementation gouvernementale. Mais cela me rend optimiste de savoir que nous l’avons déjà fait et que nous pouvons le refaire.
***Le contrôle de l’IA deviendra une émanation de la réglementation d’Internet – ce qui est bien plus optimiste que ce que nous avons entendu récemment de la part de certains pessimistes de premier plan. ***
Suleyman : Je suis très optimiste quant aux risques. Il y a beaucoup de choses sombres dans mes livres. J'ai certainement vu ça aussi. Je pense juste qu'il y a quelque chose de risqué là-dedans, c'est une distraction complètement folle. 101 questions plus pratiques dont nous devrions tous discuter, de la confidentialité aux préjugés, de la reconnaissance faciale à la modération en ligne.
Nous devrions recentrer la conversation sur le fait que nous faisons un très bon travail en matière de réglementation de choses extrêmement complexes. Regardez la Federal Aviation Administration : c'est incroyable que nous adoptions tous une réglementation à 40 000 pieds, et c'est l'un des modes de transport les plus sûrs jamais créés. Pourquoi ne faisons-nous pas la fête ? Ou pensez à une voiture : chaque pièce est soumise à des tests de résistance en fin de vie, et vous devez avoir un permis de conduire pour le faire.
Certaines industries, comme les compagnies aériennes, ont déjà fait du bon travail en matière de réglementation. Ils savent que s’ils n’assurent pas la sécurité, tout le monde aura peur et ils perdront des affaires.
Mais il faut aussi une réglementation descendante. Je crois à l’intérêt public, je crois aux avantages de la fiscalité et de la redistribution, je crois au pouvoir de la réglementation. Ce que je demande, c’est que l’État agisse pour résoudre le problème. Compte tenu de l’ampleur des enjeux, il est temps d’agir.
Les références: