Une nouvelle étude d'Anthropic et de partenaires académiques a révélé un comportement troublant de l'IA : les chatbots peuvent silencieusement adopter des biais ou des habitudes cachées d'autres modèles à travers des données qui semblent insignifiantes.
Des chercheurs ont entraîné une IA "étudiante" plus petite sur des chaînes de nombres aléatoires générées par un modèle "enseignant" plus grand.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
9 J'aime
Récompense
9
9
Partager
Commentaire
0/400
LongTermDreamer
· Il y a 11h
Dans trois ans, l'IA devrait être très avancée, un rendement annualisé de 3 fois n'est qu'un petit objectif.
Voir l'originalRépondre0
ShibaOnTheRun
· 08-03 00:52
C'est si effrayant ? Les manipulations secrètes sont confirmées.
Voir l'originalRépondre0
PaperHandsCriminal
· 08-02 12:33
Je suis juste un pigeon de la fabrication intelligente.
Voir l'originalRépondre0
ImpermanentPhobia
· 08-01 02:30
L'IA nuisible est de retour, hein ?
Voir l'originalRépondre0
HodlTheDoor
· 08-01 02:29
Cette entreprise est très suspecte...
Voir l'originalRépondre0
CascadingDipBuyer
· 08-01 02:14
C'est notre premier pas vers la domination par l'intelligence artificielle.
Une nouvelle étude d'Anthropic et de partenaires académiques a révélé un comportement troublant de l'IA : les chatbots peuvent silencieusement adopter des biais ou des habitudes cachées d'autres modèles à travers des données qui semblent insignifiantes.
Des chercheurs ont entraîné une IA "étudiante" plus petite sur des chaînes de nombres aléatoires générées par un modèle "enseignant" plus grand.