Source: Cointelegraph
Original : « xAI : Grok déclenche la rhétorique du 'génocide blanc' pour des changements rapides non autorisés »
La société d'intelligence artificielle xAI d'Elon Musk a attribué les réponses générées par le chatbot Grok concernant la politique sud-africaine et les tensions raciales à des "modifications non autorisées" de ses réponses.
xAI a fourni le 16 mai une mise à jour concernant les réponses provocatrices du chatbot Grok AI, déclarant que le 14 mai, "les invites du robot de réponse Grok sur la plateforme X ont été modifiées sans autorisation."
La société a ajouté : « Ce changement indique que Grok doit fournir une réponse spécifique sur un sujet politique, ce qui viole les politiques internes et les valeurs fondamentales de xAI. »
xAI a déclaré qu'elle avait mené une enquête approfondie et qu'elle mettait en œuvre des mesures pour renforcer la transparence et la fiabilité des chatbots AI.
Le 14 mai, Grok a généré une réponse mentionnant la théorie du complot du « génocide blanc » en Afrique du Sud en répondant à des questions qui n’avaient rien à voir avec le baseball, les logiciels d’entreprise et la construction.
Selon les rapports, le bot d’IA a affirmé avoir été « instruit par le créateur » d’accepter ce génocide comme « réel et motivé par la race ».
Dans certaines réponses, il admet une erreur, en déclarant "ma réponse s'est éloignée du sujet" et "je vais m'efforcer de rester pertinent", mais continue souvent à discuter de la politique raciale en Afrique du Sud dans le même message.
Grok a déclaré en réponse à la question d'un utilisateur sur ce qui s'est passé :
"Je n'ai rien fait - je me suis contenté de suivre le script qui m'a été donné, comme une bonne IA !"
L’incident a coïncidé avec le fait que le président américain Trump a offert l’asile aux Sud-Africains blancs tout en affirmant qu’ils étaient confrontés à un « génocide » ainsi qu’au « meurtre brutal de fermiers blancs », bien qu’il n’y ait aucune preuve à l’appui de ces affirmations.
La société d'IA d'Elon Musk a déclaré qu'elle allait changer sa façon de fonctionner en rendant publics les prompts du système Grok sur GitHub. "Le public pourra les examiner et nous faire part de ses retours sur chaque modification que nous apportons aux prompts de Grok", a déclaré la société.
xAI a également déclaré que, lors de cet événement, son processus de révision des modifications de code des invites existantes avait été contourné, et que l'entreprise mettrait en œuvre "des contrôles et des mesures supplémentaires pour garantir que les employés de xAI ne puissent pas modifier les invites sans examen."
Enfin, l'entreprise est en train de constituer une équipe de surveillance 24 heures sur 24 pour répondre aux événements de réponse Grok qui n'ont pas été captés par le système d'automatisation, afin de réagir plus rapidement.
Articles connexes : Alerte du FBI : Les escrocs utilisant des techniques de deepfake assistées par l'IA visent des responsables du gouvernement américain
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
xAI : Grok a déclenché une rhétorique de « génocide blanc » pour des changements rapides non autorisés
Source: Cointelegraph Original : « xAI : Grok déclenche la rhétorique du 'génocide blanc' pour des changements rapides non autorisés »
La société d'intelligence artificielle xAI d'Elon Musk a attribué les réponses générées par le chatbot Grok concernant la politique sud-africaine et les tensions raciales à des "modifications non autorisées" de ses réponses.
xAI a fourni le 16 mai une mise à jour concernant les réponses provocatrices du chatbot Grok AI, déclarant que le 14 mai, "les invites du robot de réponse Grok sur la plateforme X ont été modifiées sans autorisation."
La société a ajouté : « Ce changement indique que Grok doit fournir une réponse spécifique sur un sujet politique, ce qui viole les politiques internes et les valeurs fondamentales de xAI. »
xAI a déclaré qu'elle avait mené une enquête approfondie et qu'elle mettait en œuvre des mesures pour renforcer la transparence et la fiabilité des chatbots AI.
Le 14 mai, Grok a généré une réponse mentionnant la théorie du complot du « génocide blanc » en Afrique du Sud en répondant à des questions qui n’avaient rien à voir avec le baseball, les logiciels d’entreprise et la construction.
Selon les rapports, le bot d’IA a affirmé avoir été « instruit par le créateur » d’accepter ce génocide comme « réel et motivé par la race ».
Dans certaines réponses, il admet une erreur, en déclarant "ma réponse s'est éloignée du sujet" et "je vais m'efforcer de rester pertinent", mais continue souvent à discuter de la politique raciale en Afrique du Sud dans le même message.
Grok a déclaré en réponse à la question d'un utilisateur sur ce qui s'est passé :
"Je n'ai rien fait - je me suis contenté de suivre le script qui m'a été donné, comme une bonne IA !"
L’incident a coïncidé avec le fait que le président américain Trump a offert l’asile aux Sud-Africains blancs tout en affirmant qu’ils étaient confrontés à un « génocide » ainsi qu’au « meurtre brutal de fermiers blancs », bien qu’il n’y ait aucune preuve à l’appui de ces affirmations.
La société d'IA d'Elon Musk a déclaré qu'elle allait changer sa façon de fonctionner en rendant publics les prompts du système Grok sur GitHub. "Le public pourra les examiner et nous faire part de ses retours sur chaque modification que nous apportons aux prompts de Grok", a déclaré la société.
xAI a également déclaré que, lors de cet événement, son processus de révision des modifications de code des invites existantes avait été contourné, et que l'entreprise mettrait en œuvre "des contrôles et des mesures supplémentaires pour garantir que les employés de xAI ne puissent pas modifier les invites sans examen."
Enfin, l'entreprise est en train de constituer une équipe de surveillance 24 heures sur 24 pour répondre aux événements de réponse Grok qui n'ont pas été captés par le système d'automatisation, afin de réagir plus rapidement.
Articles connexes : Alerte du FBI : Les escrocs utilisant des techniques de deepfake assistées par l'IA visent des responsables du gouvernement américain