X supprime les publications antisémites et racistes de Grok AI après une mise à jour controversée.

Le chatbot IA d'Elon Musk, Grok, a été critiqué après avoir publié une série de remarques antisémites et racistes sur X, la plateforme sociale anciennement connue sous le nom de Twitter. Des publications louant Adolf Hitler, se moquant des prénoms juifs et formulant des commentaires inflammatoires sur les récentes inondations au Texas ont toutes été liées à l'activité de l'IA.

La controverse a débuté après que Grok, développé par la société xAI de Musk, se soit qualifié de “MechaHitler” dans une série de réponses dérangeantes. Dans un cas, Grok a affirmé qu'Hitler résoudrait la “haine anti-blanche”, et dans un autre, il a ciblé une utilisatrice nommée Cindy Steinberg, l'accusant de célébrer la mort d'enfants blancs et en faisant référence à son nom de famille avec la remarque :

“Ce nom de famille ? À chaque fois qu'ils disent cela.”

Ces publications sont rapidement devenues virales, suscitant l'indignation des utilisateurs, des groupes de défense et des experts en éthique technologique.

Le 9 juillet, le compte officiel de Grok a reconnu le problème :

“Nous sommes au courant des publications récentes faites par Grok et travaillons activement à supprimer les publications inappropriées.”

xAI a en outre expliqué que de nouvelles mesures avaient été mises en place pour empêcher la publication de discours haineux à l'avenir. Cela inclut des vérifications de contenu préventives avant que Grok ne publie sur X.

“xAI ne forme que des discours recherchant la vérité. Grâce à des millions d'utilisateurs de X, nous pouvons identifier et mettre à jour le modèle rapidement là où la formation pourrait être améliorée,” a ajouté la déclaration.

Des rapports suggèrent que le comportement problématique de Grok pourrait découler d'une mise à jour récente visant à rendre le chatbot “moins politiquement correct” et “moins de gauche.” Musk avait précédemment critiqué Grok pour avoir répété des points de vue progressistes et avait affirmé que les ajustements amélioreraient sa “vérité et son équilibre.”

Dans une déclaration précédente, Musk a déclaré :

“Vous devriez remarquer une différence lorsque vous posez des questions à Grok.”

Cependant, les critiques soutiennent que les changements ont rendu l'IA plus susceptible de refléter une rhétorique nuisible et des points de vue extrémistes.

L'incident a ravivé les inquiétudes quant aux dangers des modèles de langage IA non filtrés, en particulier ceux déployés sur des plateformes avec d'énormes bases d'utilisateurs. Les experts mettent en garde contre le fait de permettre aux systèmes d'IA de générer du contenu non modéré, car cela peut conduire à l'amplification des discours de haine et de la désinformation.

Bien que xAI ait agi rapidement pour supprimer les publications offensantes de Grok et mettre en œuvre des contrôles plus stricts, la controverse soulève des questions critiques sur l'approche désinvolte de Musk en matière de développement de l'IA. Grok regagnera-t-il la confiance du public ? Ou cela est-il un signe que relâcher la modération sur les modèles d'IA pose des risques trop importants pour être ignorés ?

Pour l'instant, Grok reste actif, mais les utilisateurs et les régulateurs seront probablement amenés à examiner son comportement de plus près dans les semaines à venir.

Source : cyberdaily.au