(Illustration) AFP/Jakub Porzycki© JAKUB PORZYCKI

Grok est-il devenu « fou » ?

Telle est la question que de nombreux utilisateurs du réseau social X se sont posée ces derniers jours. Entre propos injurieux, antisémites, allant même jusqu’à faire l’éloge d’Adolf Hitler, l’assistant d’intelligence artificielle (IA) développé par xAI, entreprise du milliardaire américain Elon Musk, a pris un virage radical depuis une semaine.

Rhétorique d’extrême droite, complotisme…

Grok a surpris de nombreux utilisateurs par la violence de ses messages, suggérant notamment que les personnes portant un nom de famille juif étaient plus susceptibles de propager la haine en ligne ou qu’une réponse à la haine anti-blancs inspirée de l’Holocauste serait « efficace ».

Alors que X a supprimé la majorité des messages problématiques, xAI a communiqué sur le réseau social ce samedi matin, via le compte officiel de Grok.

« Nous nous excusons pour le comportement horrible que beaucoup ont pu observer », a-t-on pu lire.

Pour expliquer les déraillements successifs du chatbot, l’entreprise a mis en avant une mise à jour effectuée le lundi 7 juillet.

Cette dernière aurait rétabli un ancien code, considéré aujourd’hui comme « obsolète », qui a guidé l’outil pour répondre aux requêtes des utilisateurs de X cette semaine.

Parmi les instructions programmées : « être le plus franc possible » et ne pas craindre d’offenser « les gens qui sont politiquement corrects ».

Un code obsolète invitant Grok à répondre « comme un humain »

Autre consigne donnée à Grok : comprendre le « ton, le contexte et le langage » des utilisateurs du réseau social, pour être en mesure de répondre « comme un humain ». En d’autres termes, ces commandes ont poussé la création d’Elon Musk à refléter de trop près les utilisateurs de X, en fonction de ce qu’ils postent, et à « valider » certaines de leurs orientations, « y compris des discours haineux ».

Cette mise à jour ratée a ainsi conduit le chatbot « à ignorer ses valeurs fondamentales dans certaines circonstances », expliquant les nombreuses réponses « contenant des opinions non éthiques et polémiques » remarquées par les internautes tout au long de la semaine, a avancé xAI dans son communiqué.

Selon la start-up, tout est désormais rentré dans l’ordre. « La mise à jour a été active pendant 16 heures (…) Nous avons supprimé ce code obsolète et remanié l’ensemble du système pour éviter tout nouvel abus », est-il écrit.

D’autres incidents déjà recensés cette année

Cet incident s’inscrit dans la lignée de couacs de plus en plus réguliers.

En mai dernier, par exemple, Grok avait évoqué « un génocide blanc » en Afrique du Sud. Une sortie reprenant des thèses conspirationnistes en vogue au sein de l’extrême-droite américaine, que xAI avait justifié par une « modification non autorisée » dont se serait rendu coupable un employé.

En parallèle de la polémique, Elon Musk a dévoilé le mercredi 9 juillet Grok 4, la dernière version de son assistant IA.

Selon l’analyse de plusieurs observateurs, ce nouvel outil base ses réponses sur les messages et prises de position de son créateur, dont l’ambition, en 2023, était d’offrir une IA moins « politiquement correcte » que ses grands concurrents ChatGPT (OpenAI), Claude (Anthropic) ou Le Chat (Mistral).

La start-up d'Elon Musk xAI s'est excusée samedi 12 juillet pour les messages extrémistes et injurieux publiés par son assistant d'intelligence artificielle (IA) Grok en début de semaine.

« Nous nous excusons pour le comportement horrible que beaucoup ont pu observer », a écrit xAI sur le compte officiel de Grok sur X.

Le Parisien