La startup xAI d'Elon Musk a limité les fonctionnalités de Grok sur le réseau social X. Suite à un récent scandale, les développeurs ont désactivé la fonction de génération d'images spontanées de personnes réelles.
L'entreprise prend des mesures pour supprimer les contenus problématiques, ainsi que les utilisateurs qui enfreignent les règles de X. Elle signalera aux autorités compétentes toute personne tentant de rechercher de tels contenus.
« Nous avons mis en place des mesures techniques pour empêcher la modification d'images de personnes réelles en tenues suggestives, comme des bikinis, sur un compte Grok. Cette restriction s'applique à tous les utilisateurs, y compris aux abonnés payants », indique le message.
La création et la modification d'images via un compte Grok sur la plateforme X sont désormais réservées aux utilisateurs premium. xAI espère ainsi sanctionner les utilisateurs qui abusent des fonctionnalités du chatbot.
Les développeurs ont présenté ces restrictions comme un complément aux protocoles de sécurité existants et ont annoncé la mise en œuvre de mécanismes de protection supplémentaires.
Un autre scandale
Début janvier, Grok s'est retrouvé au cœur d'un nouveau scandale en raison de sa capacité à créer des images de personnes réelles nues et de mineurs.
L’organisation britannique Internet Watch Foundation a déclaré que ses analystes avaient découvert du « matériel criminel » impliquant des enfants âgés de 11 à 13 ans, probablement créé à l’aide de Grok.
Musk a déclaré n'avoir connaissance d'aucun cas où un chatbot aurait été utilisé pour créer des images de mineurs nus.
Je n'ai connaissance d'aucune image de mineurs nus générée par Grok. Absolument aucune.
Bien évidemment, Grok ne génère pas d'images spontanément, il ne le fait qu'en fonction des demandes des utilisateurs.
Lorsqu'on lui demande de générer des images, il refuse de produire quoi que ce soit d'illégal, conformément à son principe de fonctionnement… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) 14 janvier 2026
« De toute évidence, Grok ne génère pas de contenu spontanément. Il le fait à la demande de l'utilisateur », a souligné l'entrepreneur.
D'après lui, le chatbot refuse de créer du contenu illégal. Cependant, des cas de piratage malveillant sont possibles et peuvent entraîner des conséquences inattendues.
Le 11 janvier, l'autorité de régulation malaisienne a ordonné des restrictions temporaires suite aux « échecs répétés » de X Corp à gérer les risques associés à son service d'IA.
La veille, l'Indonésie avait suspendu l'accès au chatbot pour des raisons similaires et convoqué des représentants de l'entreprise pour discuter du problème.
Les autorités de régulation de l'UE, du Royaume-Uni, du Brésil et de l'Inde ont exigé une enquête sur le rôle de Grok dans la diffusion des deepfakes.
Une coalition de 28 organisations œuvrant pour la protection des droits numériques, des droits des femmes et des droits des enfants a appelé les dirigeants d'Apple et de Google à prendre des mesures et à retirer X et le chatbot des boutiques d'applications.
Pour rappel, en janvier, Grok sera intégré au réseau du Pentagone, aux côtés du moteur d'IA générative de Google.