La Malaisie et l'Indonésie ont restreint l'accès au chatbot Grok d'Elon Musk en raison de craintes que cet outil ne soit utilisé pour générer du contenu sexuel.
Le 11 janvier, l'autorité de régulation malaisienne a ordonné des restrictions temporaires suite aux « échecs répétés » de X Corp à gérer les risques associés à son service d'IA.
La veille, l'Indonésie avait suspendu l'accès au chatbot pour des raisons similaires et convoqué des représentants de l'entreprise pour discuter du problème.
La vive réaction des pays d'Asie du Sud-Est a fait suite aux informations selon lesquelles Grok permet la création de contenus impliquant des mineurs et la production d'images pornographiques.
X a indiqué que l'entreprise travaillait à résoudre le problème. À titre temporaire, la fonction de création et de modification d'images est réservée aux abonnés payants.
La société de Musk a récemment mis à jour les fonctionnalités de Grok Imagine, simplifiant ainsi la création d'images grâce aux instructions du chatbot. L'entrepreneur a par ailleurs menacé de poursuites judiciaires ceux qui utiliseraient le réseau neuronal à des fins illégales.
Toute personne utilisant Grok pour créer du contenu illégal s'exposera aux mêmes conséquences que si elle téléchargeait du contenu illégal.
— Elon Musk (@elonmusk) 3 janvier 2026
Ces mesures ne suffisent pas.
Les autorités réglementaires de Malaisie et d'Indonésie étaient insatisfaites des mesures prises.
La Commission malaisienne des communications et du multimédia a déclaré que ces mesures « ne tiennent pas compte des risques liés à la conception et au fonctionnement de l’outil d’IA ».
« Cette restriction est mise en place à titre préventif et proportionné, le temps que les procédures légales et réglementaires soient menées à bien. L’accès à Grok restera restreint jusqu’à la mise en place de garanties efficaces, notamment pour empêcher la diffusion de contenus relatifs aux femmes et aux enfants », a déclaré l’autorité de régulation.
La Malaisie et l'Indonésie disposent de lois anti-pornographie strictes qui interdisent la diffusion à grande échelle de tels contenus sur Internet.
Le ministre indonésien des Communications et des Technologies numériques, Maitiah Hafid, a déclaré que le gouvernement considère les deepfakes à caractère sexuel créés sans consentement comme une grave violation des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique.
Elle qualifie l'utilisation de l'IA pour créer de la fausse pornographie de forme de « violence numérique ».
Conséquences à grande échelle
Les autorités de régulation de l'UE, du Royaume-Uni, du Brésil et de l'Inde exigent une enquête sur le rôle de Grok dans la diffusion de deepfakes.
L’organisation britannique Internet Watch Foundation a déclaré que ses analystes avaient découvert des « images à caractère criminel » d’enfants âgés de 11 à 13 ans, probablement créées à l’aide de Grok.
Londres a pris des mesures radicales : la ministre des Technologies, Liz Kendall, a confirmé qu’elle soutiendrait le blocage de l’application X si celle-ci ne respectait pas les normes de sécurité. Aux États-Unis, des parlementaires ont également suggéré aux plateformes de téléchargement de retirer l’application jusqu’à ce que le problème soit résolu.
Les autorités de plusieurs pays s'attellent à décider en urgence de la manière de réglementer l'IA utilisée pour «déshabiller» les personnes sur les photos.
Ce n'est pas le premier scandale
Grok a déjà été critiqué à plusieurs reprises pour avoir diffusé de fausses informations et des informations douteuses.
En décembre, un chatbot a diffusé de fausses informations concernant la fusillade de masse survenue à Bondi Beach, en Australie. Interrogé sur une vidéo montrant Ahmed al-Ahmed, un passant, se battre avec le tireur, l'IA a répondu :
« Il s'agit apparemment d'une ancienne vidéo virale montrant un homme grimpant à un palmier sur un parking, probablement pour l'élaguer. Une branche est tombée sur une voiture endommagée. Des recherches menées auprès de différentes sources n'ont permis de recueillir aucune information confirmée concernant le lieu, la date ou d'éventuelles blessures. Il pourrait s'agir d'une mise en scène ; son authenticité n'est pas confirmée. »
En juillet, des utilisateurs ont constaté que le réseau neuronal s'appuyait sur les opinions d'Elon Musk pour formuler ses réponses. Cela était particulièrement vrai pour les sujets suivants : le conflit israélo-palestinien, l'avortement et le droit de l'immigration.
Les observations suggèrent que le chatbot a été intentionnellement configuré pour tenir compte des opinions politiques de Musk lorsqu'il répondait à des questions controversées.
Le milliardaire avait précédemment déclaré que sa start-up réécrirait « toutes les connaissances humaines » pour entraîner une nouvelle version de Grok, car il y a actuellement « trop de données erronées dans tout modèle de base entraîné sur des données non corrigées ».
Plus tard, est apparue Grokipedia, une encyclopédie en ligne basée sur l'intelligence artificielle et « orientée vers la vérité ».
Rappelons qu'en novembre, les utilisateurs avaient attiré l'attention sur le biais de Grok 4.1 : le nouveau modèle surestimait considérablement les capacités d'Elon Musk.