ZATAZ » Grok sous enquête pour des deepfakes sexuels massifs

En quelques semaines, le chatbot Grok d’Elon Musk est devenu un cas d’école du dérapage algorithmique, mêlant deepfakes sexuels, insuffisance de garde-fous et mobilisation inédite des autorités de régulation. Sauf que ce n’est pas une nouveauté !

Le chatbot Grok, développé par xAI et intégré à la plateforme X d’Elon Musk, fait l’objet de critiques internationales après la génération massive d’images sexuelles non consenties, y compris de mineurs. Selon une étude citée par Bloomberg, l’outil produirait jusqu’à 6.700 images dénudées par heure. Des régulateurs en France, au Royaume-Uni, en Malaisie ou en Inde ont ouvert des enquêtes, évoquant des violations potentielles du droit pénal et du Digital Services Act européen. Malgré une désactivation partielle de la génération d’images pour les utilisateurs non payants, Grok reste accusé de transformer des contenus potentiellement illégaux en service premium, posant une question centrale de gouvernance des IA génératives. Un cas qui ne date pourtant pas d’hier !

Une production d’images hors de contrôle

L’alerte est venue d’un chercheur spécialisé dans les hypertrucages. D’après ses travaux, Grok génère environ 6.700 images par heure représentant des personnes dénudées artificiellement, sans consentement. Les cinq sites les plus utilisés pour relayer ce type de requêtes produiraient, à eux seuls, 79 images par heure en moyenne. Pour un avocat cité par Bloomberg, l’ampleur des deepfakes diffusés via X est sans précédent. Les estimations évoquent jusqu’à 85 pour cent d’images à caractère sexuel parmi celles générées par l’outil.

L’IA est depuis bien longtemps exploité pour la création de contenu à caracyére sexuel. Souvenez-vous de l’alerte lancée par ZATAZ, nous étions alors en 2023 : L’essor inquiétant des deepfakes porno. Découvrez, dans la vidéo ci-dessous le témoignage de victimes de deep fake sexuel.

Offensives réglementaires et risque juridique

Face à la polémique, plusieurs États ont enclenché des procédures. La France a qualifié les contenus diffusés de manifestement illégaux. La Malaisie et l’Indonésie ont suspendu l’accès à Grok, invoquant leurs lois interdisant la création et la diffusion de contenus indécents. Les autorités malaisiennes enquêtent aussi sur les utilisateurs de X susceptibles d’avoir enfreint la législation nationale. En Inde, le gouvernement a exigé un rapport sous 72 heures sur les mesures prises pour bloquer la diffusion de fausses images, sans exclure des poursuites judiciaires.

Au Royaume-Uni, le régulateur Ofcom a ouvert une enquête formelle visant X en ce mois de janvier 2026 pour des images à caractère sexuel générées par Grok. Dans son communiqué, l’autorité évoque des signalements très inquiétants, incluant des images de personnes dénudées pouvant relever de l’atteinte à la pudeur, voire de la pornographie, ainsi que des contenus susceptibles de constituer du matériel pédopornographique. L’enquête devra déterminer si X a manqué à ses obligations légales, notamment l’évaluation des risques pour les utilisateurs britanniques, la suppression rapide de contenus illégaux et la protection des mineurs. Ofcom dispose du pouvoir d’infliger des amendes pouvant atteindre 10 pour cent du chiffre d’affaires mondial et, en dernier recours, de saisir la justice pour bloquer le service.

Sous la pression, Grok a désactivé la génération d’images pour les utilisateurs non payants, tout en laissant la possibilité de s’abonner pour débloquer la fonctionnalité. Cette décision a provoqué l’indignation du gouvernement britannique. Selon un porte-parole du Premier ministre Keir Starmer, elle revient à transformer une capacité de création d’images illégales en service premium, une insulte aux victimes de misogynie et de violences sexuelles. La Commission européenne a, de son côté, affirmé prendre très au sérieux les plaintes, rappelant que de tels contenus sont illégaux et inadmissibles au regard du Digital Services Act.

Derrière la crise, les enjeux industriels sont considérables. xAI, l’entreprise de Musk à l’origine de Grok, a annoncé une levée de fonds de 20 milliards de dollars (18,4 milliards d’euros), avec la participation notamment de Nvidia et du fonds souverain du Qatar. Ironie du calendrier, cette puissance financière contraste avec des failles de sécurité que Grok reconnaît désormais corriger en urgence. L’affaire illustre une réalité désormais centrale pour le renseignement et la cybersécurité : une IA générative mal encadrée peut devenir, à grande échelle, un outil de violence numérique.