L’Arcom salue l’ouverture par la Commission européenne, ce lundi 26 janvier 2026, d’une enquête visant la fonctionnalité d’intelligence artificielle « Grok » proposée par la plateforme X, menée au titre du règlement sur les services numériques (RSN, ou « DSA » en anglais).
Cette enquête a pour objet d’apprécier les risques systémiques liés à l’usage de cette fonctionnalité, notamment en matière de diffusion de contenus illicites, que les très grandes plateformes en ligne sont dans l’obligation d’évaluer et d’atténuer.
Elle porte en particulier sur les risques liés à la génération et à la diffusion de contenus intimes non consentis, de contenus pédopornographiques, ainsi que d’autres contenus illicites, dont des contenus à caractère antisémite ou raciste, susceptibles de porter gravement atteinte aux droits fondamentaux et à la sécurité des utilisateurs.
L’Arcom salue la réaction rapide et coordonnée au niveau européen à la suite des incidents récemment signalés impliquant Grok, et prend acte de l’annonce faite par X le 14 janvier visant à empêcher la génération d’images dénudées de personnes réelles (« deepfakes »), y compris par des utilisateurs abonnés à des offres payantes.
En tant que coordinateur pour les services numériques pour la France, l’Arcom invite les victimes de diffusion d’images à caractère sexuel non consenties et les témoins de diffusion d’images pédopornographiques générées par la fonctionnalité Grok de X, à se saisir des droits garantis par le RSN en signalant ces contenus illicites à la plateforme, et le cas échéant à lui transmettre les preuves et la description des faits pertinents à recueil-preuves-rsn@arcom.fr.
Les faits en cause pouvant conduire à des poursuites pénales, l’Arcom, qui agit en coordination avec le Parquet de Paris, est susceptible de communiquer à celui-ci les infractions dont elle aurait connaissance.
Les victimes peuvent aussi saisir l’association Point de Contact, signaleur de confiance désigné par l’Arcom qui coopère avec les autorités publiques compétentes.
Martin Ajdari, président de l’Arcom : « La nouvelle enquête de la Commission européenne devra déterminer si la plateforme X a laissé prospérer des images à caractère sexuel non consenties ainsi que des contenus pédopornographiques, en violation de ses obligations au titre du règlement sur les services numériques. Les plateformes accessibles sur le territoire européen ont le devoir de respecter nos règles et de protéger leurs utilisateurs, en particulier les enfants, contre des contenus illicites et préjudiciables. En tant que coordinateur des services numériques (CSN), l’Arcom mobilisera l’ensemble des éléments et preuves dont elle dispose afin d’alimenter l’enquête de la Commission européenne et d’identifier d’éventuels manquements de la plateforme X. »
Cette enquête a pour objet d’apprécier les risques systémiques liés à l’usage de cette fonctionnalité, notamment en matière de diffusion de contenus illicites, que les très grandes plateformes en ligne sont dans l’obligation d’évaluer et d’atténuer.
Elle porte en particulier sur les risques liés à la génération et à la diffusion de contenus intimes non consentis, de contenus pédopornographiques, ainsi que d’autres contenus illicites, dont des contenus à caractère antisémite ou raciste, susceptibles de porter gravement atteinte aux droits fondamentaux et à la sécurité des utilisateurs.
L’Arcom salue la réaction rapide et coordonnée au niveau européen à la suite des incidents récemment signalés impliquant Grok, et prend acte de l’annonce faite par X le 14 janvier visant à empêcher la génération d’images dénudées de personnes réelles (« deepfakes »), y compris par des utilisateurs abonnés à des offres payantes.
En tant que coordinateur pour les services numériques pour la France, l’Arcom invite les victimes de diffusion d’images à caractère sexuel non consenties et les témoins de diffusion d’images pédopornographiques générées par la fonctionnalité Grok de X, à se saisir des droits garantis par le RSN en signalant ces contenus illicites à la plateforme, et le cas échéant à lui transmettre les preuves et la description des faits pertinents à recueil-preuves-rsn@arcom.fr.
Les faits en cause pouvant conduire à des poursuites pénales, l’Arcom, qui agit en coordination avec le Parquet de Paris, est susceptible de communiquer à celui-ci les infractions dont elle aurait connaissance.
Les victimes peuvent aussi saisir l’association Point de Contact, signaleur de confiance désigné par l’Arcom qui coopère avec les autorités publiques compétentes.
Martin Ajdari, président de l’Arcom : « La nouvelle enquête de la Commission européenne devra déterminer si la plateforme X a laissé prospérer des images à caractère sexuel non consenties ainsi que des contenus pédopornographiques, en violation de ses obligations au titre du règlement sur les services numériques. Les plateformes accessibles sur le territoire européen ont le devoir de respecter nos règles et de protéger leurs utilisateurs, en particulier les enfants, contre des contenus illicites et préjudiciables. En tant que coordinateur des services numériques (CSN), l’Arcom mobilisera l’ensemble des éléments et preuves dont elle dispose afin d’alimenter l’enquête de la Commission européenne et d’identifier d’éventuels manquements de la plateforme X. »
