Agence France-Presse
Le régulateur britannique de la sécurité sur internet a annoncé lundi l'ouverture d'une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d'intelligence artificielle Grok.
Des signalements très inquiétants font état de l'utilisation de Grok AI sur X pour créer et partager des images de personnes dénudées – pouvant constituer une atteinte à la pudeur ou de la pornographie – ainsi que des images à caractère sexuel d'enfants pouvant constituer du matériel pédopornographique, indique l'Ofcom dans son communiqué.
De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou de vidéos, ont suscité une vague de protestations dans le monde.
La Malaisie a suspendu dimanche, après l'Indonésie samedi, l'accès à cet assistant.
Recul partiel de X
Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d'images pour les utilisateurs non payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités, avait précisé la plateforme.
Cette désactivation limitée avait suscité l'indignation du Royaume-Uni. Cette mesure transforme simplement une fonctionnalité qui permet la création d'images illégales en un service premium, et constitue une insulte aux victimes de misogynie et de violences sexuelles, avait dénoncé un porte-parole du premier ministre britannique Keir Starmer.
L'Ofcom précise lundi avoir demandé des explications à X la semaine dernière. S'il ne détaille pas la teneur de leurs échanges, le régulateur indique que l'entreprise a répondu dans les délais impartis.
Enquête
Son enquête devra déterminer si X a manqué à ses obligations légales, qui lui imposent notamment d'évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux, de supprimer rapidement les contenus illégaux ou encore d'évaluer les risques que leur service représente pour les enfants britanniques.
Le régulateur a le pouvoir d'imposer des amendes allant jusqu'à 10 % du chiffre d'affaires mondial de l'entreprise visée et peut saisir la justice pour demander un blocage du site au Royaume-Uni.
Certaines des choses que j'ai vues et entendues au sujet des images générées par Grok sont répugnantes et manifestement illégales et j'attends que des mesures soient prises, avait affirmé un peu plus tôt à la presse britannique le ministre des Entreprises Peter Kyle, tout en précisant qu'il appartenait à l'Ofcom de faire appliquer la loi.
Contacté par l'AFP, X n'avait pas répondu dans l'immédiat.
