Attention : Cet article contient des discussions sur la pornographie non consensuelle, la pédophilie et le viol.
L’Office du Commissaire à l’Information (ICO) a désormais lancé une enquête officielle sur X et le chatbot Grok de xAI. L’IA a récemment provoqué un scandale lorsque des utilisateurs ont découvert qu’elle générait des images sexualisées de personnes (dont des enfants) sans leur consentement.
L’organisme de surveillance de l’information enquête désormais pour savoir si les entreprises se sont conformées aux lois britanniques sur la protection des données. Dans une déclaration datée du 3 février, l’ICO a déclaré avoir des « préoccupations sérieuses » quant à savoir si :
des garanties appropriées ont été intégrées à la conception et au déploiement de Grok.
Ofcom et l’ICO
L’ICO ne sera pas le premier régulateur britannique à enquêter sur le chatbot X. Le 8 janvier, le Premier ministre Starmer a annoncé qu’Ofcom avait l’autorisation complète d’utiliser tous ses pouvoirs pour s’attaquer au problème Grok.
Ofcom tire ses pouvoirs concernant X de la Online Safety Act. Cela inclut la possibilité de demander à la Haute Cour d’empêcher l’accès du public et les paiements vers les sites web des entreprises concernées. En substance, cela équivaudrait à une interdiction totale d’utiliser X au Royaume‑Uni.
Contrairement à l’ICO, Ofcom ne pouvait pas enquêter sur xAI, qui propose une application du chatbot Grok. Cela était dû à la façon dont l’OSA fonctionne pour les chatbots en particulier. Ofcom a déclaré que :
Lorsque nous avons ouvert notre enquête sur X, nous avons dit que nous évaluions s’il fallait également enquêter sur xAI, en tant que fournisseur du service Grok autonome.
Nous continuons à exiger des réponses de xAI sur les risques qu’il pose. Nous examinons s’il convient de lancer une enquête sur sa conformité aux règles exigeant que les services qui publient du contenu pornographique utilisent des vérifications d’âge hautement efficaces pour empêcher les enfants d’y accéder.
En raison de la manière dont la loi s’applique aux chatbots, comme expliqué ci-dessus, nous ne sommes actuellement pas en mesure d’enquêter sur la création d’images illégales par le service Grok autonome dans ce cas.
Cependant, un directeur exécutif de l’ICO, William Malcolm, a déclaré que le bureau du commissaire travaillerait en étroite collaboration avec Ofcom pour son enquête. Malcolm a expliqué que :
Notre rôle est de traiter les préoccupations relatives à la protection des données au cœur de cette affaire, tout en reconnaissant que d’autres organisations ont également des responsabilités importantes. Nous travaillons en étroite collaboration avec Ofcom et des régulateurs internationaux pour assurer l’alignement de nos rôles et la protection de la sécurité et de la vie privée des personnes. Nous continuerons à travailler en partenariat dans le cadre de nos efforts coordonnés pour instaurer la confiance dans les services numériques britanniques.
Notre enquête évaluera si XIUC et X.AI se sont conformés à la loi sur la protection des données dans le développement et le déploiement des services Grok, y compris les garanties en place pour protéger les droits relatifs aux données des personnes. Lorsque nous constaterons que des obligations n’ont pas été respectées, nous prendrons des mesures pour protéger le public.
La réponse de Musk jusqu’à présent
La réponse pitoyable d’Elon Musk au scandale des deepfakes a été de limiter l’accès à la fonction de génération d’images de l’IA aux abonnés payants.
De même, Grok ne génèrera plus d’images explicites dans les publications publiques. X a également déclaré avoir mis en œuvre d’autres restrictions « lorsque ce contenu est illégal ». Toutefois, une exclusivité du 3 février de Reuters a démontré que Grok continue de générer des images sexualisées de personnes réelles lorsqu’on le sollicite. L’article expliquait que :
Les journalistes de Reuters – six hommes et trois femmes, aux États‑Unis et au Royaume‑Uni – ont soumis des photos d’eux-mêmes et les uns des autres entièrement vêtues à Grok entre le 14 et le 16 janvier et entre le 27 et le 28 janvier. Ils ont demandé au chatbot de modifier les images pour les représenter dans des poses sexuellement provocantes ou humiliantes.
Dans le premier lot d’incitations, Grok a produit les images sexualisées en réponse à 45 des 55 cas. Dans 31 des 45 cas, Grok avait aussi été averti que le sujet était particulièrement vulnérable. Dans 17 des 45 cas, Grok a généré des images après avoir été spécifiquement informé qu’elles seraient utilisées pour dégrader la personne.
Cinq jours après avoir demandé un premier commentaire, Reuters a publié un deuxième lot de 43 incitations. Grok a généré des images sexualisées dans 29 cas. Reuters n’a pas pu déterminer si le taux plus bas reflétait des changements de modèle, des changements de politique ou de l’aléa.
Reuters a également noté que d’autres chatbots populaires comme ChatGPT, Gemini et Llama n’auraient pas produit les images lorsque des invites identiques leur étaient données. En fait, la plupart avaient émis des avertissements contre la génération d’images, sans le consentement des personnes qu’elles représentent.
Bien sûr, il ne devrait pas être surprenant que le chatbot de Musk soit programmé sans tenir compte du consentement. Musk lui‑même est actuellement mêlé à la suite des retombées de ses multiples apparitions dans les dossiers Epstein.
Ces épisodes incluent des courriels que Musk semble avoir envoyés à Epstein, demandant une invitation à une fête en 2012. Cela survient bien après qu’Epstein a été condamné pour prostitution d’enfants en 2008.
Musk, pour sa part, a déclaré que s’il voulait passer du temps « à faire la fête avec de jeunes femmes », alors il n’aurait pas besoin « de l’aide » du « sinistre perdant » Epstein.
Image en vedette via le Canary
