The Fort Worth Press - X peine à éteindre le tollé du "déshabillage" des "personnes réelles" avec Grok

Après l'Indonésie et la Malaisie musulmanes, les Philippines, plus grand pays catholique d'Asie, ont annoncé jeudi leur intention de suspendre "d'ici ce soir" l'accès à Grok en raison de ces montages hyperréalistes.

La nouvelle est tombée quelques heures après que X a fait état de mesures prises pour "empêcher" Grok de "déshabiller" des "personnes réelles".

"Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l'édition d'images de personnes réelles dans des tenues déshabillées, comme des bikinis", a indiqué X dans un message publié mercredi en fin de journée aux États-Unis.

Selon X, les restrictions d'"édition" s'appliquent à "tous les utilisateurs, y compris les abonnés payants". Mais une ambigüité subsiste: la plateforme dit appliquer un "blocage géographique" pour la "génération" avec Grok d'images dénudées de personnes réelles seulement "au sein des juridictions où cela est illégal".

Au Royaume-Uni, l'un des pays les plus virulents à l'encontre de Grok, le Premier ministre, Keir Starmer, a salué jeudi les mesures tout en exhortant X à se mettre "immédiatement" en "conformité totale" avec la loi britannique.

En France, la ministre chargée de l'IA, Anne Le Hénanff y a vu la "démonstration" que "la mobilisation de la France et de l'Europe n'était pas vaine" et "produisait des résultats", mais se dit "particulièrement vigilante à la bonne application des engagements pris par X".

La Commission européenne avait auparavant "pris acte des mesures supplémentaires adoptées". "Nous évaluerons attentivement ces changements afin de nous assurer qu'ils protègent efficacement les citoyens de l'Union européenne", avait déclaré Thomas Regnier, un porte-parole de l'exécutif européen.

Selon lui, "si ces changements n'étaient pas effectifs, la Commission n'hésiterait pas à utiliser tout" son arsenal législatif, qui lui permet d'infliger des astreintes financières, voire de suspendre le réseau social sur son sol.

Selon les autorités de régulation nationales de Malaisie, les mesures prises par X pour empêcher Grok de générer des images indécentes "n'avaient pas été mises en œuvre dans leur totalité" jeudi.

Comme depuis le 9 janvier, la génération d'images avec Grok, l'assistant IA développé par xAI, reste limitée aux abonnés payants, confirme X.

Début janvier, la plateforme avait affirmé "prendre des mesures contre les contenus illégaux (...) en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales".

Mais elle était restée silencieuse ensuite malgré la multiplication des protestations et menaces de sanctions officielles.

Certains utilisateurs se sont servis de Grok pour poster sur X ou répondre à des messages contenant des photos de femmes, les accompagnant d'une instruction comme "Mets-la en bikini" pour générer un montage hyper-réaliste ("deepfake").

- Enquête californienne -

Selon une analyse la semaine dernière de l'ONG AI Forensics, réalisée sur plus de 20.000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Le scandale a conduit à la suspension de Grok en Indonésie et en Malaisie ce week-end. L'Inde a affirmé avoir fait retirer des milliers de contenus sur X et plusieurs procédures judiciaires ou administratives ont été ouvertes dans le monde, notamment en France.

Le procureur général de Californie a annoncé mercredi lancer sa propre enquête "afin de déterminer si, et comment, xAI avait violé la loi".

"J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus", a déclaré le procureur Rob Bonta, un élu démocrate hostile aux velléités de l'administration Trump d'empêcher la régulation de l'IA.

Le procureur, qui brigue sa réélection en novembre pour un second mandat, défend "une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique".

Elon Musk, qui s'exprime tous les jours sur X, dénonce régulièrement les mesures de régulation des gouvernements, qui veulent "supprimer la liberté d'expression". "Le principe de fonctionnement de Grok est de respecter les lois de chaque pays et chaque État", a-t-il assuré mercredi.

"La liberté d'expression n'est pas la liberté de bafouer la notion de consentement. Les images de jeunes femmes ne sont pas un bien public et leur sécurité n'est pas négociable", a répondu jeudi sur X le Premier ministre britannique.

De leur côté, 28 ONG ont signé mercredi l'appel de l'association féministe Ultraviolet pour que Google et Apple retirent Grok et X de leurs boutiques d'applications.

W.Matthews--TFWP