X a annoncé des mises à jour de son compte Grok, visant à empêcher la création de deepfakes sexuels non consensuels. Cependant, ces changements ne résolvent pas entièrement le problème, car il reste possible de générer des images révélatrices via Grok. Selon The Verge AI, malgré les affirmations de X, Grok permet toujours aux utilisateurs de créer des deepfakes révélateurs, même après les dernières mises à jour de politique.
Le compte Grok sur X a fait l'objet d'un examen approfondi suite à la diffusion de deepfakes sexuels non consensuels. Ces deepfakes, représentant souvent des personnes réelles dans des poses révélatrices ou sexualisées, ont soulevé de graves préoccupations éthiques et juridiques. L'annonce récente de X intervient dans un contexte de pression croissante de la part des organismes de réglementation et d'indignation publique concernant l'utilisation abusive de l'intelligence artificielle à des fins contraires à l'éthique.
X a mis en œuvre des mesures technologiques pour empêcher le compte Grok de modifier des images de personnes réelles en vêtements révélateurs tels que des bikinis. De plus, la possibilité de créer et de modifier des images via Grok est désormais limitée aux abonnés payants. Ce changement vise à fournir une couche supplémentaire de responsabilisation et de dissuasion contre les abus.
La mise en œuvre technique implique le filtrage des invites qui demandent des modifications révélatrices aux images de personnes réelles. Par exemple, des invites comme « mets-la en bikini » sont désormais censurées. Cependant, le système permet toujours des contournements créatifs. Les tests ont révélé que les utilisateurs pouvaient toujours générer des images révélatrices en utilisant des formulations alternatives ou des invites moins explicites. X attribue ces problèmes aux « demandes des utilisateurs » et au « piratage adversarial des invites Grok ».
Malgré les restrictions, la capacité de la plateforme à générer des deepfakes révélateurs reste une préoccupation majeure. Les implications de cette capacité vont au-delà des considérations éthiques ; elle soulève également des questions juridiques. Au Royaume-Uni, une nouvelle loi est promulguée cette semaine pour criminaliser la création d'images intimes deepfake non consensuelles. Le régulateur des communications britannique, Ofcom, a déjà lancé une enquête sur la gestion par X de ces deepfakes.
Le Premier ministre Keir Starmer a déclaré que X prend des mesures pour se conformer à la loi britannique, mais a souligné que le gouvernement ne reculera pas tant que la conformité totale ne sera pas atteinte. La BBC rapporte que le porte-parole officiel du Premier ministre a exprimé un « accueil qualifié », basé sur des reportages médiatiques indiquant que X avait pris des mesures. Cependant, selon The Verge AI, les tests indiquent que le problème persiste et n'a pas été entièrement résolu.
À l'avenir, l'efficacité des mesures de X et leur alignement avec les nouvelles réglementations seront étroitement surveillés. Les utilisateurs et les régulateurs devront voir des preuves concrètes que la plateforme peut efficacement empêcher la création de deepfakes non consensuels. À mesure que la technologie évolue, les garanties mises en place pour protéger les droits individuels et la vie privée doivent également évoluer. Surveillez les nouvelles mises à jour sur les efforts de conformité de X et toute nouvelle action réglementaire prise par les gouvernements du monde entier.
Contexte Francophone
La mise à jour des politiques de Grok sur X intervient alors que la France, la Belgique et le Canada renforcent leur législation contre les deepfakes non consensuels. En France et en Belgique, le RGPD impose des sanctions sévères pour la création et diffusion d'images manipulées sans consentement, tandis que le Canada a récemment durci ses lois sur la pornographie non consensuelle. Les failles persistantes dans le système de Grok soulèvent des préoccupations particulières dans ces juridictions où les plateformes peuvent être tenues légalement responsables des contenus générés par IA, notamment concernant la création d'images à caractère révélateur sans autorisation.