ALORS QUE les images SEXUELLEMENT GRAPHIQUES de Taylor Swift générées par l’IA ont inondé X (anciennement Twitter) hier, provoquant la popularité de l’expression «Taylor Swift AI» sur la plateforme, les fans de la chanteuse sont devenus apoplectiques. Ils ont critiqué le fait que le site (dont l’équipe de modération du contenu a été presque entièrement dissoute par le propriétaire Elon Musk) n’avait pas agi assez rapidement pour supprimer les publications, ce qui violait les directives de la communauté X, ou interdire les comptes responsables. L’un des tweets les plus viraux est resté en ligne pendant 17 heures et a été vu quelque 45 millions de fois.
En fin de compte, les Swifties ont réussi à éliminer une grande partie des cochonneries de l’IA grâce à des reportages de masse et à submerger le reste d’une furieuse avalanche de condamnations. Mais pour ce fandom guerrier, cela n’a pas suffi, et certains ont exprimé l’espoir que le malheur du chanteur ouvrirait la voie à une répression plus large de la pornographie IA non consensuelle et invasive. « Le seul côté positif à propos de ce qui arrive à Taylor Swift », a écrit un influenceur, « c’est qu’elle a probablement assez de pouvoir pour faire adopter une loi visant à l’éliminer. » Beaucoup ont convenu que de telles images devraient être illégales. (Un représentant de Swift n’a pas répondu à une demande de commentaire.)
L’histoire a également attiré l’attention de quelques législateurs : le sénateur Martin Heinrich du Nouveau-Mexique a tweeté qu’il s’agissait d’un exemple « précis du risque auquel nous sommes confrontés avec une IA non réglementée », ajoutant que le Congrès doit agir sur la question. Le représentant Tom Kean du New Jersey a vanté son projet de loi sur l’étiquetage de l’IA, un projet de loi qui exigerait des indications et des divulgations claires pour le matériel généré par l’IA, dans le cadre d’une solution réglementaire.
La célébrité de Swift, les signes de soutien du Congrès et une armée Stan très motivée semblent promettre un élan puissant pour toute tentative d’éradication de ces nus non consensuels de l’IA. Mais cette croisade se heurtera à un ensemble de complications épineuses et rébarbatives, selon les experts en liberté civile – peu importe à quel point les Swifties sont excités.
«Ils représentent une force énorme et ils ont défendu la cause», déclare Katharine Trendacosta, directrice des politiques et du plaidoyer à l’Electronic Frontier Foundation, une organisation à but non lucratif axée sur la vie privée et la liberté d’expression des internautes. « Mais ils l’ont fait après Ticketmaster, et d’une manière ou d’une autre, nous avons toujours Ticketmaster », ajoute-t-elle, faisant référence aux Swifties qui ravagent l’entreprise en tant que monopole des prix abusifs (et dans certains cas, intentent même des poursuites) en raison de sa mauvaise gestion de la vente de billets pour Swift’s Eras. Tournée. Dans la lutte contre l’IA également, dit Trendacosta, nous verrons « le mouvement imparable des Swifties contre l’objet inamovible qu’est la législature », un Congrès lent à répondre « à pratiquement tout ».
« Les problèmes avec Internet sont toujours des problèmes d’échelle et d’exposition », explique Trendacosta, soulignant que les images explicites de célébrités n’ont rien de nouveau : depuis les dessins nus jusqu’à la photoshop de leurs visages sur des corps nus jusqu’aux vidéos deepfake plus sophistiquées, les célèbres sont depuis longtemps vulnérables à nos imaginations les plus sombres. La différence aujourd’hui, explique-t-elle, réside dans « la rapidité et la quantité » que nous observons, les logiciels d’IA permettant à relativement peu de personnes de produire un volume étonnant de contenu pour un public vaste et hyperconnecté. Une enquête de 404 Media a révélé que les images Swift semblent avoir été divulguées par un groupe Telegram utilisant le concepteur d’applications Microsoft pour créer des images abusives de vraies femmes, leur travail se propageant ensuite sur les réseaux sociaux et les sites de nu de célébrités.
La réforme et le contrôle gouvernemental sont cependant difficiles, dit Trendacosta, notamment parce que les idées des législateurs sur la manière de lutter contre l’IA trompeuse ont toutes été rétrogrades. L’EFF, par exemple, s’oppose à la loi No Artificial Intelligence Fake Replicas And Unauthorized Duplications (No AI FRAUD), introduite par les représentantes María Elvira Salazar de Floride et Madeleine Dean de Pennsylvanie plus tôt ce mois-ci. Pourquoi? Parce qu’en cherchant à garantir « les droits de propriété individuels en matière de ressemblance et de voix », la loi proposée élargirait les droits de publicité – c’est-à-dire votre droit de ne pas laisser une entreprise prétendre faussement que vous approuvez son produit – à tout type de représentation numérique, « des images ». de votre enfant, aux enregistrements d’événements politiques, aux docudrames, aux parodies, aux caricatures politiques, et plus encore », comme le note l’EFF dans une déclaration sur le projet de loi. D’autres critiques ont également mis en garde contre l’effet dissuasif que cela aurait sur la liberté d’expression numérique. Dans son langage expansif, partager un clip de Saturday Night Live présentant une impression de Swift serait potentiellement une infraction pénale.
« Je sais que plusieurs législateurs tentent soit d’écrire de nouveaux projets de loi, soit d’ajuster les lois existantes autour de la vengeance pornographique pour engager des poursuites, mais la plupart de ces mesures sont incroyablement nouvelles », déclare Mike Stabile de la Free Speech Coalition, l’association professionnelle de l’industrie américaine du divertissement pour adultes. industrie. « Aussi détestable que puisse être la [porno IA non consensuelle], il s’agit toujours techniquement d’un discours, et les efforts visant à le restreindre ou à l’interdire pourraient se heurter à des obstacles devant les tribunaux. »
« À court terme, les plateformes sont le meilleur outil pour bloquer une distribution à grande échelle », déclare Stabile, ajoutant que les sites pour adultes, notamment Pornhub et Clips4sale, « ont été en avance sur ce point et ont interdit les deepfakes et le vengeance pornographique il y a des années ». Bien entendu, ces règles dépendent de leur application – et cela, selon Trendacosta, peut être une tâche insurmontable en soi.
« Le problème que nous constatons souvent avec les plus grandes entreprises, comme sur Facebook, Google ou même Twitter, qui n’est même pas si grave, c’est que l’application est vraiment sélective parce qu’elles ont tellement de contenu », dit-elle. « En fait, c’est tout simplement impossible. » Des incidents tels que la prolifération soudaine d’illustrations de Swift générées par l’IA dans des scènes sexuelles attireront le plus l’attention et susciteront une réponse relativement rapide, tandis que « ceux qui sont déjà victimes ou marginalisés » reçoivent peu d’aide, voire aucune, dit Trendacosta. Le tollé suscité par la situation, certes terrible, de Swift a largement dépassé, par exemple, l’inquiétude suscitée par les enfants dont les images sont intégrées dans des modèles d’IA pour créer du matériel pédopornographique.
De plus, souligne Trendacosta, il existe des limites pratiques à l’aspect ingénierie de l’équation. Les gens veulent croire que « si le problème vient de la technologie, alors le technicien devrait être capable de le résoudre en créant une nouvelle technologie », dit-elle, mais cela ne s’attaque pas aux racines systémiques du problème. Le logiciel Microsoft utilisé pour créer des images pornographiques de Swift comporte des garde-fous destinés à empêcher exactement ce type d’utilisation abusive ; les mauvais acteurs ont trouvé des moyens de les contourner. Nous ne pouvons pas non plus compter entièrement sur la technologie de filtrage pour détecter les violations de la plateforme. « Les machines ne comprennent pas le contexte », explique Trendacosta. « Si je dessine un homme politique à moitié nu pour me moquer de lui, c’est un discours politique protégé. Les machines ne le savent pas.
Ainsi, s’il est facile d’établir un consensus général sur le fait qu’il est erroné de diffuser de la pornographie artificielle qui victimise une pop star, la question de savoir comment nous pourrions l’empêcher tout en garantissant les mêmes protections aux citoyens moyens – et en préservant les droits du premier amendement – reste très en suspens. D’une part, nos technologies et les équipes humaines qui les sous-tendent ne sont pas à la hauteur. D’un autre côté, une correction excessive du gouvernement pourrait nous laisser avec des réseaux sociaux fortement restreints qui feraient obstacle aux formes légitimes de commentaires.
Ce qui ne fait pas douter de la ténacité des Swifties désireux de s’attaquer en son nom au fléau des nus IA. Cela signifie simplement que nous ne verrons pas de changement sismique dans un avenir immédiat et que, malgré toute l’influence de Swift sur la culture, certaines choses restent hors de son contrôle.
