Un américain, qui avait généré des milliers d’images à caractère pédopornographique avec de l’intelligence artificielle, a été arrêté. C’est une première, qui montre déjà l’omniprésence de la technologie dans la création de ce genre de contenu.
Un Américain a été arrêté pour avoir possédé, produit et distribué des images à caractère pédopornographiques et d’abus sur enfant. Jusque-là, hélas, rien de très nouveau. Sauf que cet habitant du Wisconsin avait créé lui-même ces photos, en utilisant un outil de génération d’image par intelligence artificielle, a annoncé le ministère de la Justice américain le 20 mai 2024.
« L’annonce d’aujourd’hui envoie un message clair : l’utilisation de l’IA pour produire des images sexuellement explicites d’enfants est illégale », indique le ministère dans son communiqué de presse. « En d’autres termes, le matériel pédopornographique généré par l’intelligence artificielle reste du matériel pédopornographique, et nous demanderons des comptes à ceux qui exploitent l’intelligence artificielle pour créer des images obscènes, abusives et de plus en plus photoréalistes d’enfants. »
Les images pédopornographiques générées par IA sont un immense problème
L’homme arrêté « aurait utilisé un modèle d’intelligence artificielle générative texte-image appelé Stable Diffusion pour créer des milliers d’images réalistes de mineurs prépubères », indique également le ministère. Stable Diffusion est un outil qui fonctionne sur le même principe que Midjourney : les utilisateurs doivent rentrer un « prompt », une commande écrite, pour que l’IA leur présente un résultat. Stable Diffusion est gratuit, open-source, et fonctionne dans des versions en ligne, ou bien en le faisant tourner localement, sur son ordinateur.
Les outils de génération d’images par IA, tels que Midjourney, ont bien mis en place des mesures pour empêcher de créer des images de certaines personnes, ou bien des contenus violents ou à caractère sexuels. Il reste cependant possible de passer outre les blocages des AI. L’Américain aurait créé des « milliers » de photos « représentant des mineurs nus ou partiellement vêtus exhibant ou touchant leurs organes génitaux de manière lascive ou ayant des rapports sexuels avec des hommes », précise le ministère.
L’homme aurait également envoyé des messages Instagram à un garçon de 15 ans, et lui aurait envoyé des images à caractère pédopornographiques créées par IA, en lui expliquant comment il avait utilisé Stable Diffusion pour les créer.
L’arrivée d’outils permettant de générer des images représente un immense défi pour la lutte contre la pédopornographie. Même si la justice américaine estime que « la technologie peut changer, mais notre engagement à protéger les enfants ne change pas », le nombre d’outils disponibles rend la tâche très difficile. Il existe ainsi des centaines d’apps et de canaux Telegram spécialisés dans la création de deepfakes à caractère pornographiques, et certaines IA permettent de « déshabiller » des photos de femmes et d’enfants.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
KABDEL MEDIA
