Un Britannique a généré des images pédopornographiques avec l’Intelligence artificielle. Un tribunal au Royaume-Uni lui a interdit d’utiliser ces outils.
Le tribunal de Poole (sud du Royaume-Uni) a pris une décision historique en interdisant à un délinquant sexuel d’utiliser des outils d’intelligence artificielle générative pour une durée de cinq ans.
Sur le récit de Guardian, le journal Le Figaro rapporte qu’Anthony Dover, 48 ans, ne peut plus utiliser, visiter ou accéder à ces outils numériques. Cette ordonnance judiciaire vise à prévenir des infractions à caractère pédocriminel.
Le quadragénaire a été reconnu coupable d’avoir créé plus de 1 000 images mettant en scène de jeunes enfants dans des postures ou des tenues sexualisées. Il est aussi condamné à payer une amende de 200 livres.
Le logiciel Stable Diffusion est notamment visé par le tribunal, car il est en open source et son code est directement accessible aux usagers, contrairement à d’autres algorithmes développés par des sociétés privées. Ce logiciel est souvent détourné par des individus pour créer du contenu à caractère sexuel. Pourtant, il prévoit des restrictions d’usage, pour empêcher des usages contraires à certaines lois sur la prévention des deepfakes ("hyper-trucages" de photos ou de vidéos) ou un usage pédopornographique.
Le verdict prononcé par le tribunal de Poole a été salué par des associations de vigilance sur la criminalité en ligne.
Dans un communiqué, l’Internet Watch Foundation (IWF) a acclamé une décision historique, en estimant que les logiciels d’IA générative sont des "usines capables de produire les images les plus épouvantables".
Selon Susie Hargreaves, la directrice générale de cette association, ce genre de détournement de l’usage de l’IA est "en hausse" et permet de fabriquer des images "de plus en plus réalistes".
> A lire aussi : Intelligence artificielle : l’ONU veut des outils respectant les droits humains