L’App Store héberge des générateurs d’images sexuelles, malgré ses propres règles
L'intelligence artificielle générative a entraîné l'apparition de nouvelles pratiques, dont la production d'images modifiées à partir de visages réels dans des contextes sensibles. Un rapport du Tech Transparency Project indique que certaines…
L'intelligence artificielle générative a entraîné l'apparition de nouvelles pratiques, dont la production d'images modifiées à partir de visages réels dans des contextes sensibles. Un rapport du Tech Transparency Project indique que certaines applications disponibles sur l'App Store peuvent générer des images dénudées à partir de simples portraits.
Applications de deepfake sur l'App Store
Le rapport identifie 47 applications iOS capables de produire des images à caractère sexuel. Contrairement à d'autres outils détournés de leur objectif initial, ces applications sont conçues pour générer de tels contenus. Certaines applications affichent dès leur ouverture des effets simulant le déshabillage ou accentuant des parties du corps.
Les données d'AppMagic montrent que ces applications ont été téléchargées plus de 700 millions de fois et ont généré près de 117 millions de dollars. Apple perçoit une part sur chaque transaction, ce qui pose un problème de conformité avec ses propres règles internes. Une application mentionnée dans le rapport avait une classification "9+" malgré la nature explicite des images qu'elle permettait de générer.
L'intelligence artificielle générative a entraîné l'apparition de nouvelles pratiques, dont la production d'images modifiées à partir de visages réels dans des contextes sensibles.
Les tests du Tech Transparency Project ont utilisé des visages générés par IA pour éviter toute exploitation réelle. La plupart des applications produisent des résultats sans restriction, même pour des requêtes explicites. Bien qu'Apple effectue un contrôle automatisé et une vérification humaine, ces mesures semblent insuffisantes pour prévenir ces dérives.
D’après iPhon.fr.
