App Citizen : quand l’IA invente des crimes

L'application Citizen utilise désormais l'intelligence artificielle pour analyser les fréquences radio de la police et générer des alertes en temps réel. Les analystes humains interviennent ensuite pour corriger les erreurs éventuelles. Les utilisateurs peuvent donc recevoir des versions initiales contenant des erreurs.

L'application Citizen compte environ 10 millions d'utilisateurs aux États-Unis. Elle permet la publication de photos et de vidéos d'événements locaux, complétées par des alertes générées automatiquement par l'IA. Historiquement, ces alertes étaient rédigées par des humains, mais la tâche a progressivement été confiée aux algorithmes.

Aux États-Unis, de nombreuses applications similaires se sont développées pour suivre en temps réel les incidents criminels, répondant à une demande croissante d'information sur la sécurité publique.

Des erreurs dans les alertes générées par l'intelligence artificielle ont été constatées, telles que des interprétations incorrectes des incidents ou des détails inappropriés. Par exemple, des incidents mineurs peuvent être exagérés, ou des détails personnels peuvent être divulgués. De plus, la répétition d'un même incident peut donner une impression erronée de l'ampleur des événements.

Des décisions opérationnelles ont également été prises pour réduire les effectifs, avec des licenciements récents de 13 employés. Par ailleurs, certaines tâches sont sous-traitées à des prestataires situés à l'étranger, ce qui peut entraîner des erreurs d'interprétation des données.

Collaboration avec la ville de New York

Malgré les problèmes rencontrés, Citizen continue de se développer, notamment avec le lancement d'un compte officiel par la ville de New York, intitulé "NYC Public Safety". Ce compte est présenté comme un outil pour informer et protéger la population locale.

D’après Journal du Geek.