L’un des plus grands cabinets de conseil facture plein pot un rapport truffé d’hallucinations IA : l’Australie va être remboursée

Deloitte Australia a récemment reconnu l'utilisation d'une intelligence artificielle générative pour la rédaction d'un rapport pour le ministère du Travail australien. Le modèle GPT-4 d'OpenAI, hébergé sur la plateforme Azure de Microsoft, a été utilisé pour produire ce document de 273 pages évaluant le système informatique lié à l'automatisation de certaines pénalités dans le dispositif d'aide sociale du pays. Le rapport a été facturé environ 251 000 €.

Des erreurs ont été détectées dans le rapport, notamment des références universitaires inexistantes et une citation imaginaire d'un jugement fédéral. Ces erreurs ont été découvertes par un chercheur de l'université de Sydney. En réponse, une version corrigée du rapport a été publiée, avec des rectifications apportées et une mention explicite de l'utilisation de l'IA ajoutée. Deloitte a également accepté de rembourser une partie du contrat, bien que le montant exact ne soit pas précisé.

L'incident met en lumière les défis posés par l'automatisation dans le secteur de l'analyse et du conseil. Bien que Deloitte promeuve un "contrôle humain systématique" sur les productions générées par l'IA, cette situation montre la nécessité d'une vigilance accrue.

Le chercheur ayant découvert les erreurs considère que les conclusions du rapport sont désormais inexploitables, étant donné que l'analyse de base a été effectuée par une IA sans expertise. Toutefois, le ministère australien du Travail affirme que l'essence de l'audit indépendant est préservée et que les recommandations du rapport restent valides, malgré les corrections apportées.

Deloitte a une longue histoire de contrats avec le gouvernement australien, avec près de 25 millions de dollars d'accords conclus avec le ministère depuis 2021. Cette relation soulève des questions sur la transparence et le contrôle des prestations fournies.

D’après Journal du Geek.