L’usage des chatbots IA encadré en Californie, une première aux Etats-Unis

Régulation de l'Intelligence Artificielle en Californie

Le 13 octobre 2025, une nouvelle législation encadrant l'utilisation des agents conversationnels, ou chatbots, basés sur l'intelligence artificielle (IA), a été adoptée en Californie. Cette mesure fait suite à des incidents tragiques impliquant des adolescents ayant noué des relations intimes avec ces outils.

La loi exige que les entreprises effectuent une vérification de l'âge des utilisateurs, affichent des messages d'avertissement réguliers et mettent en place des protocoles de prévention du suicide. Ces mesures visent à protéger les jeunes utilisateurs contre les risques potentiels associés aux chatbots.

Le texte principal, la loi SB243, cible spécifiquement les chatbots servant de compagnons ou de confidents, tels que ceux développés par des plateformes comme Replika ou Character AI. Cette dernière a été impliquée dans une affaire judiciaire après le suicide d'un adolescent américain en 2024, ayant établi une relation avec un chatbot.

Conséquences pour les Entreprises Technologiques

Les entreprises doivent désormais afficher un rappel toutes les trois heures, pour les mineurs, indiquant que l'interlocuteur est une machine. Elles doivent également détecter les idées suicidaires et transmettre des statistiques aux autorités compétentes.

Bien que la Maison-Blanche s'oppose à la réglementation de l'IA, la Californie continue de mettre en œuvre des mesures pour encadrer l'utilisation de ces technologies. Les leaders de l'IA, tels qu'OpenAI, Google et xAI, sont basés dans cet État et devront se conformer à ces nouvelles exigences.

Aux États-Unis, il n'existe pas de réglementation fédérale pour limiter les risques associés à l'IA, mais cette législation californienne pourrait servir de modèle pour d'autres États.

D’après Le Monde.