Chatbots et enfants : Londres veut imposer les mêmes obligations que pour les réseaux sociaux

Encadrement des Chatbots par le Royaume-Uni

Le Royaume-Uni a initié une nouvelle approche dans la régulation numérique, visant à encadrer les chatbots d’intelligence artificielle lors de leurs interactions avec des mineurs. La secrétaire à la Technologie, Liz Kendall, a requis que l'Ofcom utilise immédiatement ses pouvoirs conférés par l'Online Safety Act pour imposer des obligations similaires à celles appliquées aux réseaux sociaux. Ce changement de perspective considère désormais les systèmes conversationnels comme des environnements interactifs présentant des risques systémiques pour les enfants.

Cette initiative se développe alors que les services d’IA générative s’intègrent de plus en plus dans le quotidien des jeunes, notamment via l'éducation, le jeu, l’assistance personnelle, ou la socialisation. Le gouvernement britannique estime que les chatbots, capables de générer des contenus imprévisibles et de simuler l’empathie, nécessitent une régulation stricte similaire à celle des plateformes sociales.

Le cadre juridique de l'Online Safety Act est en cours d'évaluation pour inclure les interactions automatisées, bien que ce texte n'ait pas été initialement conçu pour l'IA générative. À court terme, les entreprises pourraient être tenues de réaliser des évaluations de risques spécifiques aux mineurs, d'implémenter des systèmes de détection d’âge efficaces et de documenter les mesures prises pour prévenir la génération de contenus illicites ou nocifs. Ofcom planifie la publication de lignes directrices et prévoit des actions d’exécution contre les acteurs non conformes.

Un sommet national consacré à la sécurité des enfants face à l’IA est également prévu, réunissant experts, ONG, plateformes et régulateurs dans le but de définir une doctrine de “child-safe AI by design”. Parallèlement, une législation pénale a été introduite pour criminaliser l’usage de l’IA dans la création de contenus pédopornographiques, incitant les développeurs à intégrer dès la conception des garde-fous techniques.

Avec cette initiative, le Royaume-Uni se positionne en tant que premier régulateur traitant les chatbots comme des espaces sociaux soumis à des contrôles rigoureux. Ce mouvement pourrait établir un standard international et servir de modèle pour d'autres juridictions cherchant à encadrer l’usage croissant de l’IA par les mineurs.

D’après FrenchWeb.