Windows 11 : jusqu’où laisserons-nous l’IA décider pour nous ?

Microsoft a annoncé une mise à jour significative avec le lancement de Copilot Actions, une nouvelle fonctionnalité intégrée à Windows 11. Cette technologie permet à l'intelligence artificielle d'interagir avec les applications et les données locales de manière autonome, en simulant des actions humaines telles que l'ouverture de documents, la saisie de texte, et la gestion de fichiers.

Copilot est conçu pour agir comme un collaborateur numérique , capable d'exécuter des tâches complexes à la place de l'utilisateur. L'agent peut effectuer des actions telles que cliquer, faire défiler des fenêtres, et saisir du texte. Si l'objectif est de simplifier les tâches utilisateur, des préoccupations ont été soulevées quant à l'étendue de l'autonomie accordée à l'IA dans la gestion des fichiers personnels.

Copilot Actions n'est pas activé par défaut et est actuellement accessible uniquement aux membres du programme Windows Insider. Ceux-ci doivent activer manuellement le mode expérimental dans les paramètres. Microsoft assure avoir mis en place des mesures de sécurité strictes, notamment la signature numérique des agents par des sources de confiance et l'utilisation d'un espace isolé nommé « Agent workspace » pour restreindre l'accès aux dossiers sensibles. Toute extension d'accès doit être explicitement autorisée par l'utilisateur.

Selon Dana Huang, vice-présidente de Windows Security, l'agent commence avec des permissions limitées et ne peut accéder qu'aux ressources spécifiées par l'utilisateur. L'accès peut être révoqué à tout moment. Microsoft a également formé des équipes de red teaming pour tester la sécurité du système avant son lancement public.

Les experts en sécurité restent prudents face aux risques potentiels de l'IA, notamment les attaques de type « cross-prompt injection » qui pourraient exploiter des contenus piégés pour détourner l'agent. Microsoft s'engage à renforcer les contrôles de confidentialité avant le lancement officiel de la fonctionnalité. La question reste de savoir si les utilisateurs sont prêts à confier leurs données à un agent logiciel autonome.

D’après Journal du Geek.