Dune avait vu juste, 60 ans en avance : l’IA est déjà un danger pour les sociétés humaines

Les meilleures œuvres sont celles qui prennent de nouvelles significations au fil du temps. La saga Dune , dont le premier tome a été publié en 1965, est un exemple de la science-fiction qui continue de résonner. Parmi les thèmes du récit de Frank Herbert, le Jihad Butlérien est notable, illustrant une révolte interplanétaire contre les « machines pensantes ». Cette révolte a conduit à leur interdiction totale, soulignant les dangers d'une civilisation qui ne sait pas limiter ses outils. Cela soulève la question de savoir si une intelligence artificielle peut être réellement « neutre ».

Dune et l’Intelligence Artificielle : Compréhension de Herbert en 1965

Dans l'univers de Herbert, l'humanité a détruit toutes ses machines pensantes et intelligences artificielles. Cela n'est pas dû à une rébellion de ces machines, mais parce qu'elles ont permis à une classe de technocrates de s'emparer du pouvoir. L'IA était redoutée non pour elle-même, mais pour ceux qui la contrôlaient. Une phrase résume cet épisode fondateur : « Tu ne feras point de machine à l'image de l'esprit humain ».

Herbert ne cherchait pas à avertir ses lecteurs, mais à explorer les dynamiques du pouvoir. Le Jihad Butlérien a servi à éliminer la technologie cognitive avancée de son univers, conduisant ses personnages à se confronter à des défis avec des moyens humains. Cela a permis d'analyser les enjeux de dépossession cognitive et de centralisation du pouvoir.

Dans le premier tome, il est expliqué comment le Jihad Butlérien a débuté : des hommes ont confié leur pensée à des outils plus efficaces, croyant se libérer du travail cognitif. D'autres ont compris que contrôler ces outils conférait un pouvoir sur ceux qui avaient cessé de penser par eux-mêmes.

Herbert n'a jamais décrit de robots tueurs ou d'IA menaçante, mais une technologie cognitive inégalement répartie, suffisante pour renverser les lois hiérarchiques entre décideurs et obéissants.

En substituant les machines du Jihad Butlérien par les modèles de langage développés aujourd'hui, le parallèle est évident. Cependant, il est crucial de ne pas le pousser trop loin. Herbert a démontré que toute structure de pouvoir indéchiffrable peut devenir une prison pour l'esprit, même si sa destruction conduit simplement à la création d'une nouvelle.

D’après Journal du Geek.