Des conséquences « irréversibles » : cette décision imminente pourrait sceller le sort de l’humanité face à l’IA

Jared Kaplan, scientifique en chef et cofondateur d’ Anthropic , a déclaré que dans les prochaines années, un choix crucial devra être fait concernant l'entraînement des modèles d’IA.

Actuellement, le développement des systèmes d’IA est supervisé par des humains. Cependant, Kaplan indique que, d'ici 2027 à 2030, il faudra décider si ces systèmes doivent être autorisés à s'entraîner et à s'améliorer de manière autonome. Cette évolution pourrait comporter des risques importants.

Une dynamique autonome pourrait conduire à une « explosion d’intelligence », produisant une intelligence artificielle générale (AGI) qui surpasserait les capacités humaines. Cela pourrait présenter des avantages importants, mais aussi des risques significatifs concernant la perte de contrôle et la compréhension des décisions prises par ces systèmes.

Kaplan estime que d’ici deux à trois ans, l'IA pourrait réaliser la plupart des emplois de cols blancs. Dario Amodei, PDG d’Anthropic, a également mentionné que l’IA pourrait remplacer une grande partie des emplois de bureau débutants.

Certains experts, comme Yann LeCun, estiment que les modèles actuels ne peuvent pas évoluer vers une intelligence générale autonome. Kaplan reconnaît que cette incertitude existe, mais il souligne que le progrès rapide pourrait ne pas laisser le temps à la société de s’adapter aux futures avancées.

Jared Kaplan préconise une décision entre 2027 et 2030 concernant l'auto-entraînement des IA. L'auto-entraînement pourrait entraîner une « explosion d’intelligence » avec des bénéfices potentiels et des risques de perte de contrôle. Les experts sont partagés sur la capacité des modèles actuels à atteindre une intelligence générale.

D’après Presse-citron.