« Inacceptable » : le cofondateur d’Apple et des experts de l’IA veulent stopper l’arrivée d’une superintelligence

Le mercredi 22 octobre dernier, un appel a été signé par plus de 700 scientifiques, entrepreneurs, et personnalités politiques pour alerter sur les risques potentiels associés au développement d'une intelligence artificielle superintelligente. Bien que ces technologies soient encore loin d'être réalisées, les signataires expriment des préoccupations significatives.

Les outils innovants basés sur l'IA peuvent apporter une santé et une prospérité sans précédent. Cependant, de nombreuses entreprises leaders dans le domaine de l'IA visent à développer une superintelligence capable de surpasser considérablement les humains dans pratiquement toutes les tâches cognitives.

Possibilité d'une Interdiction de la Superintelligence

Les inquiétudes évoquées concernent l'obsolescence et la perte de pouvoir économique des humains, la perte de libertés civiles, de dignité et de contrôle, ainsi que des risques pour la sécurité nationale et même l'extinction potentielle de l'humanité. La déclaration vise à faire connaître le nombre croissant d'experts et de personnalités publiques qui s'opposent à la course à la superintelligence.

Des personnalités telles que Geoffrey Hinton, Stuart Russell, Yoshua Bengio, Richard Bronson, le prince Harry, et Steve Wozniak appellent à une « interdiction du développement de la superintelligence, qui ne sera levée qu'après l'obtention d'un large consensus scientifique sur la sécurité et le contrôle de cette technologie, ainsi qu'une forte adhésion du public » .

Des personnalités s’inquiètent du développement d’une superintelligence qui mettrait en danger les humains. Elles signent un appel pour demander une interdiction globale de cette technologie. Le débat devrait avoir lieu, bien que la matérialisation d'un moratoire global semble peu probable.

D’après Presse-citron.