La superintelligence est déjà proche : un ancien employé d'OpenAI s'exprime sur les dangers de l'intelligence artificielle.

Dans les années à venir, l’humanité pourrait perdre le contrôle de l’IA.

L'ancien analyste de la sécurité d'OpenAI, Leopold Aschenbrenner, a publié un article décrivant l'avenir de l'intelligence artificielle et les risques associés à son développement. Selon lui, d’ici 2027, ce qu’on appelle l’intelligence artificielle générale (IAG) pourrait voir le jour. Il sera capable de résoudre un large éventail de problèmes, d’auto-apprentissage et en aucun cas inférieur à l’esprit humain.

Dans son ouvrage, Aschenbrenner souligne que le développement de l'IA se déroule à un rythme accéléré et que l'humanité n'a pas le temps de se rendre compte de cette vitesse. Selon lui, d'ici 2026, les prototypes AGI en cours de développement seront plus intelligents que les diplômés universitaires et, d'ici la fin de la décennie, ils seront capables de surpasser l'intelligence de n'importe qui. Cela conduira à l’émergence d’une superintelligence artificielle.

Selon Aschenbrenner, l’émergence de l’IA au niveau de la recherche automatisée conduira à un développement avancé presque incontrôlable de l’AGI. Et cela créera de graves menaces pour toute l’humanité. L’auteur souligne qu’une confrontation pourrait survenir entre les États-Unis et la Chine.

Il note également dans son texte que dans les nouvelles réalités, la course aux armements entre les pays se déroulera précisément dans le domaine du développement de l'intelligence artificielle, qui contrôlera de nombreux domaines de la vie, y compris les questions de défense. La principale menace est que l’humanité aborde ce point sans être préparée à ce à quoi elle sera confrontée.

Aschenbrenner se plaint du fait que malgré les énormes investissements financiers, les entreprises développant des machines IA ne prêtent pas attention à la sécurité. En fait, par son travail, il souhaite attirer l’attention des régulateurs sur ce problème.