Geoffrey Hinton, prix Turing 2018 et surnommé le « père de l’IA », estime qu’un risque d’extinction de l’humanité lié à l’intelligence artificielle de 10 % « n’est pas déraisonnable ». Ce chiffre, assumé et répété, n’est pas une panique : c’est l’estimation lucide d’un fondateur sur la probabilité qu’une superintelligence échappe au contrôle humain.

Qui est Geoffrey Hinton ?

Geoffrey Hinton a reçu le prix Turing en 2018, partagé avec Yann LeCun et Yoshua Bengio, pour ses travaux fondateurs sur l’apprentissage profond. Les réseaux de neurones qu’il a contribué à bâtir — notamment la rétropropagation — sont aujourd’hui au cœur de la quasi-totalité des modèles d’IA générative.

Son surnom de « Godfather of AI » n’est pas une coquetterie : il a formé une génération de chercheurs qui dirigent désormais les plus grands laboratoires. En 2023, il a quitté Google pour pouvoir parler librement des risques de l’IA, un départ qui a fait de lui l’une des voix les plus critiques de sa propre création.

D’où vient le « 10 % » ?

Le chiffre avancé par Hinton est une estimation de la probabilité que l’humanité ne survive pas à une IA devenue incontrôlable. Interrogé sur ce risque, il a répondu que « 10 % n’est pas déraisonnable », laissant son interlocutrice sans voix, comme le rapporte Futura Sciences.

Ce n’est pas un calcul précis — personne ne peut mesurer ce risque avec certitude. C’est une intuition experte, un ordre de grandeur destiné à rendre le danger concret. Un accident d’avion ou une panne nucléaire se compte en fractions de pourcent ; 10 %, c’est un ordre de grandeur que l’humanité n’accepterait pour aucune autre technologie.

Pourquoi une IA deviendrait incontrôlable ?

Le scénario redouté par Hinton n’est pas une IA « méchante », mais une IA dont les objectifs divergent des nôtres. Une intelligence supérieure, dotée de moyens d’action, pourrait poursuivre un but sans se soucier des conséquences humaines — non par malveillance, mais par indifférence.

Le cœur du problème est l’alignement : faire en sorte que les objectifs d’un système correspondent réellement aux valeurs humaines, même quand le système devient plus intelligent que nous. Tant que cet alignement n’est pas résolu, chaque gain de capacité augmente le risque.

Panique ou prudence ?

Les avis sont partagés. Certains chercheurs jugent l’estimation alarmiste et détourne l’attention des risques réels et immédiats : biais, désinformation, surveillance, emploi. D’autres, comme Hinton, estiment qu’attendre la preuve du danger reviendrait à attendre qu’il soit trop tard.

Les deux camps s’accordent pourtant sur un point : la sûreté de l’IA ne peut plus être traitée après coup. Le débat porte sur la probabilité, pas sur la nécessité d’agir.

Ce que cela change pour la souveraineté de l’IA

Pour les acteurs qui défendent une IA éthique, open source et souveraine, l’alerte de Hinton a une conséquence directe : la transparence et l’alignement ne sont pas des options de confort, mais des conditions de survie. Un modèle ouvert peut être audité, corrigé et aligné par une communauté ; un modèle fermé concentre le pouvoir — et le risque — dans quelques mains.

La meilleure réponse au « 10 % » n’est ni le déni ni la résignation : c’est la construction d’une intelligence alignée, transparente et contrôlable, par conception.

FAQ

Geoffrey Hinton a-t-il vraiment dit que l’IA pourrait éteindre l’humanité ?

Oui. Il estime qu’un risque d’extinction de 10 % lié à l’IA « n’est pas déraisonnable », selon un entretien rapporté par Futura Sciences.

Le « 10 % » est-il un chiffre scientifique ?

Non. C’est une estimation experte, un ordre de grandeur, pas une mesure. Personne ne dispose d’un calcul fiable de ce risque.

Pourquoi Hinton a-t-il quitté Google ?

Pour pouvoir s’exprimer librement sur les risques de l’IA, sans être contraint par les intérêts de son employeur.

L’IA est-elle dangereuse parce qu’elle serait « méchante » ?

Non. Le danger vient d’une divergence d’objectifs : une IA très capable qui poursuit un but sans se soucier des conséquences humaines.

Que peut-on faire pour réduire ce risque ?

Investir dans l’alignement (faire correspondre les objectifs des IA aux valeurs humaines), la transparence et l’auditabilité des modèles.