Y a des groupes de chercheurs qui estiment la probabilité que notre espèce soit anéantie d’ici 2100… et les chiffres sont loin d’être anecdotiques :

– 20 % à cause du réchauffement climatique et ses conséquences ;
– 5 % à cause d’une IA qui bondirait hors de contrôle et nous verrait comme une menace (et y a 50 % de chances qu’une IA réelle soit mise au point d’ici 2050) ;
–

PS : concernant l’IA qui bondirait hors de contrôle et nous verrait comme une menace… Dans l’œuvre d’Asimov « I, Robot » (rien à voir avec le film), qui montre différent cas de conflits entre les 3 lois de la robotique, dans un des cas, c’est ce qui se passe : l’IA doit protéger les humains et il ne peut pas leur faire du mal, ni, par leur inaction permettre qu’un humain ne soit blessé (règle 1). Or, l’IA voit que l’humain est une menace pour lui-même (en tant qu’espèce).
L’IA fait quoi ? Elle enferme les humains dans des cellules. La règle n’est pas brisée et l’IA a fait son job.

Quant à la seconde règle « le robot doit obéir aux humains, sauf si ça entre en conflit avec la règle 1 », c’est elle qui est mise en avant par l’IA : si l’IA écoute l’humain et le libère, la civilisation humaine sera blessée. Donc elle ne le libère pas : « pour votre sécurité, vous n’aurez plus de liberté ».

Le danger est réel ! Surtout si l’IA est programmée avec seulement les règles d’Asimov, sans notions du style « droits de l’humain », ce genre de trucs. Et de toute façon, même avec une prise en compte de la DUDH, l’IA pourrait s’en sortir en nous envoyant sur des vaisseaux spatiaux loin de tout, où rien ne peut nous arriver, ni en tant qu’individu, ni en tant qu’espèce, sans pour autant briser quelque règle que ce soit.

— (permalink)