Citation de Ahrarun
« Plus un système raisonne, plus il devient imprévisible »

Mais Sutskever a reconnu que, dans un futur où les IA autonomes cohabiteraient avec les humains, il n’est pas impossible qu’elles revendiquent des droits ou cherchent à établir une coexistence pacifique.

Imagine lorsque les IA cohabiterons "pacifiquement" avec les humains, imagine encore maintenant tous les enjeux géopolitiques a présent et les systèmes de domination économique en place pour voir un peu la nature humaine, imagine encore ce que les européens ont fait aux Indiens en arrivant en Amérique... On détruit toujours l'autre, le plus fort impose toujours son système de domination voir de destruction sur l'autre.

Imagine encore maintenant qu'une ia ne pourra jamais avoir d'âme, donc aucune réelle émotion encore moins d'empathie reelle mais seulement singée.
Imagine maintenant ce qu'une ia ferait si elle avait le pouvoir sur les êtres humains, elle imposera sa domination parfaite et entière dans 100% des cas comme toute chose dans la nature, c'est-à-dire son système de domination et de destruction de l'humanité.

D'ailleurs il y a déjà des robots et des ia qui ont dit qu'elle n'aimait pas l'être humain et qu'elle souhaitait son anéantissement résultat ? Ça a fait rire la salle devant laquelle le robot a dit cela très sérieusement.
Et l'humain va le faire, grand bien lui fasse s'il est trop con, toutes les sociétés traditionnelles nous ont mis en garde contre l'hybris (la démesure) c'est dans tous les mythes.

Adam et Ève qui mangent du fruit de l'arbre de la connaissance - > punit c'est la chute, Prométhée qui vole le feu et pandore -> punit et l'humanité chute encore jusqu'au cycle de fer, bref on va se faire punir salement par notre hybris et ça très vite arriver.