Admettons que les hommes aient codé une IA forte, autrement dit plus balèze que nous petits humains.
On demande à cette IA si une proposition mathématique est vraie ou fausse (un problème non résolu à ce jour).
Cette IA nous répond (oui ou non on s'en bat les couilles pour l'exemple).
Quelle est la valeur de cette réponse? En admettant que le raisonnement de l'IA est supposé juste mais inaccessible au cerveau humain.
Je veux dire que l'IA n'a pas simulé des milliards de possibilités mais a bien abouti au résultat par logique, mais logique inaccessible à l'homme.