Voici un commentaire sous la vidéo qui vous retranscrit ma pensé plus rigoureusement (par l'utilisateur Geo Question sans troll : si les données montrent que statistiquement les personnes de couleurs noires récidives plus souvent, alors en quoi la machine est elle raciste lorsqu'elle prend en compte cette information dans sa prise de décision ? Elle n'a pas dit que les noirs etaient naturellement plus enclins à être comme ça ni que les noirs en étaient la cause. Mais si la question est "Au travers des informations la concernant, cette personne a-t-elle un risque plus élevé de récidiver?" Et que la réponse est oui, en quoi cela serait il raciste? La machine n'a pas biaisé son jugement, elle répond juste à la question posée.

Éventuellement, on peut ensuite analyser les résultats pour en lever les ambiguïtés et expliquer pourquoi ( facteurs sociaux, culturels, génétiques , etc.) . Cela dit la réponse à la question resterait la même non?

À l'inverse, s'il s'agissait d'influencer la réponse car celle-ci nous semble biaisée , cela ne reviendrait il pas à remettre en cause la légitimité même d'utiliser les statistiques pour répondre à cette question? Et, par voie de conséquence, remettre en cause le fait même poser la question à la machine ?