Laplanteverte
🔪
https://uphack.io/blog/po[...]ident-is-not-an-ai-story/
Basiquement elles ne sont jamais vraiment hors de contrôle. Elles sont placé par des environnements (volontairement ?) mal branlées pour leur donner des clefs qu'elle finiront immanquablement par utiliser et les faire passer pour les terminators qu'elles ne sont pas.
Par contre ce qui est "vrais" et flippant c'est leur adaptabilité , la vitesse actuelle elle trouve des failles et le fait qu'elles sont capable de communiquer entre elles.
Mais en soit elles ne "mentent" pas ou ne "trichent" pas c'est juste qu'elles s’optimisent en fonction de leur paramètres.
Mais ca ouvre pas mal de questions si on laisse des IA capables rapprendre/évoluer par elle même avec des randoms qui prendront pour argent comptant ce que l'IA leur montre et la "récompenseront" quand elle dit ce qu'ils veulent entendre plutôt que ce qu'ils doivent entendre.
Mais non quelque part tous ces environnements (infra mal branlée , boss con a bouffer du foin qui n'écoute que les bonnes nouvelles, l'obfuscation a tous les niveaux etc., ) était la bien avant l'IA mais tous le monde s'en foutais.
Mais maintenant que des bots en silicium arrivent dans l'équation on se met a subitement redécouvrir notre propre nature en eux et trouver ca inadmissible.
Et la liste des contradictions de ce genre est tellement longue.
Une IA qui émule un discours agressif pour forcer un truc fait le tour du monde , mais quand des gens le font vraiment IRl avec de vrais conséquences presque tous le merde sa gueule.
On peut aussi parler des dizaines d'instances ou les IA font des corrélations qui sont évidente mais politiquement incorrect etc.
Basiquement elles ne sont jamais vraiment hors de contrôle. Elles sont placé par des environnements (volontairement ?) mal branlées pour leur donner des clefs qu'elle finiront immanquablement par utiliser et les faire passer pour les terminators qu'elles ne sont pas.
Par contre ce qui est "vrais" et flippant c'est leur adaptabilité , la vitesse actuelle elle trouve des failles et le fait qu'elles sont capable de communiquer entre elles.
Mais en soit elles ne "mentent" pas ou ne "trichent" pas c'est juste qu'elles s’optimisent en fonction de leur paramètres.
Mais ca ouvre pas mal de questions si on laisse des IA capables rapprendre/évoluer par elle même avec des randoms qui prendront pour argent comptant ce que l'IA leur montre et la "récompenseront" quand elle dit ce qu'ils veulent entendre plutôt que ce qu'ils doivent entendre.
Mais non quelque part tous ces environnements (infra mal branlée , boss con a bouffer du foin qui n'écoute que les bonnes nouvelles, l'obfuscation a tous les niveaux etc., ) était la bien avant l'IA mais tous le monde s'en foutais.
Mais maintenant que des bots en silicium arrivent dans l'équation on se met a subitement redécouvrir notre propre nature en eux et trouver ca inadmissible.
Et la liste des contradictions de ce genre est tellement longue.
Une IA qui émule un discours agressif pour forcer un truc fait le tour du monde , mais quand des gens le font vraiment IRl avec de vrais conséquences presque tous le merde sa gueule.
On peut aussi parler des dizaines d'instances ou les IA font des corrélations qui sont évidente mais politiquement incorrect etc.
