Elles dominaient les jeux vidéo. Affichaient des performances surhumaines. Et puis, un jour, on a rendu les jeux plus faciles. Résultat ? Elles se sont effondrées.
Pourquoi ? Parce qu’elles n’avaient jamais compris ce qu’elles faisaient.
Et c’est là que tout bascule.
Dans une étude aussi brillante que dérangeante, Quentin Delfosse et son équipe lèvent le voile sur une illusion d’intelligence : celle de systèmes qui excellent… tant qu’on ne change rien.
Ils ont imaginé HackAtari, un test malin basé sur des versions simplifiées de jeux Atari. Un test qui, au lieu de compliquer les tâches, les rend plus simples et pourtant, il révèle une faille béante. Car quand on enlève les obstacles, les IA trébuchent. Là où un humain s’adapte et comprend, la machine s’effondre.
Ce que HackAtari nous dit ? Qu’une IA peut briller à l’examen, sans jamais en comprendre le sens. Qu’elle peut répéter, optimiser, corréler… sans jamais raisonner.
Et si nos IA étaient, en réalité, de très bons élèves… qui récitent sans comprendre ?
Ce n’est pas un test de performance, mais un test de vérité. Un test qui mesure non pas ce qu’une IA fait, mais ce qu’elle comprend. Et qui pose, en creux, cette question dérangeante : nos IA comprennent-elles vraiment ce qu’elles font ?
Retrouvez le texte intégral de cet épisode, avec toutes ses sources et bien d’autres choses, sur : https://www.buschini.com/hackatari-le-test-qui-revele-que-nos-ia-ne-comprennent-rien/