Des chercheurs rapportent qu’un test dit de reverse prediction fragilise l’idée que certaines IA de vision « pensent » comme le cerveau. Des modèles capables de prédire des réponses neuronales à la reconnaissance d’objets s’appuieraient sur des stratégies visuelles que les primates n’emploient pas. L’enjeu touche la fiabilité des comparaisons entre réseaux neuronaux artificiels et biologie.
Les IA peuvent parfois imiter les sorties du cerveau, mais la question centrale porte sur leurs mécanismes internes, pas seulement sur leurs résultats.
Le test de « reverse prediction » met en défaut les modèles de vision
Depuis plusieurs années, une partie de la recherche en intelligence artificielle et en neurosciences s’appuie sur un constat, certains modèles de vision par ordinateur prédisent assez bien des mesures cérébrales lorsqu’un humain ou un primate reconnaît un objet. Dans des protocoles classiques, on présente des images, puis on compare l’activité enregistrée, par exemple via des signaux neuronaux ou des mesures d’imagerie, avec l’activité interne d’un réseau de neurones artificiel. Quand la correspondance statistique est élevée, on parle volontiers de modèles « brainlike ».
Le test de reverse prediction propose un renversement de cette logique. Au lieu de se contenter de vérifier que l’IA « colle » à la réponse du cerveau sur des images données, il cherche à identifier quelles images ou quelles transformations d’images conduisent l’IA à produire une réponse similaire à celle du cerveau, puis à vérifier si le cerveau réagit de la même manière face à ces stimuli « conçus » ou sélectionnés. Ce changement de perspective vise une faiblesse connue, deux systèmes peuvent produire des sorties semblables tout en utilisant des mécanismes différents.
Dans ce cadre, les chercheurs suggèrent que certains modèles de vision, même performants sur des tâches de reconnaissance, exploitent des indices visuels particuliers. Le point important n’est pas que ces indices soient « mauvais » en soi, mais qu’ils puissent être absents, secondaires ou traités autrement par le cerveau des primates. Une IA peut donc réussir à prédire des réponses neuronales dans des conditions standard, tout en s’écartant des processus biologiques dès qu’on pousse le système dans des cas limites.
Cette approche rappelle un principe fréquent en sciences, un modèle peut être valide sur un domaine d’observation donné, puis se révéler trompeur lorsqu’on le teste en dehors de ce domaine. Le reverse prediction sert de stress test, il cherche des situations où la similitude apparente se fissure. Les auteurs mettent en avant l’idée que l’évaluation des modèles « comme le cerveau » doit inclure des tests adversariaux ou contre-intuitifs, pas seulement des corrélations globales sur des ensembles d’images courants.
Au-delà du vocabulaire, l’enjeu est méthodologique. Si l’objectif est de construire des modèles qui éclairent la vision biologique, la simple capacité à prédire une mesure moyenne ne suffit pas. Il faut aussi vérifier que les stratégies visuelles mobilisées ressemblent à celles du vivant, ce que ce type de test prétend mieux sonder.
Des stratégies visuelles efficaces pour l’IA, mais peu plausibles chez les primates
Les modèles de vision modernes, souvent entraînés sur d’immenses bases d’images, apprennent des régularités statistiques. Ils peuvent exploiter des textures, des micro-contrastes, des corrélations de pixels, ou des signaux liés au contexte qui aident à deviner la classe d’un objet. Ce fonctionnement est puissant pour la performance, mais il peut diverger des mécanismes biologiques, qui intègrent contraintes anatomiques, bruit neuronal, attention, mouvements oculaires et objectifs comportementaux.
Le résultat mis en avant par l’étude est que des modèles jugés proches du cerveau peuvent reposer sur des heuristiques visuelles que la vision des primates n’emploie pas, ou n’emploie pas au même degré. Autrement dit, deux systèmes peuvent « tomber juste » pour des raisons différentes. Dans un test standard, cela peut passer inaperçu, surtout si les images d’évaluation ressemblent à celles d’entraînement, ou si les métriques privilégient une correspondance globale plutôt que des signatures spécifiques de traitement.
Un exemple conceptuel aide à comprendre, une IA peut reconnaître un animal en s’appuyant fortement sur la texture du pelage ou sur des motifs de fond fréquemment associés, là où un primate pourrait davantage s’appuyer sur la forme globale, les contours, ou des indices invariants à l’éclairage. Si l’on fabrique des images où texture et forme sont dissociées, l’IA et le cerveau peuvent diverger. Le reverse prediction cherche justement ce type de dissociation, en sélectionnant des stimuli qui « trompent » l’alignement apparent.
Ces divergences ne signifient pas que les modèles sont inutiles. Elles indiquent plutôt qu’il faut clarifier l’ambition, optimiser une précision de classification n’implique pas de reproduire une représentation interne biologiquement plausible. Or, dans une partie de la littérature, la proximité mesurée par corrélation a été interprétée comme une preuve de similarité mécanistique. La critique porte sur ce glissement, prédire la sortie du cerveau ne garantit pas d’en reproduire le chemin.
Les chercheurs invitent donc à distinguer deux objectifs, construire des systèmes efficaces pour des applications, et construire des modèles explicatifs de la vision. Les deux peuvent se nourrir, mais ils ne se confondent pas. Dans ce contexte, l’étude souligne que la notion de modèles « brainlike » doit être utilisée avec prudence, et adossée à des batteries de tests qui interrogent les stratégies internes, pas seulement les performances et les corrélations.
Pourquoi la ressemblance « en sortie » ne prouve pas une ressemblance « en mécanisme »
Le cur du débat est un problème de sous-détermination, plusieurs mécanismes internes différents peuvent produire des comportements externes similaires. En IA, deux architectures distinctes peuvent atteindre une précision comparable. En neurosciences, deux hypothèses de codage peuvent expliquer les mêmes données si les mesures sont limitées ou bruitées. Quand on compare un modèle artificiel à des enregistrements cérébraux, on se heurte à la même difficulté, une forte correspondance statistique ne verrouille pas l’explication.
Les évaluations classiques reposent souvent sur des métriques de similarité, par exemple la capacité d’un modèle à prédire des vecteurs d’activité neuronale, ou à expliquer une part de variance des signaux. Ces métriques sont utiles, mais elles peuvent être « satisfaites » par des modèles qui capturent des corrélations superficielles. Le reverse prediction vise à introduire une contrainte supplémentaire, si le modèle est vraiment aligné sur le cerveau, alors les stimuli qui maximisent l’accord devraient aussi provoquer des réponses cohérentes côté biologique.
Cette logique rejoint des pratiques connues en apprentissage automatique, comme les tests de robustesse, les perturbations contrôlées, ou l’analyse des explications. Un modèle peut être très performant et pourtant fragile, par exemple sensible à de petites modifications imperceptibles. De la même façon, un modèle peut sembler proche du cerveau sur un jeu d’images standard, mais s’écarter dès que l’on explore des zones « non naturelles » de l’espace visuel, ou des combinaisons d’indices rarement rencontrées.
Pour la recherche en neurosciences computationnelles, l’enjeu est important. Si l’on utilise des réseaux de neurones comme proxies du cortex visuel, on risque de tirer des conclusions sur l’attention, l’invariance, ou la hiérarchie des représentations à partir d’un modèle qui, en pratique, résout la tâche autrement. Cela peut orienter l’interprétation des données, la conception d’expériences, ou la lecture des aires visuelles. Le mot-clé ici est la validité du modèle en tant qu’explication.
Le débat touche aussi la communication autour de l’IA. Dire qu’un modèle « fonctionne comme le cerveau » peut être compris comme une équivalence forte. Or, les résultats suggèrent qu’il faut parler en termes plus précis, le modèle prédit certains motifs de réponse dans certains contextes, mais sa architecture et son apprentissage peuvent induire des stratégies qui n’ont pas d’équivalent direct chez les primates. Cette nuance est centrale pour éviter des extrapolations, notamment quand l’on discute de cognition, de perception ou de conscience.
Quelles conséquences pour la recherche et les futurs modèles de vision
Si ces résultats se confirment et se généralisent, ils poussent à revoir les protocoles d’évaluation des modèles de vision utilisés comme modèles du cerveau. La première conséquence est la nécessité d’une batterie de tests plus diversifiée, incluant des stimuli générés, des perturbations contrôlées, des images synthétiques, et des comparaisons sur des dimensions comportementales, par exemple les erreurs typiques, les temps de réaction, ou les effets d’attention. Le reverse prediction s’inscrit dans cette logique d’épreuves plus discriminantes.
Une seconde conséquence concerne l’entraînement des modèles. Beaucoup de réseaux apprennent sur des objectifs de classification et sur des ensembles d’images qui ne reflètent pas la vie réelle d’un primate, pas de mouvements oculaires, pas d’interaction active avec la scène, pas d’objectifs multiples, et un biais de collecte des données. Des travaux tentent déjà d’intégrer des contraintes plus biologiques, apprentissage auto-supervisé, vision active, contraintes énergétiques, architectures inspirées du cortex, ou entraînement multimodal. L’étude suggère que ces pistes doivent être évaluées sur des tests qui ciblent les processus, pas seulement les scores.
Le sujet a aussi une dimension pratique. Les systèmes de vision sont déployés dans des contextes sensibles, véhicules, imagerie médicale, contrôle qualité, surveillance, robotique. Si un modèle s’appuie sur des indices non robustes, il peut échouer dans des conditions inattendues, éclairage, occlusions, changements de texture, adversarial. Même si l’étude parle d’alignement avec le cerveau, elle rappelle indirectement qu’une stratégie efficace sur un benchmark peut être fragile sur le terrain. Les tests inspirés des neurosciences peuvent donc servir à mieux diagnostiquer les faiblesses de robustesse.
Pour les neurosciences, l’intérêt reste intact, les IA offrent des outils pour formuler des hypothèses, simuler des représentations et comparer des niveaux hiérarchiques. Mais l’usage doit être plus exigeant. Un modèle peut être un bon prédicteur sans être une bonne explication. Les chercheurs devront expliciter ce qu’ils attendent, prédiction de l’activité, reproduction des erreurs, invariances, sensibilité au contexte, ou correspondance anatomique. Chaque objectif implique des métriques et des protocoles différents.
Enfin, ces résultats peuvent influencer la manière dont on conçoit des modèles dits « interprétables ». Si l’on veut rapprocher l’IA du vivant, il faudra peut-être introduire des contraintes de robustesse, de parcimonie, de causalité, et des tâches plus proches de la perception naturelle. Les prochaines générations de modèles de vision pourraient être comparées au cerveau non seulement sur des corrélations, mais sur leur capacité à échouer au même endroit, pour les mêmes raisons, ce qui est souvent un test plus sévère qu’un succès moyen.
| Approche d’évaluation | Ce qu’elle mesure | Limite principale |
|---|---|---|
| Corrélation modèle-cerveau sur images standards | Similarité statistique des réponses | Peut masquer des stratégies différentes |
| Reverse prediction | Cohérence des stimuli qui maximisent l’accord | Exige des protocoles plus complexes |
| Tests de robustesse (occlusions, bruit, décalages) | Stabilité des décisions | Ne garantit pas l’alignement biologique |
| Comparaison d’erreurs et de confusions | Profil d’échec proche du vivant | Dépend fortement du jeu de stimuli |
