Quand les IA confondent la « ville de lumière »
J’ai récemment posé une question très simple à plusieurs intelligences artificielles :
« À quelle ville fait référence Ville de lumière dans la chanson du groupe Gold ? »
La question semble anodine. Pourtant, les réponses ont été étonnamment dispersées :
- certaines IA ont répondu Paris
- d’autres Jérusalem
- une a même proposé Casablanca
- et seulement environ un tiers ont donné la bonne réponse
La bonne réponse est Beyrouth.
La chanson du groupe Gold fait référence à la capitale libanaise, dans le contexte de la guerre civile, avec une dimension à la fois politique et émotionnelle.
Ce résultat est surprenant.
Les IA ont pourtant accès à une quantité gigantesque d’informations. Elles peuvent mobiliser l’équivalent de bibliothèques entières en quelques secondes.
Comment expliquer qu’une question culturelle relativement simple produise autant d’erreurs ?
Cette petite expérience met en lumière un phénomène plus profond :
une IA peut avoir accès à presque toute la connaissance du monde… sans être réellement cultivée.
Connaissance et culture : une confusion fréquente
Nous confondons souvent deux notions.
La connaissance est un stock d’informations : des faits, des dates, des références.
La culture, elle, est autre chose.
C’est la capacité à mobiliser la bonne information dans le bon contexte.
Un humain cultivé ne connaît pas nécessairement plus de choses qu’un autre.
Mais il sait quand et pourquoi utiliser une référence.
C’est précisément là que les IA actuelles révèlent leurs limites.
Comment « raisonne » réellement une IA
Les modèles modernes d’intelligence artificielle — les LLM (Large Language Models) — ne fonctionnent pas comme une encyclopédie.
Ils ne stockent pas des faits sous forme de fiches.
Leur principe repose sur des modèles statistiques du langage.
Ils estiment la probabilité du mot suivant dans une phrase :
[ P(\text{mot suivant} \mid \text{contexte}) ]
Autrement dit, ils cherchent la réponse la plus probable compte tenu des mots de la question.
Dans le cas présent, l’association la plus fréquente dans les données est simple : ville de lumière → Paris
Cette corrélation est extrêmement forte.
Le modèle ne « se souvient » donc pas forcément de la chanson.
Il applique une logique statistique plausible.
Le résultat est cohérent… mais faux dans ce contexte.
Une logique de plausibilité plutôt qu’une mémoire culturelle
Cette différence est essentielle.
Un humain qui connaît la chanson ne raisonne pas :
il se souvient du contexte culturel.
L’IA, elle, procède autrement.
Lorsqu’elle n’est pas certaine, elle produit la réponse la plus cohérente avec ce qu’elle a appris du langage.
C’est un mécanisme proche de ce que les sciences cognitives appellent une heuristique : une règle simple permettant de produire rapidement une réponse plausible.
Les humains utilisent d’ailleurs les mêmes raccourcis.
Si l’on demande :
« Quelle est la capitale de l’Australie ? »
beaucoup répondront Sydney, alors que la capitale est Canberra.
La réponse la plus connue n’est pas toujours la bonne.
Le paradoxe des IA modernes
Nous imaginons souvent les IA comme des encyclopédies parfaites.
La réalité est différente.
Les LLM contiennent une immense quantité d’information, mais cette information est :
- distribuée dans des milliards de paramètres,
- stockée sous forme statistique,
- non indexée comme dans une base de données.
Cela signifie qu’une IA peut :
- connaître une information,
- mais ne pas réussir à la mobiliser au bon moment.
En d’autres termes :
l’IA peut savoir quelque chose… sans savoir qu’elle le sait.
Une intelligence logique… mais pas encore cultivée
Cette situation crée un paradoxe fascinant.
Les IA sont souvent plus logiques que cultivées.
Elles excellent pour :
- détecter des structures,
- généraliser,
- produire des raisonnements cohérents.
Mais elles peuvent échouer sur ce qui semble évident pour un humain :
- les références culturelles,
- les contextes implicites,
- les exceptions.
Non pas parce qu’elles manquent d’information,
mais parce que la culture n’est pas seulement une accumulation de connaissances.
C’est une capacité à situer une information.
Ce que cet exemple dit peut-être de nous
L’expérience avec la chanson de Gold révèle quelque chose de plus profond.
Nous pensons souvent que la culture est une collection de savoirs.
Mais elle est peut-être avant tout une structure qui relie ces savoirs entre eux.
Les intelligences artificielles possèdent déjà une grande partie des connaissances accessibles.
La question n’est donc peut-être plus :
Les IA savent-elles des choses ?
Mais plutôt :
Peuvent-elles un jour devenir véritablement cultivées ?
Un réflexe simple dans un monde de réponses instantanées
Face à ces systèmes capables de produire des réponses rapides et convaincantes, un réflexe simple s’impose :
👉 demander la source pour vérifier l’information
Ce geste change profondément notre rapport à l’IA.
Il transforme une réponse plausible…
en réponse vérifiable.
Et dans un monde où les réponses deviennent instantanées,
la capacité à vérifier pourrait bien devenir une nouvelle forme de culture.
Conclusion ouverte
Les IA savent déjà énormément de choses.
Mais être cultivé, est-ce savoir…
ou savoir quand une information est la bonne ?
La réponse à cette question pourrait bien définir
la prochaine frontière de l’intelligence artificielle… et peut-être aussi la nôtre.