Une machine à remonter le temps… sans DeLorean (et sans essence)
Et si on pouvait discuter avec une intelligence artificielle qui n’a jamais entendu parler d’Internet, de smartphones, de la télévision ou même de la conquête spatiale ? Pas une IA qui fait semblant, mais une IA réellement « bloquée » au 31 décembre 1930, nourrie uniquement de textes de l’époque.
C’est exactement l’idée derrière Talkie, aussi appelé 13B 1030 LM : un LLM vintage conçu pour tester une question aussi simple que vertigineuse : qu’est-ce qu’un modèle de langage peut comprendre, prédire ou inventer si on le prive de tout le XXe siècle… et du XXIe, évidemment ?
Et derrière la curiosité façon science-fiction, il y a un vrai enjeu : mieux comprendre comment les IA génératives construisent une “vision du monde”, comment apparaissent leurs biais, et jusqu’où elles peuvent extrapoler à partir d’un passé figé.
Talkie, c’est quoi exactement ?
Talkie est un modèle de langage (LLM) basé sur 13 milliards de paramètres. La particularité n’est pas tant sa taille que son régime strict : il a été entraîné sur un immense corpus en anglais décrivant le monde jusqu’à fin 1930.
Les chercheurs parlent de l’équivalent d’environ 234 milliards de pages. L’idée est de reconstituer un “esprit textuel” d’époque, avec ses références, son vocabulaire, ses certitudes et… ses angles morts.
L’objectif est double :
- Simuler une conversation avec quelqu’un d’avant 1931 (ce que l’humain ne peut pas faire, sauf à disposer d’un vrai voyage dans le temps).
- Mesurer les capacités de prédiction d’un LLM qui fonctionne par probabilités : peut-il deviner la suite de l’Histoire en extrapolant depuis les signaux de 1930 ?
Pourquoi l’année 1930 n’est pas choisie au hasard
Le choix de 1930 ne relève pas d’un simple goût pour le jazz et les machines à écrire. Il est aussi… très administratif.
Aux États-Unis, une grande partie des œuvres publiées 95 ans plus tôt entrent dans le domaine public. Résultat : les chercheurs peuvent constituer un corpus massif de textes d’époque sans se heurter à une muraille de droits d’auteur.
Donc oui, Talkie est en partie un projet scientifique, et en partie un contournement élégant du “vous n’avez pas le droit d’utiliser ce texte”.
Faire voyager une IA dans le temps, c’est plus compliqué qu’on croit
Créer une IA figée en 1930 sur le papier, c’est séduisant. Dans la réalité, ça se complique vite.
1) Les données “d’époque” sont souvent numérisées
Une partie du corpus vient de documents physiques scannés, puis convertis en texte via OCR. Et l’OCR, surtout sur des polices anciennes ou des pages jaunies, peut introduire des erreurs. Ce n’est pas dramatique, mais ça peut créer du bruit ou des formulations étranges.
2) Le vrai piège : la “contamination”
Les chercheurs pointent un problème crucial : il est très probable que des données postérieures à 1930 se soient glissées dans l’entraînement.
C’est ce qu’ils appellent la contamination.
Un exemple simple : une édition numérisée d’un livre de 1920 peut contenir une préface ajoutée en 1950. Ou des métadonnées modernes. Ou une note d’éditeur. Et hop, l’IA “apprend” un morceau du futur sans qu’on l’ait voulu.
Ce point est essentiel, parce qu’il montre à quel point il est difficile de construire un modèle parfaitement “hors du temps”.
Est-ce que Talkie arrive à prédire le monde d’après 1930 ?
C’est là que ça devient fascinant… et un peu rassurant pour les amateurs de prophéties ratées.
Quand on lui demande de prédire l’après 1930, Talkie n’a rien d’un Nostradamus algorithmique :
- Il ne voit pas venir de conflit mondial majeur.
- Il n’anticipe pas vraiment la montée du nazisme.
- Il ne prédit pas Internet, ni les smartphones, ni la TV, ni l’ère spatiale.
En revanche, une fois qu’on lui décrit le monde moderne, il “découvre” ces éléments avec étonnement, comme si vous expliquiez TikTok à un bibliothécaire de 1930 (sans jugement, mais avec un soupçon de tristesse).
Pourquoi c’est important
On attribue parfois aux IA une capacité quasi magique à “voir” le futur. Talkie rappelle une chose : un LLM extrapole depuis des régularités dans les données. S’il manque les signaux, il ne peut pas les inventer correctement.
Et c’est une leçon utile : les LLM sont forts en continuité, pas en ruptures historiques.
Ce que Talkie révèle sur la mécanique des LLM
Le projet n’est pas seulement un gadget rétro. Il sert de microscope.
1) Tester les biais culturels et linguistiques d’une époque
Un corpus de 1930 embarque des normes sociales, des implicites et des cadrages très différents de ceux d’aujourd’hui. Talkie peut donc aider à :
- comprendre comment un texte ancien encode des présupposés
- repérer ce qui était “normal” dans la langue de l’époque
- analyser l’évolution des concepts (travail, science, politique, technologie)
C’est particulièrement précieux pour interpréter des documents historiques, des lois ou des textes juridiques dont le sens dépend du contexte.
2) Observer comment un modèle “se construit une identité”
Les chercheurs s’intéressent aussi à un point intrigant : comment un modèle se représente lui-même.
Un LLM adapte son comportement à ce qu’on attend de lui. Discuter avec un modèle qui ignore l’existence de l’IA moderne permet de mieux comprendre comment surgissent certains réflexes conversationnels, même sans qu’on lui ait explicitement appris “tu es un chatbot”.
Une IA de 1930 qui code en Python ? Oui, et c’est presque insultant
Moment délicieux du projet : les chercheurs ont demandé à Talkie de coder en Python, un langage inventé en 1991.
Évidemment, Talkie n’a jamais vu Python, ni un ordinateur moderne, ni même l’idée d’un développeur en hoodie qui vit de café.
Et pourtant, le modèle a parfois produit des solutions correctes.
Comment est-ce possible ?
- Un LLM manipule des structures logiques et des patterns
- Il peut “reconstruire” des règles plausibles à partir de la demande
- Il peut imiter le style d’un code, même s’il n’en a pas appris les références historiques
Mais attention : les résultats restent limités, et le modèle se trompe souvent. L’intérêt ici n’est pas d’en faire un IDE, mais de mesurer la capacité de recombinaison à partir d’un monde qui n’a pas encore inventé l’informatique telle qu’on la connaît.
Les hallucinations : même en 1930, l’IA invente des trucs avec aplomb
Autre point marquant : Talkie souffre aussi d’hallucinations.
Quand il raconte des événements historiques, il peut :
- inventer des faits
- créer des anecdotes plausibles mais fausses
- relier des éléments réels avec une logique narrative trompeuse
Et c’est un rappel utile : la date du corpus ne change pas la nature du problème. Un LLM vise une réponse probable, pas une réponse vraie.
C’est comme un camarade de classe très sûr de lui qui vous explique une théorie complètement inventée… sauf qu’ici, il écrit mieux que tout le monde.
Talkie face aux modèles modernes : le choc des époques
L’expérience devient encore plus intéressante quand Talkie échange avec des IA actuelles. On voit apparaître un contraste net :
- Les modèles modernes ont un vocabulaire et un cadre mental adapté à notre monde
- Talkie raisonne avec des concepts plus anciens, et réagit “comme un esprit de 1930” aux informations du présent
Ce choc des époques permet d’observer ce que les modèles apprennent vraiment : une langue, certes, mais aussi une structure implicite du réel.
À quoi ça peut servir, au-delà du côté fun ?
Talkie peut sembler être un projet “pour le plaisir”. En réalité, il ouvre plusieurs usages concrets.
1) Audit de modèles et recherche sur les biais
En comparant un modèle vintage et un modèle moderne, on peut isoler :
- ce qui vient du corpus
- ce qui vient du fine-tuning
- ce qui vient des filtres de sécurité
- ce qui vient des habitudes conversationnelles
Bref, de quoi faire avancer la compréhension et l’évaluation des IA génératives.
2) Histoire, sciences sociales, linguistique
Pouvoir interroger un modèle “d’époque” peut aider à :
- reformuler des textes anciens dans leur logique propre
- tester des interprétations historiques
- explorer les glissements de sens des mots
3) Tester la capacité de découverte et d’invention
Les chercheurs se sont aussi intéressés à un défi plus ambitieux : demander à un modèle entraîné jusqu’en 1911 s’il pourrait “découvrir” la relativité générale comme Einstein en 1915.
Même si les détails des résultats ne sont pas précisés ici, la démarche est passionnante : elle explore la frontière entre recombiner et découvrir.
Ce que cette IA “bloquée” nous apprend sur notre futur
Le point le plus subtil du projet Talkie, ce n’est pas “l’IA du passé qui ne comprend pas le smartphone”. C’est ce que ça dit de nous.
- On surestime facilement la capacité d’un modèle à prédire des ruptures.
- On confond souvent “parler avec assurance” et “savoir”.
- On oublie que la donnée façonne la réalité mentale du modèle.
Talkie agit comme un miroir : si un LLM de 1930 ne devine pas Internet, ça rappelle que nos modèles actuels ne devineront pas forcément les grandes cassures de demain. Ils extrapoleront… jusqu’au moment où le monde décidera de changer les règles.
Envie de tester Talkie par vous-même ?
Il est possible d’explorer ce que “pense” ce LLM vintage via le site du projet Talkie (en anglais). Préparez-vous à des réponses parfois brillantes, parfois à côté, et parfois délicieusement désuètes.
Source : https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-chercheurs-ont-cree-ia-bloquee-1930-voir-elle-comprend-predit-decouvre-notre-monde-moderne-134157/