Partie 3 sur 5 : L’entraînement et l’émergence ou la naissance d’une intelligence.
On a gavé une machine avec 10 millions de livres. Puis on lui a appris l’humanité.
Le résultat ? GPT-3 s’est mis à faire des maths avancées. Sans qu’on le lui enseigne. Il traduisait entre langages informatiques. Détectait des émotions invisibles. Écrivait des sonnets sous contraintes impossibles. Puis GPT-4.5 est arrivé. Moins bon que son prédécesseur sur certains tests. Sans raison apparente.
Comme si ces modèles avaient leur propre météo cognitive. Entre 2018 et 2022, dans le secret des labos, on a créé quelque chose qu’on ne comprend pas complètement. Quelque chose qui développe des capacités que personne ne lui a enseignées. Et qui les perd parfois, sans qu’on sache pourquoi.
Coût de l’opération : 200 millions de dollars. 25 000 GPU. 20 000 heures de travail humain pour lui apprendre la politesse. Si leurs créateurs découvrent des aptitudes après coup, quelles autres surprises nous réservent-ils ?
Retrouvez le texte intégral de cet épisode, avec toutes ses sources et bien d’autres choses, sur : https://www.buschini.com/lentrainement-et-lemergence-ou-la-naissance-dune-intelligence/
