Masterclass communautaire sur l'architecture Transformer et ses fondements mathématiques, en accès libre.
On peut utiliser un modèle sans comprendre son fonctionnement. On ne peut pas l’adapter à une langue peu dotée sans cela. C’est l’enjeu d’une formation qui va aux mathématiques plutôt qu’aux effets de surface.
Le contexte
En juillet 2025, une masterclass consacrée aux Transformers et aux grands modèles de langue s’est tenue à Kara les 14 et 15, puis à Lomé les 18 et 19. Elle était mise en œuvre par Togo Data Lab, à l’initiative du ministère chargé de l’économie numérique, et animée par le Dr Pagdame Tiébékabé, enseignant-chercheur en mathématiques à l’Université de Kara.
Le programme allait droit aux fondements : mécanisme d’attention, représentations vectorielles, encodage — la mécanique qui fait tourner un modèle, avec la théorie et le code Python côte à côte.
Pourquoi nous suivons ce travail
Umbaji n’a pas organisé cette masterclass et ne s’en attribue pas le mérite : elle revient au ministère, à Togo Data Lab et à celles et ceux qui l’ont animée. Nous la suivons de près pour une raison précise — la compétence technique sur les langues togolaises ne viendra pas de l’extérieur.
Les choix qui déterminent si un modèle sait traiter l’éwé ou le kabiyè ne se prennent pas au niveau de l’interface. Ils se prennent dans la tokenisation, dans la représentation des sons, dans la façon dont l’attention traite des séquences pour lesquelles elle n’a pas été calibrée. Ce sont des décisions mathématiques, et elles supposent des gens formés.
- Une tokenisation pensée pour l’anglais découpe mal une langue à tons.
- Un corpus réduit impose des arbitrages d’architecture qu’un corpus abondant dispense de faire.
- Sans comprendre le mécanisme, on constate qu’un modèle échoue sans savoir pourquoi.
Ce que cela change
Ces rendez-vous s’enchaînent. Après les Transformers en juillet, une session « IA générative et biens communs » s’est tenue en septembre à Kara et à Lomé, puis une masterclass consacrée à l’IA au service de l’accès aux soins en zone rurale. L’affluence à chacune dit assez le besoin — et chaque promotion élargit le vivier de personnes capables de travailler sur ces langues.
La suite
Il faut deux compétences réunies chez les mêmes personnes : parler les langues concernées, et comprendre la mécanique des modèles. Prises séparément, elles existent déjà. C’est leur rencontre qui est rare, et c’est exactement ce que ce type de formation produit.
Vous formez, vous cherchez, ou vous voulez contribuer au corpus qui rendra ces modèles possibles ? Parlons-en.
