Masterclass communautaire sur l'architecture Transformer et ses fondements mathématiques, en accès libre.
On peut utiliser un modèle sans comprendre son fonctionnement. On ne peut pas l’adapter à une langue peu dotée sans cela. C’est tout l’enjeu d’une masterclass qui va aux mathématiques plutôt qu’aux effets de surface.
Les mathématiques derrière les modèles
En juillet 2025, une masterclass consacrée aux Transformers et aux grands modèles de langue s’est tenue à Kara les 14 et 15, puis à Lomé les 18 et 19. Elle était mise en œuvre par Togo Data Lab, à l’initiative du ministère chargé de l’économie numérique, et animée par le Dr Pagdame Tiébékabé, enseignant-chercheur en mathématiques à l’Université de Kara.
Le programme allait droit aux fondements : mécanisme d’attention, représentations vectorielles, encodage — la mécanique qui fait réellement tourner un modèle, avec la théorie et le code Python côte à côte.
Pourquoi cela compte pour les langues africaines
Les choix qui déterminent si un modèle sait traiter l’éwé ou le kabiyè ne se prennent pas au niveau de l’interface. Ils se prennent dans la tokenisation, dans la représentation des sons, dans la façon dont l’attention traite des séquences pour lesquelles elle n’a pas été calibrée. Ce sont des décisions mathématiques.
- Une tokenisation pensée pour l’anglais découpe mal une langue à tons.
- Un corpus réduit impose des arbitrages d’architecture qu’un corpus abondant dispense de faire.
- Sans comprendre le mécanisme, on constate qu’un modèle échoue sans savoir pourquoi.
Une série, pas un événement isolé
Togo Data Lab enchaîne ces rendez-vous. Après les Transformers en juillet, une session « IA générative et biens communs » s’est tenue en septembre à Kara et à Lomé, puis une masterclass consacrée à l’IA au service de l’accès aux soins en zone rurale. L’affluence à chacune dit assez le besoin.
Former localement, ou dépendre durablement
Umbaji suit ces initiatives de près, et pour une raison simple : la compétence technique sur les langues togolaises ne viendra pas de l’extérieur. Elle se forme sur place, dans des salles comme celle-ci, chez des personnes qui parlent les langues concernées et comprennent la mécanique des modèles. Les deux moitiés sont indispensables, et c’est leur rencontre qui est rare.
Vous formez, vous cherchez, ou vous voulez contribuer au corpus qui rendra ces modèles possibles ? Parlons-en.
