Kolibri, le modèle IA souverain entraîné sur 1000 GPU Blackwell
Aleph Alpha dévoile Kolibri, modèle ouvert de 78 milliards de paramètres entraîné en Europe sur plus de 1000 GPU Blackwell. Découvrez les enjeux de
Entraîner un grand modèle de langage, ce n'est pas seulement écrire du code intelligent. C'est aussi faire tourner des milliers de puces jour et nuit, pendant des mois, sans que rien ne s'arrête. Aleph Alpha vient de le prouver avec Kolibri, un modèle ouvert pensé pour les charges critiques, entraîné intégralement dans des centres de données européens. Et derrière cette performance, il y a une réalité matérielle bien concrète : plus de mille GPU NVIDIA Blackwell qui n'ont jamais cessé de tourner.
Kolibri, un modèle pensé pour les environnements exigeants
Kolibri n'est pas un modèle de langage comme les autres. Aleph Alpha l'a conçu pour des usages où l'erreur coûte cher : administration publique, industrie, aérospatiale. Comprendre ce positionnement change tout, car il conditionne chaque choix technique.
Une architecture efficace et raisonnée
Le modèle repose sur une architecture mixture of experts de 78 milliards de paramètres, avec seulement 3,46 milliards de paramètres actifs à chaque inférence. Concrètement, cela signifie que vous obtenez la puissance d'un très grand modèle sans en payer le coût de calcul à chaque requête. Kolibri propose aussi un effort de raisonnement contrôlable, un appel d'outils natif et une fenêtre de contexte pouvant atteindre un million de tokens.
Un modèle qui préfère s'abstenir plutôt que d'inventer
C'est peut-être la caractéristique la plus intéressante pour les métiers critiques : Kolibri est entraîné à s'abstenir quand le contexte est insuffisant, au lieu de deviner. Dans un secteur où une réponse fausse peut avoir des conséquences réelles, ce comportement vaut de l'or. Le modèle est également natif en allemand et en anglais, avec 21,3 % des tokens de pré-entraînement en allemand, dont une grande partie préparée en interne.
Ce que représente un millier de GPU Blackwell
Derrière Kolibri, il y a une infrastructure massive. Verda a fourni et opéré la flotte de calcul GPU, un parc bare-metal construit sur mesure avec des puces NVIDIA Blackwell et un interconnect NVIDIA InfiniBand. Voilà ce que cela implique concrètement.
- Plus de mille GPU fonctionnant en continu pendant des mois.
- Un réseau InfiniBand pour relier ces puces à très haute vitesse.
- Une maintenance opérationnelle assurée au quotidien pour Aleph Alpha.
- Une anticipation des pannes matérielles, inévitables à cette échelle.
Quand vous entraînez un modèle de cette taille, la panne n'est pas une exception : c'est une certitude. La vraie question n'est pas de savoir si une puce va lâcher, mais quand, et surtout comment vous allez le détecter et le corriger avant que cela ne fasse perdre des jours de calcul. C'est là que l'ingénierie d'infrastructure devient aussi importante que la recherche en IA elle-même.
Pourquoi entraîner en Europe change la donne
Kolibri a été entraîné sur Verda, dans des centres de données européens détenus et opérés en interne, jusqu'à la phase finale. Ce détail n'est pas anodin. Il touche directement à la souveraineté numérique et à la conformité réglementaire.
Aleph Alpha a documenté des mesures pour répondre aux exigences de droit d'auteur, de protection des données et du règlement européen sur l'IA, allant au-delà du socle légalement requis. Pour les organisations publiques et industrielles, c'est un argument de poids : vous ne dépendez pas d'une infrastructure opaque située hors de votre juridiction.
Un tokenizer qui parle vraiment allemand
On parle rarement du tokenizer, et c'est une erreur. C'est lui qui découpe votre texte avant que le modèle ne le traite. Aleph Alpha a conçu le sien pour être efficace dans les deux langues : il compresse mieux l'allemand que d'autres modèles, sans sacrifier l'anglais. Résultat : une inférence plus efficace, des coûts plus bas et des temps de réponse plus courts. Un détail technique, mais un vrai gain pour quiconque déploie le modèle en production.
Pourquoi c'est important
Cette histoire vous concerne directement, même si vous ne travaillez pas chez Aleph Alpha. Elle montre que l'IA souveraine n'est plus un slogan : elle se construit sur des GPU, des câbles et des équipes qui savent garder une machine en marche. Comprendre cette réalité matérielle vous aide à mieux évaluer les modèles que vous choisirez demain, et à mesurer ce qui se cache derrière une simple démo.
Conclusion
Kolibri rappelle une vérité simple : derrière chaque modèle de langage impressionnant, il y a une chaîne d'ingénierie humaine et matérielle qui tient la barre. Aleph Alpha et Verda viennent de démontrer qu'on peut entraîner un modèle de pointe sur le sol européen, avec des choix assumés de transparence et de robustesse. Pour vous, c'est une invitation à regarder au-delà de la vitrine : demandez où tourne le modèle, comment il gère l'incertitude, et qui garde les serveurs allumés.
Points clés à retenir
- Kolibri est un modèle ouvert de 78 milliards de paramètres, entraîné entièrement dans des centres de données européens.
- Son entraînement a mobilisé plus de mille GPU NVIDIA Blackwell fonctionnant en continu pendant des mois.
- Le modèle est conçu pour s'abstenir plutôt que d'inventer, un choix clé pour les usages critiques.
- Un tokenizer optimisé pour l'allemand améliore l'efficacité, les coûts et les temps de réponse.
- La souveraineté numérique se joue autant sur le matériel et l'infrastructure que sur les algorithmes.