Aleph Alpha Kolibri : un modèle souverain à héberger, mais en allemand et en anglais

Kolibri d'Aleph Alpha : qu'est-ce que c'est, et peut-on l'héberger soi-même ?

Kolibri-1 est un modèle de langage à poids ouverts, publié par Aleph Alpha le 3 octobre 2026 sous licence Apache 2.0. Il compte 78 milliards de paramètres, dont 3,46 milliards actifs par token, et vise l'allemand et l'anglais. Oui, on peut l'héberger soi-même : ses poids pèsent environ 78 Go, et une H200 est la configuration minimale.

Le français, lui, n'est pas une langue revendiquée. Pour un grand compte français, c'est le premier critère à trancher, avant le matériel.

Voici la fiche, telle que la donne la fiche Hugging Face au 13 octobre 2026 :

Critère	Valeur déclarée par Aleph Alpha
Architecture	mixture-of-experts, 384 experts par couche, 6 choisis par token
Paramètres	78,1 milliards au total, 3,46 milliards actifs par token
Langues	allemand, anglais
Contexte	262 144 tokens en natif, 1 048 576 par extrapolation
Poids	FP8, environ 78 Go
Matériel	minimum une H200, recommandé deux H200
Licence	Apache 2.0, sur les poids et la configuration

Un mixture-of-experts (MoE) est un modèle découpé en sous-réseaux spécialisés. Pour chaque token, un routeur n'en active que quelques-uns : le calcul reste celui d'un petit modèle.

Ce que couvre la licence Apache 2.0, et ce qu'elle ne couvre pas

Apache 2.0 est une licence permissive. Elle autorise l'usage commercial, la modification et la redistribution des poids, sans redevance. Pour un service juridique, c'est une licence connue, plus simple qu'une licence maison.

La fiche en borne pourtant le périmètre. Les droits ne portent que sur les poids et les fichiers de configuration du dépôt. Aleph Alpha écrit que la licence ne s'étend pas au code sous-jacent, à l'architecture, aux réglages ni aux méthodes d'entraînement.

En pratique, vous pouvez exploiter et affiner le modèle. Vous ne recevez pas la recette pour le réentraîner. Le plugin d'inférence, publié à part sur GitHub, est lui aussi sous Apache 2.0.

La fiche précise aussi l'usage prévu : des assistants et des agents où une personne relit la sortie avant d'agir. Dans un outil d'aide à la décision, Kolibri doit proposer, pas décider.

Une seule H200 suffit-elle ?

Pour charger le modèle, oui. Les poids FP8 occupent environ 78 Go, et une H200 offre 141 Go de mémoire selon NVIDIA. La fiche classe pourtant une seule H200 en « minimum » et recommande deux H200, ou une B200.

La raison tient au cache KV (la mémoire des tokens déjà lus par le modèle). Il grossit avec la longueur du contexte et le nombre de requêtes simultanées. Un MoE a un autre coût : tous les experts restent en mémoire, même si peu travaillent à chaque token.

La fiche ne dit pas combien d'utilisateurs une seule H200 sert. Je ne l'ai pas mesuré. Je suivrais la recommandation de la fiche : deux cartes pour la production, une pour un banc d'essai.

Autre contrainte : Kolibri ne tourne pas sur une installation standard de vLLM, le serveur d'inférence open source qu'il utilise. Il exige le plugin vLLM d'Aleph Alpha, en paquet Python aleph-alpha-inference ou en image conteneur ghcr.io/aleph-alpha/aleph-alpha-inference. Chaque version du plugin ne supporte qu'une version mineure de vLLM, aujourd'hui la 0.29.

La commande de la fiche :

pip install 'aleph-alpha-inference>=1'

vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 \
  --reasoning-parser kolibri1 \
  --tool-call-parser kolibri1 \
  --enable-auto-tool-choice

Votre équipe d'exploitation doit donc suivre le rythme du plugin, pas celui de vLLM.

Français et million de tokens : les deux limites à lire avant de choisir

La fiche ne liste que deux langues : l'allemand et l'anglais. Aleph Alpha en fait un choix assumé, « la profondeur plutôt que l'étendue ». Au filtrage, ses documents web sont triés en deux branches, anglaise et allemande.

Le rapport technique chiffre le reste. Dans les données d'ajustement supervisé (les exemples qui apprennent au modèle à répondre), 2,4 % sont dans d'autres langues, sans liste.

Aucun benchmark français n'est publié. Je ne l'ai pas testé en français : rien ne permet de promettre une qualité.

Le contexte d'un million de tokens demande aussi une lecture attentive. Le modèle a été entraîné jusqu'à 262 144 tokens, sa longueur native. Au-delà, il s'agit d'une extrapolation, qu'Aleph Alpha dit avoir validée jusqu'à 1 048 576.

L'éditeur recommande lui-même de rester sous 262 144 tokens pour les tâches complexes. Aleph Alpha publie aussi sa mesure sur RULER, un test public de recherche d'informations dans un long texte. Sur le modèle de base, le score passe de 86,9 à 4 000 tokens à 63,2 à un million.

Brancher Kolibri dans une application Spring Boot

vLLM expose une API compatible OpenAI. Côté Java, c'est le même branchement que pour tout serveur compatible, comme dans mon article sur OpenRouter. Avec Spring AI 2.0.1, la version stable, la configuration tient en quelques propriétés :

spring.ai.openai.base-url=http://gpu-interne:8000
spring.ai.openai.api-key=EMPTY
spring.ai.openai.chat.model=Aleph-Alpha/Kolibri-1
spring.ai.openai.chat.temperature=1.0
spring.ai.openai.chat.top-p=0.97
spring.ai.openai.chat.extra-body.top_k=128

Les valeurs d'échantillonnage sont celles que recommande la fiche. Selon la doc Spring AI, certains serveurs attendent /v1 à la fin de l'URL de base : vérifiez sur le vôtre.

Le raisonnement se règle par requête. Kolibri lit reasoning_effort (none, low, medium, high) dans chat_template_kwargs, un champ propre à vLLM. L'option extraBody de Spring AI ajoute ce champ à la racine du JSON :

var options = OpenAiChatOptions.builder()
    .extraBody(Map.of("chat_template_kwargs",
        Map.of("reasoning_effort", "low")))
    .build();

String resume = chatClient.prompt()
    .user("Fasse diesen Vertrag in fünf Punkten zusammen.")
    .options(options)
    .call()
    .content();

Ces deux blocs n'ont été ni compilés ni exécutés. Ils assemblent la doc Spring AI et la fiche du modèle.

Un point à contrôler : la doc Spring AI lit la chaîne de raisonnement dans reasoning_content, le README du plugin parle d'un champ reasoning. Si la métadonnée reasoningContent reste vide, c'est là qu'il faut regarder.

Avec LangChain4j, OpenAiChatModel vise la même URL, et customParameters transporte chat_template_kwargs.

Souveraineté : ce que Kolibri garantit à un grand compte, et ce qu'il ne garantit pas

Une fois les poids téléchargés, les requêtes restent sur vos serveurs. Le texte d'Apache 2.0 accorde une licence de droit d'auteur perpétuelle et irrévocable : l'éditeur ne peut pas la retirer sur une copie déjà téléchargée. Je n'ai pas trouvé d'API publique à la demande : la page Kolibri renvoie vers le téléchargement ou vers les commerciaux.

L'éditeur, lui, va changer de mains. Aleph Alpha et le canadien Cohere ont signé un accord de rapprochement définitif le 16 septembre 2026.

L'ensemble opérera sous le nom Cohere, sous réserve des autorisations réglementaires. Jusqu'à la clôture, Aleph Alpha reste indépendant, précise son communiqué du 5 octobre.

Cela ne change rien aux poids sous Apache 2.0. Cela peut changer le support, la feuille de route et la suite de la gamme.

Côté qualité, tous les chiffres viennent d'Aleph Alpha. Sa fiche lui attribue 75,5 de moyenne en anglais, devant Qwen3.6 35B-A3B (71,4) et Nemotron 3 Super (73,0).

Le même tableau place Qwen3.8 27B, un modèle dense de 27 milliards de paramètres, à 80,2. Je n'ai trouvé aucune mesure indépendante au 13 octobre.

Pour un autre modèle européen, j'ai aussi lu la fiche de Mistral Large 4.

Que faire maintenant ?

Mon avis : Kolibri est un modèle sérieux pour un groupe dont les textes sont en allemand ou en anglais. Sa licence et sa taille en font un bon candidat à l'auto-hébergement. Pour un service qui travaille en français, ce n'est pas le bon point de départ tant qu'aucun test ne montre le contraire.

Trois actions :

1. Trancher la langue d'abord. Faites traiter quelques dizaines de vos documents réels, en français, par Kolibri sur un banc d'essai. Sans ce test, ne l'inscrivez pas dans un appel d'offres.
2. Tester sur votre matériel cible. Montez une H200 de banc d'essai avec le plugin aleph-alpha-inference et votre longueur de contexte réelle. Mesurez le débit avant de chiffrer la production.
3. Garder le modèle interchangeable. Passez par l'API compatible OpenAI et la configuration Spring AI. Changer de modèle revient alors à changer une propriété.

Vous voulez brancher un modèle auto-hébergé sur une application Java / Spring Boot existante ? Je développe sur cette stack depuis 2015. Réserver un appel découverte de 30 minutes.