Tous les articles
IA & dev

Nemotron 3.5 : NVIDIA ouvre Super VL et Bolt, 24 Go de poids pour lire vos documents en local

Par Elouan Laurent
Carte graphique NVIDIA GeForce RTX posée sur un bureau, matériel pour faire tourner un modèle en local

Nemotron 3.5 : qu'est-ce que NVIDIA publie le 15 octobre 2026 ?

NVIDIA publie deux modèles vision-langage ouverts le 15 octobre 2026, sous la marque NVIDIA Nemotron. Nemotron 3.5 Super VL vise les serveurs. Nemotron 3.5 Bolt 74B-A9B vise un poste local : quantifié en 2 bits, il pèse environ 24 Go. Les deux sont sous licence OpenMDW-1.1, et NVIDIA les déclare prêts pour un usage commercial.

Les deux sorties ne viennent pas du même texte. Super VL a son billet développeur, daté du 15 octobre, qui ne cite pas Bolt. Bolt a été annoncé le 13 octobre sur le blog de NVIDIA, avec les portables RTX Spark, puis publié le 15 sur Hugging Face.

Voici les deux fiches, au 15 octobre 2026 :

Super VL Bolt 74B-A9B
Paramètres 120 milliards, 12 milliards actifs 74 milliards, 9 milliards actifs
Contexte max 1 million de tokens 256 000 tokens
Entrées texte, image, document, vidéo texte, image, vidéo
Matériel visé (fiches) 1 DGX Spark, 1 H200 ou 2 H100 (version NVFP4) GPU de 32 Go et plus, RTX Spark, DGX Spark
Licence OpenMDW-1.1 OpenMDW-1.1

Bolt est une version compressée de Super VL. C'est lui qui m'intéresse ici : il rend crédible la lecture de documents internes sur une seule machine, sans envoyer un octet dans le cloud.

Bolt « tient dans 24 Go » : ce que ça veut dire pour votre GPU

Bolt est un modèle MoE (mélange d'experts : pour chaque token, seuls quelques sous-réseaux travaillent). Le calcul de chaque token ne mobilise donc qu'environ 9 milliards de paramètres. Mais les 74 milliards doivent rester en mémoire.

D'où la quantification en 2 bits. Elle code chaque poids des experts sur 2,0625 bits au lieu de 16. NVIDIA dit l'avoir apprise pendant l'entraînement, pour limiter la perte de qualité.

Pour NVIDIA, « 24 Go » est une cible de mémoire : la fiche parle de tenir « dans 24 Go de mémoire ». Ce n'est pas la taille de carte qu'il vous faut. Les fichiers, eux, pèsent 24,12 Go sur Hugging Face. La version GGUF (le format de llama.cpp) fait 22,02 Go, plus 1,73 Go pour la partie vision.

La fiche GGUF donne deux recettes, et aucune ne vise une carte de 24 Go :

  • recette 28 Go : GPU de 32 Go et plus, ou RTX Spark 64 Go, avec 65 536 tokens de contexte ;
  • recette 32 Go : GPU de 48 Go et plus, ou RTX Spark 128 Go, avec les 256 000 tokens.

La RTX 5090 et ses 32 Go figurent dans le matériel de test de NVIDIA. C'est la carte grand public qui colle au cas « une seule machine ». Aucune recette ne descend sous 32 Go de mémoire GPU, et j'ignore comment Bolt se comporte au-dessous.

Côté outils, la fiche vLLM ne déclare compatibles que les GPU Blackwell (SM120 et SM121). La fiche GGUF vise llama.cpp sur GPU Ada Lovelace ou Blackwell, sous Windows ou Linux. Ollama publie aussi nemotron-3.5-bolt : 25 Go, texte et image. La page précise que les Mac Apple Silicon ne sont pas pris en charge pour l'instant.

OpenMDW-1.1 : une licence courte, avec une clause à connaître

Le texte de l'OpenMDW-1.1 tient en une page. Il accorde le droit d'utiliser les poids, le code et les données « sans restriction » et gratuitement. Aucune clause ne limite l'usage commercial, ni le nombre d'utilisateurs.

Trois points méritent l'attention d'un juriste :

  1. Redistribution. Si vous redistribuez tout ou partie du modèle, joignez la licence et les mentions d'origine.
  2. Clause de résiliation. Si vous attaquez quelqu'un en justice en affirmant que le modèle viole un brevet ou un droit d'auteur, vos droits tombent. Seule exception : la riposte à une action engagée contre vous.
  3. Droits des tiers. La licence vous laisse seul responsable des droits d'autrui sur le modèle et ses données.

Les sorties du modèle, elles, sont libres. La licence ne pose aucune condition sur ce que vous générez.

Les performances annoncées sont celles de NVIDIA

Tous les chiffres ci-dessous viennent de NVIDIA. Au 15 octobre 2026, je n'ai trouvé aucune mesure de Bolt publiée par un tiers.

Sur la fiche de Bolt, NVIDIA le place devant Qwen3.6-35B-A3B sur 10 tests sur 13. Qwen3.6 y est mesuré non quantifié (BF16), Bolt dans sa version 2 bits. Par exemple GPQA Diamond, un test de questions scientifiques : 86,43 contre 83,40.

Le même tableau laisse Qwen3.6 devant sur trois tests. Le plus parlant pour lire des documents : la non-hallucination AA-Omniscience, où Bolt fait 61,27, contre 65,85 pour Qwen3.6.

La vitesse vient d'une autre page, le blog de recherche de NVIDIA. Mesurée sur un portable RTX Spark avec llama.cpp, elle place Bolt derrière : 84 tokens par seconde, contre environ 97 pour Qwen3.6 et 101 pour Gemma 4.

Pour Super VL, NVIDIA annonce 80,8 % sur CharXiv, un test de lecture de graphiques. Il le dit aussi parmi les meilleurs modèles ouverts du classement OCRBench v2.

Le cas le plus proche des factures vient de Ramp, cité par NVIDIA parmi les organisations qui post-entraînent Super VL. Ramp convertit des photos de reçus en JSON. Le billet parle de gains attendus, pas mesurés. Et il s'agit de Super VL, pas de Bolt.

Lire une facture scannée depuis Spring Boot, sans sortir du réseau

Le scénario : un service comptable reçoit des factures en PDF scanné. Personne ne veut les envoyer à une API américaine. Bolt tourne sur un poste interne équipé d'une carte de 32 Go et lit chaque page.

Sur une carte de 32 Go, la recette documentée est celle de llama.cpp. Son serveur, llama-server, expose une API compatible OpenAI sous /v1, comme vLLM, que NVIDIA associe au DGX Spark.

J'ai décrit le branchement Spring AI sur vLLM pour un modèle texte : il vaut pour les deux serveurs. Ce qui change ici, c'est l'image en entrée, que Spring AI 2.0.1 transmet avec media(...) :

# URL et identifiant du modèle : à lire sur votre serveur (GET /v1/models)
spring.ai.openai.base-url=${LLM_BASE_URL}
spring.ai.openai.api-key=EMPTY
spring.ai.openai.chat.model=${LLM_MODEL}
spring.ai.openai.chat.temperature=1.0
spring.ai.openai.chat.top-p=0.95

var options = OpenAiChatOptions.builder()
    .extraBody(Map.of("chat_template_kwargs",
        Map.of("enable_thinking", false)))
    .build();

String json = chatClient.prompt()
    .user(u -> u.text("""
            Extrais de cette facture : fournisseur, numéro, date,
            montant HT, TVA et montant TTC. Réponds en JSON uniquement.""")
        .media(MimeTypeUtils.IMAGE_PNG, new FileSystemResource(pagePng)))
    .options(options)
    .call()
    .content();

Je n'ai ni compilé ni exécuté ces blocs. Ils assemblent la doc Spring AI et les fiches de Bolt.

Température et top_p sont les valeurs que recommandent les fiches. enable_thinking coupe le raisonnement, selon les mêmes fiches ; pour une extraction simple, je commencerais sans.

Quatre pièges à connaître :

  1. Le contexte. La recette 28 Go, celle d'une carte de 32 Go, s'arrête à 65 536 tokens. C'est large pour une page, pas pour un dossier entier.
  2. Une image à la fois. La recette vLLM limite chaque requête à une image. Convertissez chaque page du PDF en image et envoyez-les une par une ; je ferais de même avec llama.cpp.
  3. Le nom du modèle. La fiche llama.cpp lit l'identifiant servi sur /v1/models. Côté vLLM, la commande vllm serve de la fiche cite nvidia/Nemotron-3.5-Bolt-74B-A9B-24GB, introuvable sur Hugging Face ; le dépôt public s'appelle nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB. La même recette tourne sur une image vLLM nightly, que la fiche épingle sur un commit précis : gardez ce tag.
  4. Le /v1. La doc Spring AI configure vLLM sans /v1 dans l'URL de base, mais conseille de l'ajouter pour un autre serveur local. Testez les deux.

Avec LangChain4j, OpenAiChatModel vise la même URL avec baseUrl(...), et ImageContent porte l'image en base64.

Que faire maintenant ?

Mon avis : Bolt est un candidat sérieux de LLM local pour lire des documents sur une seule carte. À une condition : une carte de 32 Go, pas de 24.

Super VL, lui, demande au minimum un DGX Spark ou un GPU de data center comme le H200. C'est le choix d'une équipe qui héberge déjà ses GPU.

Ce que je ferais cette semaine :

  1. Constituer un jeu de 30 documents réels : factures, bons de livraison, scans de travers. Notez à la main les champs attendus.
  2. Mesurer Bolt sur ce jeu, en local, avant de lire un seul benchmark. Le français figure dans les langues de la fiche, mais NVIDIA ne publie aucun résultat sur des documents français. Et pour réentraîner la partie vision de Bolt, NVIDIA a surtout utilisé de l'OCR de documents chinois et des données en anglais.
  3. Faire lire la licence à votre juriste, surtout la clause de résiliation si votre groupe défend des brevets.

Comparez avec Beam de Reflection AI, annoncé le 5 octobre : au 15 octobre, ses poids ne sont toujours pas sur Hugging Face. Ceux de Bolt sont téléchargeables dès sa sortie. Pour un pilote, c'est la différence qui compte.

Vous voulez faire lire vos factures ou vos PDF scannés par un modèle local, appelé depuis votre application Java / Spring Boot ? Je développe sur cette stack depuis 2015. Réserver un appel découverte de 30 minutes pour cadrer ce pilote sur vos documents.

À lire ensuite