--- title: "Gemma-4-26B-A4B-it (NVFP4) · DGX Spark Arena" canonical: "https://djangodevreng.nl/arena/gemma-4-26b-a4b-it-nvfp4-v23/" license: "CC-BY-4.0" source: "https://github.com/djangodevreng/dgx-spark-benchmarks/tree/a948cec23b054c62fef595bad3cdb284066922ac/results/gemma-4/gemma-4-26b-a4b-it/nvfp4-v23/" source_revision: "a948cec23b054c62fef595bad3cdb284066922ac" contract_version: 1 suite_version: "2026-08" minimum_request_success_rate: 0.99 sanity_status: "not_recorded" attribution: "Django de Vreng, https://djangodevreng.nl" --- # Gemma-4-26B-A4B-it (NVFP4) Gemeten op 2026-08-06 met vLLM v0.26.0. In de chattest met tien gelijktijdige verzoeken haalt dit profiel 21,1 tokens/s per gebruiker, met gemiddeld 1,28 seconden tot het eerste token. Bij 25k context stijgt die gemiddelde wachttijd naar 38,8 seconden. Bij deze historische run is geen sanity-check vastgelegd. Dat bewijs ontbreekt, ook wanneer de snelheidsmeting volgens de huidige regels meetelt. De URL bevat nog v23, maar de huidige bronrun is uitgevoerd met vLLM v0.26.0. ## Specificaties - Vendor: NVIDIA (re-quant van Google) - Architectuur: MoE - Parameters: 26B-A4B - Precisie: NVFP4 - Context: 256K - Gemeten op: 128K - VRAM: 24 GB - Engine: vLLM v0.26.0 - Hardware: DGX Spark, NVIDIA GB10, 128 GB unified memory - Model card: https://huggingface.co/nvidia/Gemma-4-26B-A4B-NVFP4 ## Quality (model-cards) Alleen ter referentie. De harnesses en dekking verschillen per model; deze cijfers tellen niet mee in de hardware-score. Bron: https://huggingface.co/nvidia/Gemma-4-26B-A4B-NVFP4 | Benchmark | Score | | --- | --- | | MMLU-Pro | 84.8 | | GPQA-Diamond | 79.9 | | LiveCodeBench v6 | 79.8 | ## Benchmarks op de DGX Spark Alleen complete runs zonder mislukte sanity-check tellen mee. Open-looptests vereisen minimaal 99% request success. Ruwe resultaten blijven zichtbaar. | Test | tokens/s p/user | tokens/s totaal | TTFT (ms) | Request success | Ranking | | --- | --- | --- | --- | --- | --- | | 01 Chat | 21 | 141 | 1278 | n/a | telt mee | | 02 RAG · 8k context | 16 | 123 | 8173 | n/a | telt mee | | 03 Lange output en agents | 23 | 161 | 382 | n/a | telt mee | | 04 Multi-turn kantoorwerk | 20 | 172 | 2017 | n/a | telt mee | | 05 Grote context · 25k | 7 | 33 | 38796 | n/a | telt mee | | 06 Gelijktijdigheid onder druk | 4 | 33 | 73575 | n/a | telt mee | | 07 Realistische kantoor-baseline | 82 | 1304.52 | 1057 | 100% | telt mee | | 08 Echte gesprekken · ShareGPT | 13 | 133.79 | 154 | 100% | telt mee | | 09 Reasoning-workload | 9 | 392.1 | 339 | 100% | telt mee | | 10 Maandagochtendpiek | 69 | 1929.26 | 958 | 100% | telt mee | | 11 Capaciteit · rate sweep | n/a | n/a | n/a | 100% | telt mee | ## Toelichting op deze run **Chat: Chat bij tien gelijktijdige verzoeken** Bij 1024 input- en 1024 outputtokens met tien gelijktijdige verzoeken meet ik gemiddeld 21,1 tokens/s per gebruiker. De gemiddelde wachttijd voor het eerste token is 1,28 seconden. **Lange context: Wachttijd bij 25k context** Bij 25000 inputtokens en 256 outputtokens met tien gelijktijdige verzoeken is de gemiddelde wachttijd voor het eerste token 38,8 seconden. Daarna genereert het model gemiddeld 7,24 tokens/s per gebruiker. De meting alleen toont niet of geheugen, promptverwerking of scheduling de oorzaak van vertraging is. **Piekbelasting: Verzoeken en wachttijd bij piekbelasting** De run verwerkt 0,43 verzoeken/s bij een ingestelde aankomstsnelheid van 1,5 verzoeken/s. 300 van de 300 verzoeken slagen. De p95-wachttijd voor het eerste token is 2,5 seconden. **Meetdekking: Welke metingen meetellen** 11 van de 11 tests hebben een meting die volgens de huidige Arena-regels meetelt. Bij deze historische run is geen sanity-check vastgelegd. Dat bewijs ontbreekt, ook wanneer de snelheidsmeting volgens de huidige regels meetelt. ## Noten Model-ID: nvidia/Gemma-4-26B-A4B-NVFP4. Container: vllm/vllm-openai:v0.26.0-aarch64-cu129-ubuntu2404. llama-benchy 0.4.0. Bronrun: 2026-08-06T11:38:17+02:00. KV-cache fp8; max_model_len 131072; gpu_memory_utilization 0,85. Prefix caching uit; async scheduling aan. Extra serverflags: --quantization modelopt --moe-backend marlin --max-num-batched-tokens 8192. 11 van de 11 tests hebben een meting die volgens de huidige Arena-regels meetelt. Bij deze historische run is geen sanity-check vastgelegd. Dat bewijs ontbreekt, ook wanneer de snelheidsmeting volgens de huidige regels meetelt. --- Licentie: CC-BY-4.0 (https://creativecommons.org/licenses/by/4.0/). Django de Vreng, https://djangodevreng.nl. Volledige arena: https://djangodevreng.nl/arena/ · Ruwe runs (GitHub): https://github.com/djangodevreng/dgx-spark-benchmarks/tree/a948cec23b054c62fef595bad3cdb284066922ac/results/gemma-4/gemma-4-26b-a4b-it/nvfp4-v23/