---
title: "Nemotron-3-Nano-Omni-30B-A3B-Reasoning (BF16) · DGX Spark Arena"
canonical: "https://djangodevreng.nl/arena/nemotron-3-nano-30b-a3b-bf16/"
license: "CC-BY-4.0"
source: "https://github.com/djangodevreng/dgx-spark-benchmarks/tree/a948cec23b054c62fef595bad3cdb284066922ac/results/nemotron-3/nemotron-3-nano-30b-a3b/bf16/"
source_revision: "a948cec23b054c62fef595bad3cdb284066922ac"
contract_version: 1
suite_version: "2026-08"
minimum_request_success_rate: 0.99
sanity_status: "not_recorded"
attribution: "Django de Vreng, https://djangodevreng.nl"
---

# Nemotron-3-Nano-Omni-30B-A3B-Reasoning (BF16)

Gemeten op 2026-08-09 met vLLM v0.26.0. In de chattest met tien gelijktijdige verzoeken haalt dit profiel 7,64 tokens/s per gebruiker, met gemiddeld 1,51 seconden tot het eerste token. Bij 25k context stijgt die gemiddelde wachttijd naar 19,4 seconden. Bij deze historische run is geen sanity-check vastgelegd. Dat bewijs ontbreekt, ook wanneer de snelheidsmeting volgens de huidige regels meetelt.

## Specificaties

- Vendor: NVIDIA
- Architectuur: MoE
- Parameters: 30B-A3B
- Precisie: BF16
- Context: 256K
- Gemeten op: 128K
- VRAM: 62 GB
- Engine: vLLM v0.26.0
- Hardware: DGX Spark, NVIDIA GB10, 128 GB unified memory
- Model card: https://huggingface.co/nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16

## Quality (model-cards)

Alleen ter referentie. De harnesses en dekking verschillen per model; deze cijfers tellen niet mee in de hardware-score.

Bron: https://huggingface.co/nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16

| Benchmark | Score |
| --- | --- |
| MMLU-Pro | 77.3 |
| GPQA-Diamond | 72.2 |
| LiveCodeBench v5 | 63.2 |

## Benchmarks op de DGX Spark

Alleen complete runs zonder mislukte sanity-check tellen mee. Open-looptests vereisen minimaal 99% request success. Ruwe resultaten blijven zichtbaar.

| Test | tokens/s p/user | tokens/s totaal | TTFT (ms) | Request success | Ranking |
| --- | --- | --- | --- | --- | --- |
| 01 Chat | 8 | 72 | 1506 | n/a | telt mee |
| 02 RAG · 8k context | 7 | 68 | 6283 | n/a | telt mee |
| 03 Lange output en agents | 8 | 66 | 612 | n/a | telt mee |
| 04 Multi-turn kantoorwerk | 8 | 74 | 2119 | n/a | telt mee |
| 05 Grote context · 25k | 6 | 41 | 19400 | n/a | telt mee |
| 06 Gelijktijdigheid onder druk | 4 | 48 | 36554 | n/a | telt mee |
| 07 Realistische kantoor-baseline | 28 | 1176.33 | 1232 | 100% | telt mee |
| 08 Echte gesprekken · ShareGPT | 8 | 130.48 | 435 | 100% | telt mee |
| 09 Reasoning-workload | 6 | 285.71 | 662 | 100% | telt mee |
| 10 Maandagochtendpiek | 39 | 1090.41 | 1113 | 100% | telt mee |
| 11 Capaciteit · rate sweep | n/a | n/a | n/a | 100% | telt mee |

## Toelichting op deze run

**Chat: Chat bij tien gelijktijdige verzoeken**

Bij 1024 input- en 1024 outputtokens met tien gelijktijdige verzoeken meet ik gemiddeld 7,64 tokens/s per gebruiker. De gemiddelde wachttijd voor het eerste token is 1,51 seconden.

**Lange context: Wachttijd bij 25k context**

Bij 25000 inputtokens en 256 outputtokens met tien gelijktijdige verzoeken is de gemiddelde wachttijd voor het eerste token 19,4 seconden. Daarna genereert het model gemiddeld 5,74 tokens/s per gebruiker. De meting alleen toont niet of geheugen, promptverwerking of scheduling de oorzaak van vertraging is.

**Piekbelasting: Verzoeken en wachttijd bij piekbelasting**

De run verwerkt 0,24 verzoeken/s bij een ingestelde aankomstsnelheid van 1,5 verzoeken/s. 300 van de 300 verzoeken slagen. De p95-wachttijd voor het eerste token is 2,15 seconden.

**Meetdekking: Welke metingen meetellen**

11 van de 11 tests hebben een meting die volgens de huidige Arena-regels meetelt. Bij deze historische run is geen sanity-check vastgelegd. Dat bewijs ontbreekt, ook wanneer de snelheidsmeting volgens de huidige regels meetelt.

## Noten

Model-ID: nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. Container: vllm/vllm-openai:v0.26.0-aarch64-cu129-ubuntu2404. llama-benchy 0.4.0. Bronrun: 2026-08-09T02:33:29+02:00. KV-cache fp8; max_model_len 131072; gpu_memory_utilization 0,9. Prefix caching uit; async scheduling aan. Extra serverflags: --trust-remote-code --max-num-batched-tokens 8192. 11 van de 11 tests hebben een meting die volgens de huidige Arena-regels meetelt. Bij deze historische run is geen sanity-check vastgelegd. Dat bewijs ontbreekt, ook wanneer de snelheidsmeting volgens de huidige regels meetelt.

---

Licentie: CC-BY-4.0 (https://creativecommons.org/licenses/by/4.0/). Django de Vreng, https://djangodevreng.nl.
Volledige arena: https://djangodevreng.nl/arena/ · Ruwe runs (GitHub): https://github.com/djangodevreng/dgx-spark-benchmarks/tree/a948cec23b054c62fef595bad3cdb284066922ac/results/nemotron-3/nemotron-3-nano-30b-a3b/bf16/