---
title: "Qwen-3.5 4B (BF16) · DGX Spark Arena"
canonical: "https://djangodevreng.nl/arena/qwen-3-5-4b-bf16/"
license: "CC-BY-4.0"
source: "https://github.com/djangodevreng/dgx-spark-benchmarks/tree/a948cec23b054c62fef595bad3cdb284066922ac/results/qwen-3.5/qwen-3.5-4b/bf16/"
source_revision: "a948cec23b054c62fef595bad3cdb284066922ac"
contract_version: 1
suite_version: "2026-08"
minimum_request_success_rate: 0.99
sanity_status: "captured_unreviewed"
attribution: "Django de Vreng, https://djangodevreng.nl"
---

# Qwen-3.5 4B (BF16)

Gemeten op 2026-08-07 met vLLM v0.26.0. In de chattest met tien gelijktijdige verzoeken haalt dit profiel 22,02 tokens/s per gebruiker, met gemiddeld 0,99 seconden tot het eerste token. Bij 25k context stijgt die gemiddelde wachttijd naar 23,05 seconden. Er is output voor de sanity-check opgeslagen, maar die is nog niet beoordeeld. De huidige telling betekent dus niet dat die controle is geslaagd.

## Specificaties

- Vendor: Qwen
- Architectuur: Hybrid
- Parameters: 4B
- Precisie: BF16
- Context: 256K
- Gemeten op: 128K
- VRAM: 8 GB
- Engine: vLLM v0.26.0
- Hardware: DGX Spark, NVIDIA GB10, 128 GB unified memory
- Model card: https://huggingface.co/Qwen/Qwen3.5-4B

## Quality (model-cards)

Alleen ter referentie. De harnesses en dekking verschillen per model; deze cijfers tellen niet mee in de hardware-score.

Bron: https://huggingface.co/Qwen/Qwen3.5-4B

| Benchmark | Score |
| --- | --- |
| MMLU-Pro | 79.1 |
| GPQA-Diamond | 76.2 |
| LiveCodeBench v6 | 55.8 |

## Benchmarks op de DGX Spark

Alleen complete runs zonder mislukte sanity-check tellen mee. Open-looptests vereisen minimaal 99% request success. Ruwe resultaten blijven zichtbaar.

| Test | tokens/s p/user | tokens/s totaal | TTFT (ms) | Request success | Ranking |
| --- | --- | --- | --- | --- | --- |
| 01 Chat | 22 | 216 | 987 | n/a | telt mee |
| 02 RAG · 8k context | 18 | 142 | 7145 | n/a | telt mee |
| 03 Lange output en agents | 22 | 219 | 389 | n/a | telt mee |
| 04 Multi-turn kantoorwerk | 21 | 199 | 1732 | n/a | telt mee |
| 05 Grote context · 25k | 10 | 49 | 23047 | n/a | telt mee |
| 06 Gelijktijdigheid onder druk | 6 | 51 | 44648 | n/a | telt mee |
| 07 Realistische kantoor-baseline | 82 | 1308.91 | 961 | 100% | telt mee |
| 08 Echte gesprekken · ShareGPT | 13 | 131.09 | 146 | 100% | telt mee |
| 09 Reasoning-workload | 9 | 406.93 | 318 | 100% | telt mee |
| 10 Maandagochtendpiek | 84 | 2340.29 | 980 | 100% | telt mee |
| 11 Capaciteit · rate sweep | n/a | n/a | n/a | 100% | telt mee |

## Noten

Model-ID: Qwen/Qwen3.5-4B. Container: vllm/vllm-openai:v0.26.0-aarch64-cu129-ubuntu2404. llama-benchy 0.4.0. Bronrun: 2026-08-07T16:20:14+02:00. KV-cache fp8; max_model_len 131072; gpu_memory_utilization 0,9. Prefix caching uit; async scheduling aan. Extra serverflags: --language-model-only --reasoning-parser qwen3 --trust-remote-code. 11 van de 11 tests hebben een meting die volgens de huidige Arena-regels meetelt. Er is output voor de sanity-check opgeslagen, maar die is nog niet beoordeeld. De huidige telling betekent dus niet dat die controle is geslaagd.

---

Licentie: CC-BY-4.0 (https://creativecommons.org/licenses/by/4.0/). Django de Vreng, https://djangodevreng.nl.
Volledige arena: https://djangodevreng.nl/arena/ · Ruwe runs (GitHub): https://github.com/djangodevreng/dgx-spark-benchmarks/tree/a948cec23b054c62fef595bad3cdb284066922ac/results/qwen-3.5/qwen-3.5-4b/bf16/