Qwen3-Coder-Next · IQ2_M
L2 跨框架验证NVIDIA RTX 5090 · 32GB · Ollama
其他
2026-10-15
299.22 tok/s
Decode
1,242.06 tok/s
Prefill
1.78 s
TTFT
1.05 GB
VRAM
配置(最近一次实测)
来源:其他 · 1 次实测 · 1 个独立来源
计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。
NVIDIA RTX 5090 · 32GB · Ollama
其他
2026-10-15
299.22 tok/s
Decode
1,242.06 tok/s
Prefill
1.78 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5090 · 32GB · Ollama
其他
2026-10-15
238.15 tok/s
Decode
870.24 tok/s
Prefill
0.86 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA RTX 5090 · 32GB · Strata
其他
2026-10-15
320.16 tok/s
Decode
1,259.65 tok/s
Prefill
1.47 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
AMD Ryzen AI Max+ 395 · 128GB · llama.cpp
其他
2026-10-15
90.68 tok/s
Decode
349.79 tok/s
Prefill
0.68 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
AMD Ryzen AI Max+ 395 · 128GB · Ollama
其他
2026-10-15
108.9 tok/s
Decode
355.25 tok/s
Prefill
1.29 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
AMD Ryzen AI Max+ 395 · 128GB · Ollama
其他
2026-10-15
98.59 tok/s
Decode
347.51 tok/s
Prefill
1.24 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M5 Max · 128GB · llama.cpp
其他
2026-10-15
144.1 tok/s
Decode
764.74 tok/s
Prefill
1.83 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
Apple M5 Max · 128GB · Strata
其他
2026-10-15
312.25 tok/s
Decode
1,150.01 tok/s
Prefill
2.2 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · Ollama
其他
2026-10-15
131.46 tok/s
Decode
705.73 tok/s
Prefill
1.45 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · Ollama
其他
2026-10-15
128.78 tok/s
Decode
450.1 tok/s
Prefill
0.98 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · Strata
其他
2026-10-15
261.64 tok/s
Decode
916.28 tok/s
Prefill
1.55 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA DGX Spark · 128GB · Strata
其他
2026-10-15
259.54 tok/s
Decode
1,190.55 tok/s
Prefill
1.7 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA Jetson AGX Orin 64GB · 64GB · llama.cpp
其他
2026-10-15
56.6 tok/s
Decode
223.69 tok/s
Prefill
1.86 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
NVIDIA Jetson AGX Orin 64GB · 64GB · Ollama
其他
2026-10-15
54.87 tok/s
Decode
250.05 tok/s
Prefill
0.45 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
AMD Strix Halo (Radeon 8060S) · llama.cpp
其他
2026-10-15
46.29 tok/s
Decode
157.5 tok/s
Prefill
1.17 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
AMD Strix Halo (Radeon 8060S) · Ollama
其他
2026-10-15
85.26 tok/s
Decode
425.23 tok/s
Prefill
2.26 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x AMD Strix Halo · vLLM
其他
2026-10-15
149.19 tok/s
Decode
617.1 tok/s
Prefill
1.16 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x AMD Strix Halo · vLLM
其他
2026-10-15
87.69 tok/s
Decode
408.22 tok/s
Prefill
0.88 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
2x AMD Strix Halo · Strata
其他
2026-10-15
208.39 tok/s
Decode
864.96 tok/s
Prefill
0.74 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
AMD Strix Point (Radeon 890M) · vLLM
其他
2026-10-15
79.93 tok/s
Decode
394.12 tok/s
Prefill
0.51 s
TTFT
1.05 GB
VRAM
来源:其他 · 1 次实测 · 1 个独立来源
共 62 条结果