搜索实测数据

试试这些搜索

找到 16 个运行配置组合

计数为运行配置组合(模型 + 硬件 + 框架 + 量化的聚合),同一组合的多次实测已合并;原始次数见各结果的来源行。

模型MiMo-V2.6-Flash-RL

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 3090 · 24GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 3090 · 24GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 3090 · 24GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 3090 · 24GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 5070 · 12GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 5070 · 12GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 5070 · 12GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 5070 · 12GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 5090 · 32GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 5090 · 32GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 5090 · 32GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 4090 · 24GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 4090 · 24GB · vLLM

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M vLLM 0.7.3 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · IQ2_XS

L0 自报

NVIDIA RTX 4090 · 24GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 IQ2_XS llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

MiMo-V2.6-Flash-RL · Q4_K_M

L0 自报

NVIDIA RTX 4090 · 24GB · llama.cpp

其他

2026-10-06

— tok/s

Decode

— tok/s

Prefill

— s

TTFT

— GB

VRAM

配置(最近一次实测)
Linux CUDA 12.6 Q4_K_M llama.cpp b4200 Flash Attention

来源:其他 · 1 次实测 · 1 个独立来源

共 16 条结果

相关模型
相关硬件
相关框架
相关量化