MiMo-V2.6-Flash-RL

推理由 Xiaomi 发布 发起讨论

0

量化版本

16

实测记录

量化版本

社区与官方发布的量化版本;「关联实测」只统计精确关联到该发布的实测记录。

还没有已收录的量化版本。

实测数据

共 16 组配置

硬件框架量化生成速度运行显存实测次数证据
NVIDIA RTX 3090vLLMIQ2_XS——1L0 自报
NVIDIA RTX 3090vLLMQ4_K_M——1L0 自报
NVIDIA RTX 3090llama.cppIQ2_XS——1L0 自报
NVIDIA RTX 3090llama.cppQ4_K_M——1L0 自报
NVIDIA RTX 5070vLLMIQ2_XS——1L0 自报
NVIDIA RTX 5070vLLMQ4_K_M——1L0 自报
NVIDIA RTX 5070llama.cppIQ2_XS——1L0 自报
NVIDIA RTX 5070llama.cppQ4_K_M——1L0 自报
NVIDIA RTX 5090vLLMIQ2_XS——1L0 自报
NVIDIA RTX 5090vLLMQ4_K_M——1L0 自报
NVIDIA RTX 5090llama.cppIQ2_XS——1L0 自报
NVIDIA RTX 5090llama.cppQ4_K_M——1L0 自报
NVIDIA RTX 4090vLLMIQ2_XS——1L0 自报
NVIDIA RTX 4090vLLMQ4_K_M——1L0 自报
NVIDIA RTX 4090llama.cppIQ2_XS——1L0 自报
NVIDIA RTX 4090llama.cppQ4_K_M——1L0 自报

其中 16 条实测未关联到具体量化版本,完整数据见搜索页。

社区讨论

还没有讨论——发起第一个话题吧。

发起讨论