返回搜索结果
Qwen3.8-Flash-Next · IQ2_XS
NVIDIA RTX 507012GBStrata 0.5.2L1 已复现
本页汇总 Qwen3.8-Flash-Next(IQ2_XS)在 NVIDIA RTX 5070 上以 Strata 运行的 1 次实测数据,来自 1 个独立来源平台;指标为已上架实测的均值。
79 tok/s
Decode
解码速度
2,090 tok/s
Prefill
预填充速度
1 s
TTFT
首 token 延迟
7.5 GB
VRAM
显存占用
L1 已复现
1
实测次数
1
独立来源
其他
来源平台
今天
最后验证
性能表现
- Strata · IQ2_XS (当前)Decode 79 · Prefill 2090 ·
核心数据
- Decode(平均)
- 79 tok/s
- Prefill(平均)
- 2,090 tok/s
- TTFT(平均)
- 1 s
- VRAM(平均)
- 7.5 GB
- MTP 接受率
- —
- TTFB
- — GB
- 功耗
- 220 W
基础配置
成员级字段取自最近一次实测
- 模型
- Qwen3.8-Flash-Next
- 量化方式
- IQ2_XS
- 框架
- Strata
- 版本
- 0.5.2
- 上下文长度
- 4096 tokens
- 批次大小
- 1
硬件信息
标称与实测并排陈列,能否运行由读者自判
- GPU
- NVIDIA RTX 5070
- 标称显存
- 12 GB
- 实测显存(均值)
- 7.5 GB
- 系统
- Ubuntu 24.04.4 LTS
- 电源功耗
- 220 W
获取与上手
来源与证据
共 1 条实测记录,逐条可回溯到原始出处
0.5.2 · Ubuntu 24.04.4 LTS · 4096 ctx
79 tok/s
Decode
2,090 tok/s
Prefill
1 s
TTFT
7.5 GB
VRAM
—
MTP
220 W
功耗
RTX 5070 12GB Blackwell + Strata 0.5.2 + IQ2_XS:short decode 79 tok/s,128K ctx 63 tok/s,prompt 2090 tok/s,TTFT 1.0s。Strata 官方 RTX 5070 12GB IQ2_XS 基准,384 GB/s 内存带宽 + MTP 推测解码。