返回搜索结果

Qwen3.8-Flash-Next · IQ2_XS

发起讨论
NVIDIA RTX 507012GBStrata 0.5.2L1 已复现

本页汇总 Qwen3.8-Flash-Next(IQ2_XS)在 NVIDIA RTX 5070 上以 Strata 运行的 1 次实测数据,来自 1 个独立来源平台;指标为已上架实测的均值。

79 tok/s

Decode

解码速度

2,090 tok/s

Prefill

预填充速度

1 s

TTFT

首 token 延迟

7.5 GB

VRAM

显存占用

L1 已复现

1

实测次数

1

独立来源

其他

来源平台

今天

最后验证

性能表现

  1. Strata · IQ2_XS (当前)Decode 79 · Prefill 2090 ·

核心数据

Decode(平均)
79 tok/s
Prefill(平均)
2,090 tok/s
TTFT(平均)
1 s
VRAM(平均)
7.5 GB
MTP 接受率
—
TTFB
— GB
功耗
220 W

基础配置

成员级字段取自最近一次实测

模型
Qwen3.8-Flash-Next
量化方式
IQ2_XS
框架
Strata
版本
0.5.2
上下文长度
4096 tokens
批次大小
1

硬件信息

标称与实测并排陈列,能否运行由读者自判

GPU
NVIDIA RTX 5070
标称显存
12 GB
实测显存(均值)
7.5 GB
系统
Ubuntu 24.04.4 LTS
电源功耗
220 W

获取与上手

原始模型资料

以下为基础模型入口,不保证与本次量化版本一致;部署请使用上方已核实权重。

来源与证据

共 1 条实测记录,逐条可回溯到原始出处

  1. L1 已复现其他原始链接 验证于 2026-10-05

    0.5.2 · Ubuntu 24.04.4 LTS · 4096 ctx

    79 tok/s

    Decode

    2,090 tok/s

    Prefill

    1 s

    TTFT

    7.5 GB

    VRAM

    —

    MTP

    220 W

    功耗

    RTX 5070 12GB Blackwell + Strata 0.5.2 + IQ2_XS:short decode 79 tok/s,128K ctx 63 tok/s,prompt 2090 tok/s,TTFT 1.0s。Strata 官方 RTX 5070 12GB IQ2_XS 基准,384 GB/s 内存带宽 + MTP 推测解码。