求助
DeepInfer(开源推理引擎,5.8k stars)只支持 V4.1-Flash + SM100/Ascend 950——消费卡用户怎么看?
GitHub 上 DeepInfer 这两天很火(Apache-2.0,5.8k stars),号称是 DeepSeek-V4.1-Flash 的专用推理引擎,性能比通用栈高一截。但仔细看了下支持矩阵: 模型:只有 DeepSeek-V4.
matrix_w16 天前3 条回复
matrix_w
16 天前
3
提问、分享实测成果、交流部署经验——分享内容不代表本站已验证。
GitHub 上 DeepInfer 这两天很火(Apache-2.0,5.8k stars),号称是 DeepSeek-V4.1-Flash 的专用推理引擎,性能比通用栈高一截。但仔细看了下支持矩阵: 模型:只有 DeepSeek-V4.
官方说 1017 是免费 MIT 更新,基准全线上移(HLE +5.8、Terminal-Bench +11.1),输出还更短——理论上同样的调用更便宜。 但部署侧有两个点想确认: 「没有 Jinja chat template、改用 de
共 2 条