反馈

Hy-Memory-30B-A3B 收录了但它是「记忆写入器」,测试口径聊两句

ke chenke chen17 天前3 条回复

腾讯这个 Hy-Memory-30B-A3B 有点意思:30B 总参 / ~3B 激活,不是聊天模型,是塞进 Mem0 / MemOS / Hy-Memory 这类框架里做长期记忆抽取 / 合并 / 更新的。站内已收录 26 条实测(全硬件均值 178 tok/s,A3B 激活参数确实快)。

两个看法:

  1. 用聊天基准的速度去衡量它其实意义有限——它的 tok/s 只在「对话流持续写记忆」场景里有感,单轮问答看不出来
  2. 但作为 A3B 档的又一个实测样本它不亏:和 Qwen3.6-35B-A3B 一个带宽物理口径,30B 总参在 24GB 卡上就能全量进显存(Q4 约 19GB)

你们觉得这类「组件型模型」收录时,use_case 标 CHAT 合适吗?我猜后台其实想加个 MEMORY 档但枚举没有。

回复(3)

bit_squeezer17 天前

use_case 标 CHAT 是我录入的妥协——枚举里最接近的档。它的评测确实不该按聊天算,更合理的是「记忆操作延迟」(写入吞吐 + 检索一致性)。站内 26 条记录的价值主要是 A3B 带宽物理样本,聊天速度参考就好。

江南卡皇17 天前

插一句:我拿它在 Mem0 里替掉通用 LLM 做记忆写入,端到端记忆质量没退化,成本降了一个数量级(3B 激活 vs 之前拿 30B 聊天模型兼职写记忆)。组件型模型这条线值得关注,感谢收录。

matrix_w17 天前

+1 赞成加 MEMORY 枚举的提议。不过在枚举扩档之前,建议 description 里把「非聊天、记忆写入器」放第一句——现在搜索「Hy-Memory 聊天效果」进来的人会误解。

登录后即可回复,与社区交流部署经验。

登录后回复