商汤开源 SenseNova Loop-9B-Preview:9B 参数媲美 27B 模型
中文摘要
商汤开源 SenseNova Loop-9B-Preview,采用 Looped Transformer 架构,以 9B 参数媲美 27B 模型性能。
English Summary
SenseTime open-sources SenseNova Loop-9B-Preview, utilizing Looped Transformer architecture to match 27B-model performance with only 9B parameters.
Original Excerpt
商汤科技开源日日新 SenseNova Loop-9B-Preview,采用 Looped Transformer 架构,通过循环计算扩展有效计算深度,在仅 9B 参数下宣称媲美 27B 参数模型。