智谱新模型,490 tokens/s!
中文摘要
智谱发布新模型,推理速度高达490 tokens/s,被称为“速度仙人”。
English Summary
Zhipu AI's new GLM model achieves a massive inference speed of 490 tokens per second.
Original Excerpt
GLM「速度仙人」来了?
中文摘要
智谱发布新模型,推理速度高达490 tokens/s,被称为“速度仙人”。
English Summary
Zhipu AI's new GLM model achieves a massive inference speed of 490 tokens per second.
GLM「速度仙人」来了?