Cerebras 晶圆级架构推理为何比 GPU 快 2500 倍
中文摘要
Cerebras 首席执行官 Andrew Feldman 表示,凭借其创新的晶圆级架构,公司在大型语言模型推理速度上比传统 GPU 快约 2500 倍。
English Summary
Cerebras CEO Andrew Feldman explains that their wafer-scale architecture achieves LLM inference speeds approximately 2500 times faster than traditional GPUs.
原文节选
Cerebras 联合创始人兼 CEO Andrew Feldman 解释,其晶圆级架构在 LLM 推理中比 GPU 快约 2500 倍。