OpenRouter 推出 Jev 缓存感知模型路由器
中文摘要
OpenRouter推出Jev缓存感知模型路由器,旨在通过优化模型与推理强度选择,平衡请求的质量、速度和成本。
English Summary
OpenRouter launches the Jev cache-aware model router to balance quality, speed, and cost by selecting the optimal model and inference strength for each request.
原文节选
介绍 typesafe/jev-router:一个由 Jev 和 @typesafeai 驱动的缓存感知模型路由器 Jev Router 为每个请求挑选最佳模型和推理力度,在质量、速度和成本之间取得平衡。 工作原理如下 👇🏻