返回首页
RadarAI··论文与技术

OpenRouter 推出 Jev 缓存感知模型路由器

中文摘要

OpenRouter推出Jev缓存感知模型路由器,旨在通过优化模型与推理强度选择,平衡请求的质量、速度和成本。

English Summary

OpenRouter launches the Jev cache-aware model router to balance quality, speed, and cost by selecting the optimal model and inference strength for each request.

原文节选

介绍 typesafe/jev-router:一个由 Jev 和 @typesafeai 驱动的缓存感知模型路由器 Jev Router 为每个请求挑选最佳模型和推理力度,在质量、速度和成本之间取得平衡。 工作原理如下 👇🏻