OpenRouter 实测 fp8 与 fp4 量化对模型质量和价格的影响
中文摘要
OpenRouter发布量化解析报告,通过实测Qwen3.8模型,分析了FP8与FP4量化对大模型质量与推理成本的影响。
English Summary
OpenRouter released a report analyzing the impact of FP8 and FP4 quantization on LLM quality and costs, based on extensive testing with Qwen3.8 and various provider endpoints.
Original Excerpt
OpenRouter 发布量化解析文章,讲解 LLM 量化原理,并报告 2026 年 10 月 20 日对 1455 个 provider 端点和 Qwen3.8 27B 六个端点的实测。