Back to Home
RadarAI··Papers & Tech

OpenRouter 实测 fp8 与 fp4 量化对模型质量和价格的影响

中文摘要

OpenRouter发布量化解析报告,通过实测Qwen3.8模型,分析了FP8与FP4量化对大模型质量与推理成本的影响。

English Summary

OpenRouter released a report analyzing the impact of FP8 and FP4 quantization on LLM quality and costs, based on extensive testing with Qwen3.8 and various provider endpoints.

Original Excerpt

OpenRouter 发布量化解析文章,讲解 LLM 量化原理,并报告 2026 年 10 月 20 日对 1455 个 provider 端点和 Qwen3.8 27B 六个端点的实测。