llama.cpp v1.0.0 正式版:量化优化与多模态支持全盘升级
中文摘要
llama.cpp 1.0.0 正式版发布,引入语义化版本、NextN 推测解码、FP8 KV 缓存及 Kimi/Gemma 4 音频支持。
English Summary
llama.cpp v1.0.0 is released, featuring semantic versioning, NextN speculative decoding, FP8 KV cache, and audio support for Kimi and Gemma 4.
Original Excerpt
📌 一句话摘要 作者详尽介绍了 llama.cpp 1.0.0 版本的重大更新,包括语义化版本规则、NextN 推测解码、FP8 KV 缓存、Kimi-K3.1-Pro 与 Gemma 4 音频支持等关键功能。 📝 详细摘要 llama.cpp 1.0.0 正式版标志着开源 C/C++ 推理引擎的重要里程碑。该版本同步发布 ggml v1.0.0,确立语义化版本规则;移除弃用接口,NextN 推测解码接口迁入公开 AP...