Back to Home
RadarAI··Papers & Tech

llama.cpp v0.7.0 支持 128GB Mac

中文摘要

llama.cpp v0.7.0 现已支持 128GB Mac/Spark 设备。

English Summary

llama.cpp v0.7.0 now supports 128GB Mac and Spark devices.

Original Excerpt

llama.cpp v0.7.0,128GB Mac/Spark: llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on