A20 Pro 芯片端侧 AI 实测：iPhone 18 Pro 本地跑 270 亿参数模型，速度较 iPhone 17 Pro 翻倍
中文摘要
A20 Pro 芯片赋能 iPhone 18 Pro，本地运行 270 亿参数模型速度翻倍。
English Summary
A20 Pro chip enables iPhone 18 Pro to run 27B parameter models twice as fast locally.
原文节选
苹果 A20 Pro 芯片首次搭载双 16 核神经网络引擎，实测 iPhone 18 Pro 本地运行 270 亿参数的 Bonsai-27B 模型，速度可达 iPhone 17 Pro 的两倍。该机配备 12GB LPDDR5X 内存，带宽达 115.2GB/s，神经网络任务峰值吞吐超过芯片内 7 核 GPU。但 2 比特量化的 Bonsai 2 体积过大，无法完整存入本地内存，会造成性能下降。