GeoRA: 为 RLVR 设计的 LoRA——ACL 2026 杰出论文解析
中文摘要
GeoRA 是专为 RLVR 设计的低秩适配方法，通过限制更新在几何稳定子空间，实现了高效、鲁棒且媲美全参微调的性能。
English Summary
GeoRA is a LoRA-based method for RLVR fine-tuning that limits updates to geometrically stable subspaces, achieving full-parameter tuning performance with higher efficiency and robustness.
原文节选
📌 一句话摘要 GeoRA 是一种专为 RLVR 微调设计的低秩适配方法，通过将更新限制在预训练权重中几何上稳定的子空间，实现了与全参微调相当的性能，同时显著提高了计算效率和超参鲁棒性。 📝 详细摘要 论文介绍了 GeoRA，一种基于几何感知的低秩适配方法，用于解决 RLVR 微调中现有 PEFT 方法的几何错位问题。通过结合谱先验和欧氏先验，GeoRA 识别出适合 RLVR 更新的稀疏子空间，并将其压缩为低秩稠密适配...