Temperature 0 vs 1.0: Greedy Decoding Collapsed 14% of Llama's 128K Calls
中文摘要
研究发现，在12.8万次 Llama 调用中，贪婪解码（温度0）导致14%的请求崩溃。
English Summary
A study found greedy decoding (Temperature 0) caused 14% of 128,000 Llama calls to collapse.
原文节选
Continue reading on Towards AI »