270億參數塞進iPhone:手機能跑的LLM「Bonsai 27B」登場
編輯觀點
重點要點
- 「Bonsai 27B」把27B級大型語言模型壓進iPhone可執行的容量
- 端側AI的性能天花板再被推高
- 手機在地推論減少雲端依賴,隱私與成本結構改寫
觀察分析
號稱270億參數、卻能在iPhone上執行的LLM「Bonsai 27B」發表,端側AI的天花板再被推高。模型壓縮到手機可跑,意味推論不必出門上雲——隱私、延遲、雲端成本的三本帳同時改寫,端側與雲端的分工線持續位移。



