270亿参数塞进iPhone:手机能跑的LLM「Bonsai 27B」登场
编辑观点
重点要点
- 「Bonsai 27B」把27B级大型语言模型压进iPhone可运行的容量
- 端侧AI的性能天花板再被推高
- 手机在地推论减少云端依赖,隐私与成本结构改写
观察分析
号称270亿参数、却能在iPhone上运行的LLM「Bonsai 27B」发表,端侧AI的天花板再被推高。模型压缩到手机可跑,意味推论不必出门上云——隐私、延迟、云端成本的三本帐同时改写,端侧与云端的分工线持续位移。



