速报:AI推进踩刹车?AWS证实企业「token成本抑制」动向

编辑观点
重点要点
- AWS证实企业间出现抑制AI处理成本的动作
- 生成AI的token消费成本成为导入瓶颈
- 缓存、小型模型与批量处理为主要对策
观察分析
ITmedia专访AWS:企业导入生成AI后,「token消费成本」的抑制动作确实在发生——推论费用随用量线性膨胀,让部分企业开始踩刹车。对策收敛在提示缓存、小型模型分工与批量处理。AI景气的下半场,省token的能力就是毛利率,基础设施商与企业用户的成本攻防才刚开始。


