使用AI模型企业购买趋势转变 更多考量CP值
瑞银证券今天表示,词元投资回报率(Token ROI)是今年上半年明显的行业趋势转变。对于人工智慧(AI)模型词元的花费,从5、6月不再直线往上增长,而是将性价比因素纳入购买决策。
第23届瑞银证券中国A股研讨会上午在深圳开幕,同步举办线上媒体分享会。 在「中国人工智慧及互联网行业」专场中,瑞银证券中国互联网行业分析师熊玮表示,观察到Token(AI模型的最小运算单位)ROI是上半年非常明显的行业趋势转变。
熊玮表示,早些时候行业只是关注模型的使用,出现一个热门词汇Tokenmaxxing(企业员工在内部竞争谁消耗的词元更多)。当时企业在年初想要深化自己的AI adoption(组织将AI技术融入业务流程的过程),非常鼓励内部的用量。但进行了一段时间,发现这不一定是最优的策略,因为一方面会造成相关的AI帐单居高不下,甚至超过一开始的预算。另外很难衡量这些token用量能带来的经济价值。
熊玮指出,所以从年中开始更多行业的声音,来自模型的使用方—包括企业、开发者、用户等,开始强调做Token optimization(用更少的token完成同样的任务),也就是在整个花费的分配中,平衡绝对的性能领先和性价比,对于自己的AI帐单也出现更强的ROI管控意识。
熊玮分析,在Token ROI被行业更多关注的背景下,全球的模型市场可能更加分层。随著用户这一端越来越熟悉怎么样的模型能够嵌入自己的工作流,对AI需求更自然越来越细化。
熊玮以跟欧美投资者交流时,所发现来自行业的趋势为例,能分辨出来比如说最高价值、最敏感、对于品质要求最高的任务,还是必须使用全球顶尖的模型。但在企业工作环境里价值或风险比较低、大量重复的工作,可以考虑更便宜的版本。
熊玮指出,企业的平均模型token花费,从5、6月份这个指数不再直线往上增长了。这说明行业对于ROI的讨论影响了企业实际花费决策,大家开始把能力以外的部分,尤其性价比因素,更多纳入购买决策里面。
