多家银行披露日均Token消耗量!AI大模型应用成本如何控制?
最近3年多,AI技术进入全球人民的视野中,堪称“史无前例”。对于各行各业的企业来说,AI大模型有望实现降本增效。而Token消耗量正成为企业衡量大模型应用的重要标尺。在金融业,近期有多家银行披露了Token相关数据。
从全国性银行到区域性银行,Token消耗量得到关注
当各家银行加速推进大模型应用,所消耗的Token数也成为大家关注的重要数据。
工行方面,2026年初全行业务应用日均Token消耗量达到了百亿级,较两年前增长了近百倍,覆盖了前台客户经理、中台风控审核人员、后台运营人员等主要岗位。
邮储银行在近日召开的2025年度股东会上透露,目前,该行已落地超过370个大模型应用场景,日均大模型调用超600万次,日均输入、输出词元(Token)超百亿。此外还表示,至2026年底,预计该行日均大模型调用次数将超千万次,Token吞吐量超300亿。意味着,该行的大模型Token消耗量将大幅增长,数量将达到目前的3倍。
而招行目前的Token消耗量已经达到邮储银行的年底预计量。同样是在2025年度股东会,招行透露,截至2026年5月末,日均Token消耗量已达到330亿,这是招行的业务单位在经营管理、服务中应用大模型消耗的Token量。而对比2月末的数据,彼时该行日均输入输出Token总规模为260亿,可见3个月的时间,招行的日均Token消耗量增长70亿。
此外,据媒体报道,兴业银行Token日均调用量约41亿;浦发银行日均Token约60亿;民生银行日均Token约40亿。
中小银行同样有关注到Token消耗量。
厦门国际银行近期表示,Token调用量上,从2024年日均不到1亿提升至目前的12亿,增长超过十倍;大模型应用场景上,年均辅助解决问题约350万个,涉及场景超过200个,与行内三十余个主要系统实现了集成。
江苏农商联合银行也在6月透露,该行大模型日均调用量超过10万次,日均Token消耗量超过3亿,全行全域、规模化、场景化的AI赋能格局基本成型。
互联网银行虽然也是中小银行,但由于对科技的应用可能更深入,因此Token数据不低,甚至超过一些全国性银行。
微众银行在2025年报中透露,在将AI纳入员工能力体系的同时,构建了60余个数字员工及数百个智能体,应用于上千个场景,全年Token消耗量突破4000亿,实现了AI从辅助工具到重要角色的升级。同时,截至2025年末,AI算力规模较2024年末提升3.5倍,日均调用量从4.1万次大幅增长至240万次,日均Token消耗从2亿提升至超50亿,且持续高速增长。
在银行推进AI应用的背后,所替代/节省的人力数据同样值得注意。
例如,工行2025年报显示,其AI数字员工承担工作量5.5万人年。
农行上海市分行针对对公信贷业务,构建了多个信贷领域智能体,实现信贷调查报告的智能化升级,前不久该系统已在21家支行推广,根据反馈,系统可将完整报告撰写效率提升50%以上,预计每年可替代辖内客户经理工作量约8.1万小时。
厦门银行以RPA技术为基础,结合OCR、NLP等AI技术,推出智能运营机器人、询证函智能审核机器人、财报解析机器人等60余个数字员工产品,截至2025年末,数字员工已累计自动执行流程超50万次,处理文件超748万份,节省人力超2570人月。
从多家银行透露的应用成效来看,目前AI助力银行在一些领域节省了人力,提升了效率。但大力投入的背后,本身成本也不容忽视。
银行关注到Token成本,招行近期谈预算控制措施
上述数据表明,银行的Token消耗量在不断增长。当然,也有人质疑,有些银行在如此大的规模之下,日均Token消耗量并不算高。未来,随着AI推进深入,银行的Token数量还会大幅增加。
那么,成本与收益如何衡量?
媒体报道显示,由于不同的硬件、模型、API或自建网关等因素可能会使Token成本相差百倍,这一成本的估算变得复杂。粗略估计下,一家日均百亿Token的银行每日的成本支出也在数万元级别以上。
PNC金融服务集团CEO Bill Demchak曾表示,任何AI对银行生产力的提升,都可能被Token成本吞噬。
那么,面对Token消耗量日益增长之下的成本,银行未来的AI之路该如何走?
一方面,Token成本可能会持续下降,成本越来越低的情况下,银行应用AI大模型的ROI(投资回报率)会有所上升。
另一方面,需要银行有规划地推进AI,控制好Token预算。
《智探AI应用》获悉,周天虹在招行2025年度股东会上谈到了相关问题。该行目前的措施是主要将大模型用于业务部门,而非科技部门。
他表示,大模型用于代码编写的成本较高,加上技术上的问题(包括架构问题和技术债问题),因此,该行在软件开发的大模型应用方面,态度是积极跟进、审慎应用。
周天虹强调,该行用于大模型编程的算力投入在总算力中的占比只有约5%。而该行披露的Token消耗量数据,主要还是来自业务部门的消耗。
关于如何做好Token预算控制,招行的做法是:在提出AI First之前,该行已构建相对完整的成本收益度量体系。成本主要在于两点:一是研发人员投入,研发人员不仅包括科技条线的人员,也包括总行业务人员;二是Token成本。收益方面,则建立六个维度的度量体系,包括银行视角的四个维度和客户视角的两个维度。
当前招行大模型的成本收入比约为20%左右,即投入20元可创造100元的收益。不过,周天虹也表示,成本容易度量,而收益度量比较难,因为银行的价值链条本身比较复杂。
未来,对于各家银行来说,在积极进行AI布局之时,不能太盲目,毕竟不能无休止地烧钱消耗Token,相关成本还是需要审慎度量的。

粤公网安备 44030602000994号