近日，光大银行分享了在智能客服领域的大模型应用实践。针对远程银行客服全链路服务场景，该行依托大小模型协同，完成了从通话前、通话中到通话后的全流程智能化升级。

在通话前场景，光大银行通过大模型的文本理解与总结能力，上线通话前情提要、工单前情提要两大智能化应用，可自动识别并提炼进线客户的历史通话诉求、座席处理结论，以及历史工单流转信息与各环节处理意见，帮助座席快速掌握客户背景信息，提升座席响应时间。

在通话中场景，该行推出首个微调大模型——工单小结大模型。该模型可实时生成对话摘要，将冗长对话浓缩为关键要点，上线后将座席填单时间缩短了13秒，同时降低核心内容的遗漏概率。

在通话后场景，该行通过小模型对通话文本进行自动打标，确保工单正确归类，并按照预设规则完成自动化流转与工单任务分配。上线的多个分类模型，包括投诉工单分类模型、信用卡分类模型等，实现了工单的自动归类和路由，降低人工填选成本，提高工单处理效率。

从技术上看，本次实践发挥了大小模型的差异化优势：小模型凭借参数少、性能高、资源消耗低的特点，承担文本分类、实体抽取、文本纠错等任务；大模型则依托强文本理解、意图识别与生成能力，完成内容总结、摘要生成等复杂语义处理任务。

由于客服场景行业术语密集、实时响应要求严格（单次响应需控制在5秒内）、长上下文易引发高延时的痛点，光大银行采用了数据驱动的模型迭代方案，即基于业务标注数据，对不同尺寸大模型进行微调。

经过对比不同训练方式的显存消耗，以及不同分布式训练策略的硬件适配能力，光大银行最终选定监督微调（SFT）方案。测评数据显示，经数据微调后，Qwen3 32B模型问题摘要准确率达90%、可用率达95%；Qwen2.5 14B微调模型准确率82%、可用率92%，效果优于未微调的32B大模型，为硬件资源受限的业务场景提供了可行的部署方案。

目前，前情提要模型已嵌入光大银行客服交易子系统，座席可通过页签切换，快速调取通话、工单的前情摘要信息，相关功能已进入常态化应用阶段。