6月18日，农业银行董事长谷澍在2026陆家嘴论坛上表示，当前大模型应用过程中面临的主要风险之一是模型黑箱、模型幻觉，以及模型自主思考和决策带来的不确定性。这种不确定性风险可进一步细分为三大类：一是参数海量带来模型可解释性的难题。二是概率生成带来的准确性考验。三是模型现在已经能自主思考和决策，带来新型风险。

谷澍表示，从大模型运行机理来看，模型风险是一种客观存在，“对我们来讲，我们能做的不是消除风险”，而是一方面认识到大模型有很大作用，把它的作用发挥好；另一方面也要认识到大模型的局限性，建立与风险共生的治理体系，想办法尽量控制风险。

谷澍进一步分享了农业银行对于大模型应用风险防范的方法：

第一，分类施策推进场景适配，金融应用大模型的时候是应用在不同的场景里面，对于不同的场景，可以建立模型的黑箱的分级管控，不同场景匹配差异化的技术路线和可解释性的要求，比如对于信贷决策，属于强监管的场景，我们就使用模型的蒸馏技术让大模型在数据合成、归因分析等方面提供助力，把大模型的能力迁移到更具可解释性的针对不同场景的不同的小模型上。比如投研分析，属于高认知的场景，强化思维链的设计。对于产品营销的场景，更灵活一些，充分发挥模型的创造力。

第二，设置一定的标尺约束的控制，大模型有时候会产生幻觉，有时候会自由发挥，针对不同的场景进行应用的时候是需要建立参数、建立标尺控制它的应用路径。同时再把它和人机结合起来，大模型过程里人的作用是最终做决策，比如应用AI赋能信贷调查报告的智能生成时，就建立业务标尺，通过模型的互检、模型的反思、业务数据校准对生成内容进行自动校验，输出关键和审核要由业务人员进行审核，确保结构可控。

第三，用AI手段应对AI应用风险，以AI对抗AI，建立纵深防御体系，增强AI对抗能力。你找大模型的AI应用里的漏洞问题用AI手段寻找AI漏洞。

第四，强化银行内部的治理体系，健全全生命周期和风险并重银行内部AI治理体系，确保AI既用得好又管得好，既留住创新空间又尽量压缩模型的黑箱、幻觉的局限性。