近日，金融监管总局发布《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》），有关司局负责人就相关问题回答了记者提问。
一、《指导意见》出台的背景是什么？
当前，人工智能技术加速迭代演进，正在深刻改变人类生产生活方式、重塑全球产业格局。党中央、国务院高度重视人工智能发展应用。2025年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，围绕6大领域、8大支撑，要求全面推进人工智能科技创新、产业发展和赋能应用。2026年3月，《中华人民共和国国民经济和社会发展第十五个五年规划纲要》提出实施人工智能等科技战略部署，加强人工智能数据治理和安全技术研究应用，深化拓展“人工智能+”，赋能经济社会发展和治理能力提升，促进生产方式深层次变革和生产力革命性跃迁。
当前，我国金融行业不断加大人工智能技术资源投入，加快人工智能应用场景落地，已形成一定的应用实践基础。金融监管总局密切跟踪人工智能发展动态，深入调研行业人工智能应用的现状、问题与挑战，在此基础上，研究制定了《指导意见》。目的是规范银行业保险业金融机构（以下简称金融机构）对人工智能的开发应用，有效防控人工智能技术应用可能带来的风险，推动数字金融高质量发展，有序推进人工智能科技创新与金融业务深度融合，引导金融领域人工智能应用朝着有益、安全、公平方向健康有序发展。
二、金融机构安全开发应用人工智能应遵循哪些原则？
一是坚持谁使用谁负责，压实金融机构作为金融服务提供方、人工智能技术使用方的主体责任，强化金融机构内部各环节工作责任落实，明确人工智能开发应用各方分工和权责义务。
二是坚持自主可控，持续提升人工智能相关技术、设备自主可控水平，提高对业务经营发展有重大影响的关键平台、关键软硬件的自主研发能力，加强信息技术应用创新适配。
三是坚持务实高效，以提升业务价值为导向，科学规划人工智能开发应用投入，有效平衡成本与效益，摒弃“为新而新、为用而用”的倾向，推动人工智能切实服务经济高质量发展和金融业务高效运转。
四是坚持安全发展，严格落实国家网络安全和信息化工作要求，遵守网络安全、数据安全各项法律法规制度，强化技术安全和应用安全保障，全面提升安全防护和应急处置能力。
三、《指导意见》对金融机构在完善人工智能治理方面提出哪些要求？
首先是加强顶层设计与治理体系建设。董（理）事会指定专门委员会对人工智能开发应用管理负责，强化战略引领，统筹制定发展规划。完善模型研发、数据治理、安全运行、外包管理等方面的基本制度规范，组建跨业务、科技、数据职能的协同机制，培养具备人工智能素养与业务能力的复合型人才队伍，确保人工智能应用与机构自身风险管理能力相匹配。
其次是建立人工智能全生命周期管理体系，覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出等阶段。规范模型研发、应用及资产管理，加强安全评估、伦理审查、责任追溯机制建设。对人工智能应用进行分级分类管理，并实施针对性的差异化管控措施。
最后是加强应用场景和流程管理，按照技术适配原则，将适合的技术用于适当的场景，在服务实体经济、金融风险防控等领域充分释放人工智能技术的赋能价值。完善人机协同的业务管理流程，科学设定人工智能的功能边界、系统和数据权限，明确人员岗位责任，确保业务全流程管理责任清晰、可落实、可追溯。
四、《指导意见》对于金融机构在模型、数据及算力方面的建设和管理分别有哪些具体意见？
在模型开发方面，鼓励有条件的金融机构建立一站式人工智能开发平台，实现模型开发部署的全流程管理，完善人工智能测评体系；支持金融机构在风险可控的前提下，推进生成式人工智能业务应用和配套能力建设，对生成式人工智能模型实施准入管理，外部引入的生成式人工智能模型需履行必要程序；加强人工智能运营服务体系建设，支持有条件的金融机构建立模型即服务平台；促进人工智能应用成果在行业共享复用，鼓励大型金融机构发挥示范作用，向中小金融机构输出人工智能技术和管理经验等。
在数据治理方面，要求推动数据运营机制建设，建立覆盖数据生命周期的管理流程；持续推进高质量数据集建设，确立数据质量标准，确保数据准确性、相关性、一致性、完整性和无偏见；开展行业分类高质量数据集共建，支持金融机构间依法合规开展数据集共享；支持金融机构构建企业级知识管理体系，鼓励利用人工智能技术提升知识管理能力等。
在智能算力建设方面，要求按需布局智能算力资源，提升自主可控能力；支持同业间输出算力云服务和基础设施共建共享；支持在安全合规前提下使用国家算力节点或行业基础设施，要求加强对智能算力资源的信息科技重要外包管理；加强算力资源云化管理和监测，实现应用、模型、算力、网络的一体化管理，保障安全可靠运行。
五、《指导意见》对金融机构强化人工智能风险治理有哪些要求？
金融机构强化人工智能风险治理需从治理体系建设、分类分级管理、流程优化、外部合作等方面构建系统性框架。
一是健全风险治理体系。金融机构应将人工智能风险纳入金融机构全面风险管理体系，定期开展对人工智能应用风险及管理措施的评估审查，推动安全能力建设，防范模型黑箱风险、生成幻觉、算法歧视等各类风险，加强网络安全、数据安全与客户信息保护，持续夯实人工智能应用安全基础。
二是实施风险分类管控。准确识别和控制人工智能应用可能产生的各类风险，依据业务场景的重要性、应用规模、对客影响度、模型依赖度、模型复杂度等维度实施风险分类分级和动态管理，明确不同等级应用场景的管理措施，落实管理责任。
三是优化全流程管理。金融机构应持续完善业务及风险管理流程，建立管理制度，制定应用清单，强化高风险应用准入管理。加强对人工智能在业务场景中的运行监测，及时发现并管控模型风险。在高风险人工智能应用关键环节建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程。
四是强化技术自主性与供应链安全。金融机构在与外部机构开展人工智能相关合作的过程中，应开展全面的风险评估，在外包策略、数据安全、集中度管理等方面建立管理机制，明确安全管理的权责义务，确保有效管控风险，防范风险的跨业传递。同时，加强供应链风险与开源技术管理。
六、金融机构在提升人工智能安全开发能力的过程中应重点关注哪些方面？
金融机构应构建兼具安全性、透明度与责任可追溯的人工智能应用能力体系，统筹风险防控与业务发展。具体包括：一是增强稳健性，完善模型开发测试管理，持续监测模型性能表现，并建立定期迭代优化机制。二是提高透明度，加强人工智能应用透明度管理，为高风险场景应用制定透明度和可解释性标准，对生成内容应进行显著标识，并履行消费者说明义务。三是促进可解释性，制定模型可解释性方法，定期对人工智能算法开展审计。可解释性不足的人工智能技术应用于高风险场景时，仅能作为辅助工具。四是保障伦理道德与公平性，开发应用人工智能应符合法律法规及社会价值观要求，避免算法歧视等不公平性问题。五是加强数据安全与个人信息保护，严格落实数据分类分级保护要求，规范数据访问权限，加强模型安全护栏建设，加强内容过滤及脱敏管理，有效防范客户隐私泄露。六是提升网络安全防御能力，加强模型部署安全，提升智能体系统安全保障能力，持续监控模型行为，定期扫描、修补漏洞，有效防范网络攻击威胁。七是加强运营韧性及业务连续性管理，强化安全运行管理、事件处置和容灾能力建设，保障人工智能应用稳定性、可靠性。
七、《指导意见》要求监管部门开展哪些监督和保障工作？
一是加强督促指导，督促金融机构全面落实风险治理要求，加强风险评估和监督检查，关注合规风险，严肃查处违规行为。二是推动构建行业人工智能安全开发应用技术框架，规范分类分级管理，引导金融机构提升人工智能应用安全开发水平。三是加强风险监测与应对处置，明确金融机构面向公众服务或高风险场景应用使用生成式人工智能技术的，应向监管机构报告；监管部门加强监测预警与分析处置，做好跨部门合作协调，形成合力，防范系统性风险。四是建立监管定期评估机制，重点加强高风险场景应用监管，持续提高监管适配能力。五是加强监管队伍建设，着力培养复合型监管人才，提升人工智能风险识别、监测和处置能力。六是促进行业交流，营造人工智能发展的良好文化氛围。
评论