“2025中关村论坛系列活动——数字金融与金融安全大会”于6月9-10日举办，主题为“人工智能机遇：未来金融格局重塑及安全治理”。中关村金融科技产业开展联盟联席理事长、专委会副主任委员，北京大学计算机学院教授、元宇宙技术研究所所长陈钟出席并致辞。陈钟指出，AI已不再是科幻小说中的构想，它正以前所未有的广度和深度融入金融的血脉。生成式AI的技术突破、大模型的通用能力跃升，预示着金融业的生产力、创造力乃至底层逻辑都将迎来颠覆性的变革。
他认为，金融服务模式正被深刻重塑，风险管理能力迎来质的飞跃，金融基础设施与行业生态加速进化。然而，机遇的背面必然是与之伴生的严峻挑战。我们无法回避其带来的新型系统性风险。
具体表现在：
第一，黑箱迷思与算法偏见。复杂AI模型的决策过程往往缺乏透明度和可解释性，这不仅挑战监管，也可能引发公众信任危机。更令人忧虑的是，若训练数据本身隐含社会偏见，AI算法会将其放大固化，导致不公平的信贷歧视或服务排斥，侵蚀金融普惠的根基。
第二，模型共振与新型系统性风险。当众多金融组织依赖于相似的数据源和趋同的AI模型时，可能引发羊群效应和模型的集体失灵，在极端市场条件下诱发难以预料的连锁反应，威胁整个金融体系的稳定。
第三，数据安全与隐私保护的高压线。AI对海量高敏数据的渴求使其成为网络攻击的高价值目标，数据泄露、模型窃取、对抗性攻击等新型威胁层出不穷，对客户隐私保护和关键性金融基础设施安全构成前所未有的挑战。
第四，监管科技的迫切升级。传统基于规则的抽样检查的监管手段，在AI驱动的复杂、高频、跨境的金融活动面前日益力不从心。监管者急需利用AI武装自身，开展监管智能，实现穿透式、实时化、风险前瞻性的新型监管模式。
对此，陈钟谈到了几大应对方法。
一是负责任的AI伦理与治理准则先行。金融业必须率先垂范，制定并践行负责任的AI开发与应用准则，将公平性、可解释性、稳健性、问责制和人机协同等核心价值嵌入AI系统的全生命周期。
二是监管沙盒与敏捷治理并重。鼓励在风险可控的沙盒环境中探索创新，同时监管规则必须保持足够的敏捷性，能够快速响应技术迭代和应用深化，在包容创新与防范风险之间找到动态平衡点。
三是构筑技术安全与韧性防线。投入研发AI模型安全测试、鲁棒性增强、数据隐私保护（如联邦学习、差分隐私等）核心技术，建立针对AI系统的全面网络安全防护和应急响应机制，确保金融基础设施的韧性。
四是深化跨界协同与能力共建。破解AI金融安全治理的难题，需要监管组织、金融组织、科技企业、学术界乃至法律界、伦理界的紧密协作，共享最佳实践、共建测试基准、共育复合型人才，形成强大的治理合力。