2024金融AIGC音视频反欺诈白皮书

金融AIGC音视频反欺诈白皮书序早在2018年，习近平总书记就强调要未雨绸缪，加强战略研判，确保人工智能安全、可靠、可控。此后，习近平主席又在多个国际场合倡议“不断提升人工智能技术的安全性、可靠性、可控性、公平性”“引领全球人工智能健康发展”[1]。在此背景下，我国陆续出台了一系列法律法规与政策文件,以加强N的安全监管和规范应用。2024年7月，二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》中，特别强调了“完善生成式人工智能发展和管理机制。”“加强网络安全体制建设，建立人工智能安全监管制度。”[2]这是党中央统筹发展与安全，积极应对人工智能安全风险作出的重要部署。为此，国内发布了包括《国家新一代人工智能标准体系建设指南》、《生成式人工智能服务管理暂行办法》和《关于依法惩治网络暴力违法犯罪的指导意见》等多项政策，明确对利用深度合成技术发布违法信息的行为从重处罚。在金融领域，基于人工智能的AGC技术的普及带来了显著的创新潜力，但同时也给金融机构的业务安全、客户信任以及系统稳定性构成了新的挑战。特别是音视频领域的AGC欺诈手段，已经成为金融机构必须面对的重要风险之一。这些欺诈行为不仅损害了金融机构的声誉和利益，更对广大客户的财产安全构成了严重威胁。N治理攸关全人类命运，必须采取切实有效的措施，贯彻人工智能安全理念，防范AGC欺诈，保障金融业务安全。一方面，要加强技术研发和创新，提升AGC技术的安全性和可控性。通过加强算法研究、优化模型设计、提高数据质量等手段，不断提升AGC技术的准确性和稳定性，减少其被恶意利用的风险。另一方面，要加强监管和治理，建立健全人工智能安全监管制度。通过完善法律法规、加大执法力度、提高监管效能等手段，确保人工智能技术在金融领域的应用符合法律法规要求，保障金融业务的合规性和安全性。基于此，交通银行、顶象技术、瑞菜智慧联合编写了《金融AGC音视频反欺诈白皮书》，通过详实的数据、典型的案例和前瞻性的技术分析，系统介绍NGC带来的欺诈风险，深入剖析金融机构面临的AGC音视频风险挑战，并提出AGC音视频反欺诈方案、技术实现路径及相关倡议，以期为金融机构提升NGC欺诈识别和防范能力提供有益参考。相信通过强化合规体系建设，加强反欺诈技术创新，构建全链条健康生态守正创新携手共进，必将推动人工智能的健康发展，赋能金融高质量发展。交通银行副行长兼首席信息官：