ISACA可信人工智能治理调研报告

可信人工智能治理调研报告ps://www.isaca.org.cn888 ISACAHttps://www.isaca.org.cn执行摘要Https://wv本报告围绕可信人工智能治理展开，探讨其全球状况、行业实践并展望未来。cn当前人工智能已经在多个行业中得到应用和部署，例如营销服务、教育、技术服务/咨询业和金融/银行业等，且集中于客户服务和经营管理场景。但大多数企业仍处于技术规划阶段，成熟度较低。在技术使用模ps:式上，多数企业自研能力不足，主要依赖外部产品。在人工智能投入方面，企业呈现两极分化，大多数投入不足100万元人民币，少数超过2000万元人民币。多数企业认为业务改进效果“一般”，显示出投入与产出WW效果的优化空间。在人工智能应用过程中，企业面临的主要挑战包括技术和业务流程融合问题（算法复杂、业务场景的适用性)、数据安全（如隐私保护、数据可靠性）和算法合规性问题。虽然伦理性问题目前关注度较低，但其重要性将日益凸显，企业需重视公平性、透明性、可解释性和安全性，以确保技术的可持续发展。可信人工智能治理是破解风险、实现长期价值的关键路径。在行业实践中，互联网、医疗健康、智能制造和金融行业均结合自身特点，针对数据隐私、算法安全等问题采取了相应的风险应对策略。各行业需要结合自身特点，动态平衡创新与风险控制，强化数据治理、提升算法透明性与伦理性、应用场景设计、应用有效性宣导、应用技能培训、应用团队与技术团队的认知和能力建设，同时通过跨部门协作、全员培训和体系化风险治理推动人工智能技术的安全高效应用和可持续发展。s://ww展望未来，企业应明确治理责任，制定统一政策，建立建设规范和质量衡量标准，设计科学的基底框架，开展专业团队职责定位和能力建设，平衡技术与伦理、加强A技术和应用案例宣导，建立闭环评估机制并加强协作培训。行业需建立标准化框架，加强数据管理、伦理审核、安全防护及评估认证机制，以推动可信人工智能发展，让其更好地服务社会。ps://www.isaca.oHttps://www.isaca.org.cnHttps://wISACAisaca.org.cnca.org.cn@20251SACA。保留所有权利