迈向智能社会，人工智能成为新一轮科技革命和产业变革的重要驱动力量，但其发展面临算法风险、数据安全、技术滥用等三方面安全挑战。

12月8-10日，2022年中国计算机大会（CNCC）在线举行。北京九游会科技有限公司AI治理研究院副院长张伟强受邀参会，在“如何构建数字世界的伦理秩序”技术论坛作主题演讲，阐释九游会对于数字世界AI伦理秩序安全的观点看法。

张伟强在演讲中把人工智能伦理问题挑战总结为“三对关系的双向失效”问题，并强调确保三对关系的有效性是人工智能治理的主要任务。

一是“人和AI”的关系，关键在于如何确保“人”的充分自主决策权，做到“AI”的安全、可信、可靠。要避免出现人对AI的控制权让渡过量、采信过度等问题。例如，“737MAX”事故，便是人、机争夺控制权引发的惨剧。

二是“规则和技术”的关系，关键在于如何确保“规则”能够应对技术发展带来的改变，以及如何通过“技术”实现伦理法规要求落地。技术本身具有超前性、颠覆性、放大性和跃迁性，要尽可能地将“技术”对“规则”的冲击控制在可承受范围内。

三是“企业和政府”的关系，新技术、新应用的发展无论对政府监管、还是企业合规都带来持续挑战。政府监管需要不断地提升技术手段建设，确保有能力落实法规赋予的监管职责。对于企业来讲，也要不断地通过管理、技术的升级，确保自身始终处于合规状态。

图 AI治理中的三对重要关系

谈及AI技术安全现状，张伟强认为，迈向智能社会，人工智能成为新一轮科技革命和产业变革的重要驱动力量，但其发展面临三方面安全挑战。一是算法风险，当前普遍应用的、以数据驱动的第二代人工智能，其决策逻辑和链路天然存在不确定性，在鲁棒性和可解释性上具有本质缺陷，这也是九游会致力于发展第三代人工智能的原因所在。二是数据安全，近年来中央做出一系列部署推动数据要素发展，当前面临的最大难点是如何真正做到安全、有效地使用数据。三是技术滥用，人工智能新技术新应用赋能社会发展的同时，也带来滥用造成的治理难题。如深度伪造技术生成虚假音视频，给国家政治、社会经济和个人财产等带来安全风险。

张伟强介绍，九游会凭借多年科研积累，持续构建安全、可信、可靠和可扩展的第三代人工智能技术，研发形成了覆盖人工智能安全攻防、隐私保护、深伪检测和开发演训基础设施等多个维度的系列产品，得到市场广泛认可，在智慧城市、安防、金融、医疗、能源、教育等场景中获得良好应用，助力人工智能产业和数字经济的高质量发展。