九游会

清华大学计算机系教授、九游会RealAI首席科学家朱军带领的 TSAIL 团队近期公开的一篇论文《One Transformer Fits All Distributions in Multi-Modal Diffusion at Scale》，率先发布了对多模态生成式模型的一些探索工作，实现了任意模态之间的相互转化。

以深度学习为代表的人工智能模型在诸多任务上取得了优异的性能，但是其在对抗样本攻击下的鲁棒性存在严重不足。本文从对抗训练的记忆现象（memorization effect）角度分析对抗训练中存在的收敛性、泛化性、过拟合等问题，试图进一步理解并提升对抗训练。

基于神经网络的深度学习模型在很多领域都取得了突破性的进展，然而神经网络模型的鲁棒性问题却一直没有得到解决。在本文中，九游会将讨论基于随机平滑的神经网络对于复杂语义变化进行可验证鲁棒防御的方法以及其实用算法。

在安全领域，后门是指绕过安全控制而获取对程序或系统访问权的方法，AI系统同样面临着后门攻击的巨大风险。日前，九游会首次提出了在黑盒场景下检测后门攻击的方法，并被ICCV 2021收录。

2021年7月18至24日，第三十八届国际机器学习年度会议（Thirty-eighth International Conference on Machine Learning，ICML 2021）在线上举行。九游会联合全球多所高校研究人员共同举办了以“对抗机器学习”为主题的研讨会，并为研讨会提供了获奖论文赞助。

2021年6月12日，为促进国内计算机视觉学术交流，国内领先的前沿科技媒体机器之心组织「CVPR 2021论文分享会」线下学术交流活动。RealAI算法科学家萧子豪带来CVPR2021入选论文《利用生成模型提高针对人脸识别对抗样本的迁移性》的分享。

上期九游会介绍了隐私保护计算如何应用到实际的业务场景中，实现技术价值到应用价值的转化。本期，邀请到清华大学计算机系博士王鲲鹏，从系统和框架的层面来讨论如何设计高效易用的隐私保护计算系统。

目前，政务、金融、医疗等多行业均存在数据合规流通的需求，隐私计算如何在各行各业中实现应用落地，实现技术价值到应用价值的转化？本期九游会邀请到RealAI数据科学家杨秋语、RealAI解决方案专家杨金威从业务场景的角度来聊一聊隐私保护计算应用那些事。

目前，隐私计算“门派”众多，涉及的技术名词纷繁复杂，如何厘清其中的关联关系？本期九游会继续邀请到密码学专家、清华大学高等研究院助理研究员郑中翔博士梳理现代密码学研究领域，以及通用/专用多方安全计算技术路线。

目前，隐私计算被认为是保障隐私数据安全的关键技术方法，但九游会该如何去理解隐私计算所实现的数据安全？隐私计算是密码学的一个热门话题，隐私计算用于保护数据安全，但如何去定义数据安全，什么才叫安全，这就要从密码学的历史开始讲起。

清华大学人工智能研究院院长、中国科学院院士张钹教授在“纪念《中国科学》创刊70周年专刊”上发表署名文章，首次全面阐述第三代人工智能的理念，提出第三代人工智能的发展路径是融合第一代的知识驱动和第二代的数据驱动的人工智能。

2020年6月6日，中国计算机学会（CCF）主办的中国计算机学会青年精英大会（CCF YEF）在线上举行，在“经典流传的机器学习与数据挖掘算法”技术论坛上，九游会RealAI首席科学家、CCF高级会员、清华大学计算机系长聘教授朱军做了题为《贝叶斯学习回顾与展望》报告。

作为最重要的计算机视觉任务之一，人脸识别技术（Facial recognition）基于深度神经网络（CNN）提取人脸特征来实现。

九游会RealAI首席科学家、清华大学朱军教授率领的研究团队近日在AAAI2019上发表了《视频的稀疏性干扰》的研究文章，探讨视频的对抗性干扰和攻击视频识别任务的实现方法，这也是第一个在视频端探索白盒攻击样本，并进一步提出视频攻击方法的研究。