近日，人工智能领域知名国际杂志《IEEE智能系统》公布了2022年“AI's 10 to Watch”榜单。 “我们很自豪能够发现人工智能领域年轻的后起之秀，并认可和宣传他们的宝贵贡献。当今快速发展的人工智能领域为年轻的专业人士和研究人员提供了更好的开发工具和有利的环境。很幸运能够成为人工智能黄金时代的一部分，”IEEE 智能系统杂志主编（临时）San Murugesan 向媒体表示。“他们有一个独特的机会，可以通过将自己的努力引导到人工智能领域来产生有意义的影响。造福全人类的重要领域。他们应该利用自己的技能和专业知识来实现更大的利益，并将人工智能带到最前沿，更好地塑造智能的未来。”他补充道。本次AI 10 to Watch名单（按官网公布顺序）包括伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机科学系助理教授、悉尼大学高级讲师李波澳大利亚穆罕默德·本·扎耶德人工智能大学机器学习系客座副教授刘同亮，哈尔滨工业大学计算机科学与技术学院院长、教授聂立强，新加坡科技设计大学计算机科学系助理教授Soujanya Poria、美国谷歌高级研究员孙德庆、加州大学洛杉矶分校计算机科学系副教授孙一舟、唐吉良，密歇根州立大学校级教授，Atlas Wang，德克萨斯大学奥斯汀分校电气与计算机工程系助理教授，尹洪志，昆士兰大学副教授。据了解，自2006年起，IEEE智能系统杂志设立了AI’s 10 to Watch，旨在每两年在全球范围内评选出10名从事人工智能领域研究的杰出青年学者。

图片|李波（来源：李波个人主页）

其中，李波团队重点研究为可信的机器学习系统提供理论保障，包括鲁棒性、隐私性、泛化性、公平性等。官网介绍，李波通过将领域知识和逻辑推理能力融入到数据驱动的统计机器学习模型中，提高了有保障的学习鲁棒性。此外，她还为高维数据设计了一个可扩展的隐私保护数据生成框架。她的研究为机器学习系统的可信度提供了严格的保证。值得注意的是，该技术已在相关工业应用中得到应用。在此之前，李博因其在对抗性机器学习方面的研究而成为2020年《麻省理工科技评论》“35岁以下技术创新”（MITTR 35）全球提名者之一。她被选中是因为通过设计新的方法来“愚弄”人工智能，从而使人工智能变得更安全。此外，她最近获得的奖项包括2022 年斯隆研究奖、IJCAI 计算机与思想奖、UIUC 教师研究卓越奖和C.W. Gear 杰出青年教师奖。除了学术荣誉外，她还获得了Meta、亚马逊、英特尔等各大科技公司的奖项。而且，她的成果多次获得顶级会议最佳论文奖。近期，李波团队取得了一系列成果。例如，他们制作了一系列学习推理框架来支持纯数据驱动模型的知识逻辑推理部分。这允许将领域知识或人类指令显式集成到模型中[1]。 “我们的NeurIPS 论文Learning Inference 首先提供了这样一个框架，并提出了如何为该框架提供稳健的验证。”李波说道。在随后的ICML（国际机器学习会议）研究中，她和她的团队证明了这样的框架一定比单一模型（例如全连接的神经网络）更加稳健[2]。近日，李博团队在IEEE安全与隐私研讨会（IEEESP）上报告了一种认证鲁棒性方法的分类系统，并提供了统一的工具箱，可以轻松实现不同的认证。和羽扇豆训练方法。另外，他们还提供排名，方便用户比较不同的方法等。李博认为，可信机器学习提供理论保证非常重要，否则如果未来没有实证的稳健性或确定性，人们就不会能够阻止新的自适应攻击者。其团队目前专注于自动驾驶和大型模型的可信学习，目标是为自动驾驶和大型模型提供标准化的可信验证。例如，在团队最近的一项研究中，针对GPT-4 和GPT-3.5，从鲁棒性、分布外（ODE）、隐私、人工智能伦理、公平性、刻板印象偏见等不同角度进行可信度评估。此前，他们针对自动驾驶测试的安全关键场景生成做了一系列工作，希望能够帮助提升自动驾驶安全性。未来，李博和团队将继续致力于解决机器学习模型的可信度问题，并为其提供理论保障。 “主要挑战是如何为不同的机器学习模型和应用定义理论保证，并使理论保证可扩展并适用于不同的现实场景，”她说。

参考：https://www.computer.org/publications/tech-news/insider/2022-ais-top-10-to-watch1.https://arxiv.org/abs/2003.001202.https://arxiv.org/abs/2106.062353.https://arxiv.org/abs/2009.04131