报告题目:如何信任人工智能?探索具有可证明鲁棒性的神经网络
报告人:许凯第
报告时间:2023年3月14日上午9点30
报告地点:江安校区多学科交叉研究创新大楼一楼A103报告厅
报告内容:神经网络已成为现代人工智能的重要组成部分。这些网络通常是黑盒的,有时会出现不可预测的行为并产生出人意料的错误结果。把神经网络应用于自动驾驶和飞机控制等关键任务系统时,通常需要形式验证其可信度,如安全性和对抗攻击鲁棒性。但神经网络的复杂性使得形式验证其属性的任务极具挑战。为了应对这一挑战,我们首先提出了一种基于神经网络线性规划松弛的高效验证算法,这种算法在给定有界输入扰动的情况下产生有保证的输出界限。我们的算法以反向传播的方式高效地在神经网络上传播线性不等式,并且可以使用我们的 auto_LiRPA 库应用于任意网络架构。为了减少从线性规划松弛产生的错误,我们进一步开发了一种高效的优化步骤,使得验证上下界快速逼近。最后,讨论了如何通过把附加的分支约束合并到边界传播过程中,从而给验证器增加分支定界的能力。这些先进的神经网络验证技术的结合整合出了alpha-beta-CROWN,这是一种强大的可扩展的基于 GPU 的神经网络验证器,它以最高分在 2022 年和 2023 年赢得了国际神经网络验证竞赛(VNNComp)。
报告人简介:许凯第,美国Drexel University计算机科学系的助理教授,在2021年于东北大学获博士学位,2017年于佛罗里达大学获得硕士学位,2015于必赢76net线路获得本科学位。许教授的主要研究兴趣是机器学习的对抗攻击健壮性,其Google Scholar引用1600+,许教授在各种顶级国际会议上发表文章,他的作品《Adversarial T-shirt》获得了 200 多家媒体的报道。
欢迎广大师生踊跃参加!
必赢76net线路
2023年 3月13日