基于替身攻击的机器学习模型对抗：真的需要真实训练样本吗？

2020年9月27日，电子科技大学朱策教授受邀来访我院，在荟庐302会议室为我院计算机视觉团队的师生开展了一场精彩的报告，讲座由江西财经大学信息管理学院院长方玉明教授主持。报告的主题是“基于替身攻击的机器学习模型对抗：真的需要真实训练样本吗？”。

朱策教授首先科普了白盒与黑盒攻击模式，随后简述了对抗学习的相关知识和当前研究进展。总结出：当前的替身攻击需依赖大量真实数据结合模型信息，且不可避免地依赖于计算消耗较大或复杂度较高的算法。但是实际任务中，真实训练数据的缺乏造成了该领域的难题。针对此难题，朱策教授分享了一种无需真实训练数据的替身模型训练方法，以及该方法所得模型的实用性。

最后，朱策教授分析并总结了值得进一步研究的方向与问题，并与老师同学们就模型对抗算法中存在的问题与未来的可能性进行了深入探讨。