西安交大沈超：可信AI实战竞技节目引领科技风气，需被更多看见

AI作为一项伟大的科技发明，广泛应用于各行各业最近几年来，伴随着AI技术的大规模产业化，算法安全，隐私泄露，数据歧视等越来越多的问题逐渐暴露，将AI指向了不可信的困境

可信度被认为是下一代人工智能的基础2015年以来，行业在部分业务场景中采用AI安全技术保护用户隐私，微软，谷歌，IBM等科技巨头纷纷重新投资可信AI，成立相关部门或项目，开始刹车AI2017年，中国科学家何继峰在国内首次提出可信AI概念，2021年，蚂蚁集团首次披露了具有数据隐私保护，公平性，健壮性和可解释性的可信AI架构体系，2021年10月，中国计算机科学家，ACM和周发表了《可信人工智能》一文，详细追溯了可信人工智能的发展脉络和技术核心AI逐渐形成了公平性，可解释性，健壮性和隐私保护四个主要特征，成为全球科技公司和学术界追逐的技术领域

可信AI技术人才的培养逐渐成为高等教育的重点Xi交大与蚂蚁集团合作，开设了国内首个以可信AI理论与应用实践为核心内容的产学合作课程——对抗性机器学习与人工智能安全由Xi交通大学教授和蚂蚁集团技术专家联合授课，围绕数据隐私保护，健壮性，可解释性和因果分析，公平性四个部分进行设计，涵盖可信AI领域的重要技术理论和应用实践

最近几天，一场国内ATEC科技精英挑战赛《燃烧吧！天才程序员2可信AI将可信AI推向更深层次的产学研，在年轻人中掀起了一股科技浪潮大赛以可信AI在反欺诈实践中的应用，检验了年轻技术人对可信AI的健壮性和隐私保护的技术应用能力，将技术积累转化为实战，为高科技人才创造了一些走向行业的渠道

当然，一个技术方案并不能反映实际业务的全貌和复杂程度其现实意义在于，在竞赛过程中，青年科技人员可以更多地融入到产学研体系中，产生与产学研相结合的意识这些业余青年技术人员所展现的科技求真精神，也是引导年轻人关注科技时尚的重要渠道

用技术的力量让AI更安全，让可信AI普及，将长期面临政策法规，技术演进，标准建设，产学研结合，社会认知的挑战，需要技术人员，学者，政策研究者的共同努力但不可否认的是，今天的青年技术人员是未来重要的技术力量给他们提供一个更加多元化的技术理解和实践的渠道，也是一件困难而正确的事情，值得更多人看到