面向计算机专业的可信人工智能教学设计.pdfVIP

第4期计算机教育

2024年4月10日ComputerEducation105

文章编号：1672-5913(2024)04-0105-04中图分类号：G642

面向计算机专业的可信人工智能教学设计

陈 川，郑子彬，杨晶华，李晓丽1211

（1.中山大学计算机学院，广东广州510006；

2.中山大学软件工程学院，广东珠海519000）

摘 要：介绍可信人工智能的基本概念和技术，分析可信人工智能课程教学面临的问题，然后根据可

信人工智能课程的现状，提出可信人工智能课程建设的具体措施，包括课堂讲授、专题研学、示范应

用实践等，以培养更多的优秀人才，推动可信人工智能技术的发展。

关键词：可信人工智技术；教学设计；教学实践

0 引 言能模型可以做出很好的预测，还要很好地解释模

型是如何预测的[3]。

可信人工智能技术是指在人工智能应用中，在国家层面，可信人工智能技术已经成为了

通过技术手段保障数据隐私、模型安全和算法可一个重要的政策方向。中国政府在2017年发布

解释性等方面的技术，主要包括以下几个方面。了《新一代人工智能发展规划》，明确提出了要

（1）隐私保护：在人工智能应用中，往往需加强可信人工智能技术的研究和应用，同时，欧

要使用大量的数据来训练模型，这些数据可能包盟也在2020年发布《欧盟数据战略》，提出要加

含用户的敏感信息。因此，如何在保证数据的质强数据隐私保护和可信人工智能技术的发展。中

量的同时保护用户的隐私成为一项重要的任务。国高校在近年来逐渐开设了可信人工智能课程，

可信人工智能技术可以通过加密、差分隐私等手如西安交通大学与蚂蚁集团合作的可信AI理论

段来保护数据隐私[1-2]。及应用实践等，以培养学生在人工智能领域的可

（2）联邦学习：联邦学习是指在不将数据集信技术方面的专业知识和技能。然而，在教学

中到一个地方的情况下，通过协作学习来提高时，开设可信人工智能课程面临教学资源少，学

模型的精度。在联邦学习中，每个参与方只需要生缺乏数据隐私、模型安全等方面的基础知识，

在本地训练模型，然后将模型参数上传到服务器学生对于可信人工智能的应用场景了解不够。因

进行聚合。这种方法可以避免数据泄露和隐私问此，有必要分析可信人工智能教学面临的困难，

题，同时也可以提高模型的精度。进行相应的教学改革。

（3）模型攻防：模型攻防是指通过攻击和防

御的手段来保障模型的安全。可信人工智能技术1 可信人工智能课程教学面临的问题

可以通过加入噪声、对抗训练等手段来提高模型

的鲁棒性，从而保证模型的安全性。1）教学资源较少。

（4）模型可解释性：模型的可解释性是可信由于可信人工智能技术是一个新兴的领域，

人工智能模型中至关重要的方面，它确保模型与因此在教学资源方面存在一定的不足。教材、案

想要解决的问题保持一致，即不仅要保障人工智例等方面的资源都比较匮乏，对于教学的开展造

基金项目：2022—2025年国家自然科学基金项目“基于图增强的张量化图神经网络架构研究”。

作者简介：陈川，男，副教授，研究方向为可信机器学习、图神经网络、隐私计算等