浙教版信息技术高中选修4 人工智能初步5.3 人工智能安全-教学课件.pptxVIP

人工智能安全浙教版信息技术

导入：央视财经微纪录片《人工智能：时代的机遇和挑战》：人工智能的到来让我们站在了新的转折点，技术带来的争议与惊喜如影随形。当虚拟和现实的边界日益模糊，潘多拉的盒子是否已经开启？未知的风险开启了关于治理的议题？看一看人工智能的浪潮如何推动人类建立未来世界的秩序……

活动一：探究人工智能带来的安全隐患思考与讨论：1.结合生活实例，讨论涉及人工智能安全隐患的案例；2.分析人工智能面临的安全风险主要有哪两种类型？

分析与交流：1.人工智能算法的正确性的风险2.人工智能算法的可靠性的风险活动一：探究人工智能带来的安全隐患

2019年11月7日，美官方公布了全球首例无人车致死事故的更多细节。在Uber的无人驾驶汽车而发生车祸前5.6秒时车辆就已经检测到了行人，但是系统把她错误识别为汽车。在车祸前5.2秒，汽车的自动驾驶系统又把她归类为“其他”，认为她是不动的物体，并不妨碍车辆行驶。之后系统对物体的分类发生了混乱，在“汽车”和“其他”之间摇摆不定，浪费了大量宝贵的时间。车辆未能及时采取刹车措施，最终导致事故发生。此外，Uber当时禁用了这个测试车辆的紧急制动功能。而当时车辆上乘坐的Uber安全员正在用手机观看电视节目，错失了最后的避险时机。正确性：能够按照算法设计或算法目标来严格执行。一：人工智能算法的正确性

正确性证明程序测试如何保证算法能够顺畅运行、符合设计者预期