大语言模型基础(微课版）课件 第11、12章 技术伦理与限制、大模型产品评估.pptx

;;随着人工智能不断取得突破，大模型时代到来，一些潜在的隐患和道德伦理问题也逐步显现出来。例如，人工智能在安全、隐私等方面存在一定风险隐患：“换脸”技术有可能侵犯个人隐私，信息采集不当会带来数据泄露，算法漏洞加剧则认知偏见……这说明，人工智能及其大模型不单具有技术属性，还具有明显的社会属性。唯有综合考虑经济、社会和环境等因素，才能更好地应对人工智能技术带来的机遇和挑战，推动其健康发展。;人工智能治理带来很多伦理和法律课题，如何打造“负责任的人工智能”正变得愈发迫切和关键。必须加强人工智能发展的潜在风险研判和防范，规范人工智能的发展，确保人工智能安全、可靠、可控。要建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。致力于依照“以人为本”的伦理原则推进人工智能的发展，应该将“社会责任人工智能”作为一个重要的研究方向。只有正确处理好人和机器的关系，才能更好地走向“人机混合”智能时代。;;PART01;华裔人工智能科学家李飞飞表示，现在迫切需要让伦理成为人工智能研究与发展的根本组成部分。显然，我们比历史上任何时候都更加需要注重技术与伦理的平衡。因为一方面技术意味着速度和效率，应发挥好技术的无限潜力，善用技术追求效率，创造社会和经济效益。另一方面，人性意味着深度和价值，要追求人性，维护人类价值和自我实现，避免技术发展和应用突破人类伦理底线。只有保持警醒和敬畏，在以效率为准绳的“技术算法”和以伦理为准绳的“人性算法”之间实现平衡，才能确保“科技向善”。;从语音识别到智能音箱，从无人驾驶到人机对战，经过多年不断地创新发展，人工智能给人类社会带来了一次又一次惊喜。同时，个人身份信息和行为数据有可能被整合在一起，这虽然能让机器更了解我们，为人们提供更好的服务，但如果使用不当，则可能引发隐私和数据泄露问题。例如，据《福布斯》网站报道，一名14岁少年黑客轻而易举地侵入了互联网汽车的网络系统，甚至可以远程操控汽车，这震惊了整个汽车行业。可见，如何更好地解决这些社会关注的伦理相关??题，需要提早考虑和布局。;对人工智能与人类之间伦理关系的研究，不能脱离对AI技术本身的讨论。

（1）首先，是真正意义上的人工智能的发展路径。在1956年达特茅斯学院的研讨会上，人们思考的是如何将人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成信息，并加以控制和应用。因此，人工智能的发展在很大程度上是对人类行为的模拟，让一种更像人的思维机器能够诞生。著名的图灵测试，其目的也是在检验人工智能是否更像人类。;但问题在于，机器思维在做出其判断时，是否需要人的思维这个中介？显然，对于人工智能来说，答案是否定的。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。

（2）人工智能发展的另一个方向，即智能增强。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。;机器学习，即属于机器本身的学习方式，它通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器抽象出来的关于猫的概念与人类自己理解的猫的概念之间是否存在着差别。但是，模拟人类

大脑和思维的人工智能尚具有一定的可控性，

而基于机器思维的人工智能显然不能做简单

定论。

图11-1人工智能识别猫;第一个提出“智能增强”的工程师恩格尔巴特认为：智能增强技术更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术。自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。;自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。;智能增强技术带来了人类思维和机器这两个平面，两个平面之间需要一个接口，接口技术让人与智能机器的沟通成为可能。在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。也就是说，人类与智能机器的关系，既不是纯粹的利用关系，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。;由人工智能衍生出来的技术还有很多，其中潜在的伦理问题与风险也值得我们去深入探讨。如今关于“人工智能威胁论”的观点有不少