基于挑战安全与伦理等基础问题研究.docxVIP

基于挑战安全与伦理等基础问题研究 在 1956 年美国达特茅斯学院召开的学术研讨会上，人工智能（AI） 首次成为一个正式学术领域，发展至今已有 60 多年的历史。随着人 工智能技术的不断成熟，会有越来越多的机器人或智能程序充当人类 助手，帮助人们完成复重性、危险性的任务，然而，随着人工智能技 术的成熟和大范围应用的展开，人们可能会面临越来越多的安全和伦 理等方面的挑战。 人工智能对人类的作用很大程度上取决于人们如何使用与管理。 如果人工智能技术被犯罪分子利用，就会带来安全问题，例如，黑客 可能通过智能方法发起网络攻击，智能化的网络攻击软件能自我学习， 模仿系统中用户的行为，并不断改变方法，以期尽可能长时间地停留 在计算机系统中，黑客还可利用人工智能技术非法窃取私人信息，通 过定制化不同用户阅读到的网络内容，人工智能技术甚至会被用来左 右和控制公众的认知和判断。 伦理问题是人工智能技术可能带给人们的最为特殊的问题。人工 智能正在替代人的很多决策行为，智能机器人在作出决策时，同样需 要遵从人类社会的各项规则。比如，假设无人驾驶汽车前方人行道上 出现 3 个行人而无法及时刹车，智能系统是应该选择撞向这 3 个行人， 还是转而撞向路边的 1 个行人？人工智能技术的应用，正在将一些生 活中的伦理性问题在系统中规则化。如果在系统的研发设计中未与社 会伦理约束相结合，就有可能在决策中遵循与人类不同的逻辑，从而 导致严重后果。