人工智能算法的法律问题与应对措施.pdfVIP

第45卷第2期喀什大学学报Vol.45No.2

2024年4月JournalofKashiUniversityApr.2024

DOI：10.13933/ki.2096-2134.2024.02.005

人工智能算法的法律问题与应对措施①

钱燕娜

（国防大学政治学院马克思主义理论系,上海201602）

摘要：随着人工智能技术的飞速发展，人工智能算法逐渐影响了人们的日常生活，但因算法黑箱、算法歧

视、算法支配、算法垄断等法律问题使得算法在现实应用中直接影响立法决策的准确、司法决策的公正、行

政监管的规范，也成为继个人信息保护和数据安全立法基本成形后，当前我国人工智能发展的主要风险防

控与秩序信任议题。破解这些难题的路径在于明确算法立法的目的，完善算法立法的形式，构建算法立法

的法律体系，从而更好应对人工智能算法风险。

关键词：人工智能；算法；“大数据杀熟”；规制路径；制度构建

中图分类号：D923.41文献标志码：A文章编号：2096-2134（2024）02-0028-07

一、算法及算法风险（二）算法风险的社会危害性

1.算法风险

随着科技的飞速发展以及人工智能的不断普及，我

算法风险无处不在，它可以影响各种不同的应用场

[1]

国正迈向“算法社会”的新时代。这种方式不仅有助

景，从商业上的新闻发布、搜索引擎排名、电子商务，到

于我们从大量数据中提取信息，并用它来指导社会实

社会上的信用评估、金融决策，甚至是司法审判。这些

践，还能提高人类的认知能力，提高人们公共决策的科

应用场景中，算法的运行都伴随着各种风险，从算法前

学性和准确性，提升生产效率，方便人们的日常生活和

段的数据采集，到算法运算结果的算法决策。虽然最终

工作。然而，这也带来了一系列法律问题。

产生风险的是最终的决策，但算法决策离不开大量的数

（一）算法的内涵

据收集，而数据收集过程中就有可能会出现安全漏洞和

“人工智能”致力于探究如何利用计算机技术来激

侵犯隐私的问题。

发和扩展人类的思维能力，帮助他们更好地理解周围的

算法风险极具隐蔽性。尽管算法风险无处不在，其

[2]

环境，更有效地获取信息，以达到更高的成就。算法

所带来的破坏性影响在某些领域危害极大，但由于大多

被认为是人工智能的关键，它的性能直接影响着整个人

数人对此缺乏认知,使其危害程度更大。“大数据杀熟”

工智能系统的效率和准确性。算法的起源可以追溯到就暴露出了算法风险的潜在威胁，但大多数情况下当事

中国古代的《九章算术》，但如今，其含义已经远远超越人并没有意识到他们已经面临算法歧视的风险，很难发

了算法本身的意义。