人工智能算法造成危害的原因分析3900字 .docx

30-40

人工智能算法造成危害的原因分析综述

分析完算法的危害表现，本节拟从算法自身技术运行角度、算法外部监管角度和算法平台的不合理使用等多方面分析造成上述危害的原因，以便为我国算法的法律规制提出针对性建议。

1.1算法自身的隐蔽性和复杂性

算法作为一种人工编纂的指令，本身就有其复杂性，因为一个算法的成功缔造，不仅需要付出极大的时间成本，更加需要许多技术高超的程序员们的精密设计。算法主体是具备特定的职业技术能力，直接参与算法研发、算法衍生产品的制造和生产等具体实践活动的自然人、法人或相关组织，包括算法的控制者和处理者，算法主体对算法的研发和升级起着主导和关键作用。1之所以会出现算法黑箱问题，是因为普通人未经过系统的学习根本无法了解算法的运行过程和运算机密。隔行如隔山这个道理在算法领域依然成立，就算是在公众面前将算法的编纂过程全部公开透明，依然无法阻止算法编纂者的“暗箱操作”。同时，在算法编纂之后，程序员和设计者还可以根据收集到的用户数据和信息，根据企业发展方向，不断地调整指令达到目的。换而言之，即使公开算法的一系列指令也无法从根本上遏制算法黑箱和杀熟行为的出现。

1.2算法的监管机制不健全

马克思主义辩证法认为，事物的结果均由内因和外因两方面造成，因此在分析完算法自身复杂性和隐蔽性的原因之外，我们不妨也从外部找寻算法造成危害的原因。笔者认为，算法之所以带来各种危害，不仅仅是由于运行不规范，更重要的原因在于外部没有合理且强有力的机制和法律规范指引其正常运行。因此，建立合理有效的算法监管机制十分必要。

我们常会遇到这样的情况：在下载新软件、注册新用户的时候，填完所有的个人信息，最下方往往会出现所谓的“隐私保护条例”,这看似是平台在征求个人的意见，但实际上若不选择同意，用户则无法进行下一步的操作。用户的“被

金梦《立法伦理与算法正义——算法主体行为的法律规制》[J]政法论坛.2021年1月第39卷第1期：

迫妥协”使得隐私保护条例被大量虚置。同时，个人用户大多缺乏必要的专业知识，无法有效地利用个人权利与之对抗。曾有许多人对这个问题进行过探讨，得出的结论是即使提高了算法运行透明度，也向用户告知了相应的权利，但普通人没有应对的方法。因此，迫切需要成立监督和管理算法的行政部门。

我国颁布的《新一代人工智能发展规划》白皮书中，对人工智能的监管提出了提升透明度的要求，称要建立健全公开透明的人工智能监管体系。2对于人工智能的监管问题，笔者认为，我国也有必要组成一个专职部门，专门负责对算法进行监管。虽然算法在社会承担着越来越重要的角色，但目前我国并没有专门对人工智能特别是算法进行监管的部门和法律法规，因此在未来很长一段时间里，或许将有许多人遭到算法侵权却求诉无门，也可能出现各部门之间相互推卸责任踢皮球的现象。具体而言，一方面，我国目前确实缺少一个专业性强、并且能切实帮助受到算法侵害的群众维权的专职部门，对于如何帮助群众抵御算法侵害也缺乏一套行之有效的维权流程。另一方面，社会上算法侵权问题层出不穷，小到因为算法杀熟导致的差别定价，大到外卖小哥因为算法的精密计算而不得不争分夺秒、面临生命安全风险，这些社会事件一次又一次的告诫人们，是时候设立一个专事专办的部门以规制算法的合理使用，从而更好的保障群众的生命和财产安全。与此同时，现在法律法规的大量空白也使得有关部门在处理此类事件时相当为难，一头是拿“技术中立”原则当挡箭牌的处于强势地位的公司，另一头是合法权利切实受到侵害的人民群众。面对此种两难境地，完善算法监管机制以确立处理标准迫在眉睫。

反观国外，许多国家早已意识到仅仅依靠行业自律无法保障算法的规范运行，因此建立起了各类机构以实现对算法的外部监管。例如，美国针对劳工频繁受到算法侵害的问题设立了美国平等就业机会委员会，该机构主要着力于帮助劳工在招聘阶段免受算法的歧视，只要发现招聘信息中有涉及种族、性别、年龄等倾向的信息，该招聘就会被认定为违法，而不论该信息对于招聘结果是否产生影响。3同时，欧盟国家也建立了一些专门机构来规范算法的合理运行，例如利用欧盟

2王海霞.人工智能时代算法新闻的版权保护机制研究[J].出版发行研究，2020,(02):46-50

3郑智航徐昭曦《大数据时代算法歧视的法律规制与司法审查----以美国法律实践为例》[J]比较法研究2019,(04):111—122

证券和市场管理部门监管算法歧视现象。4

目前，我国相继出台了《中华人民共和国数据安全法(草案)》、《中华人民共和国网络安全法》,也制定了《数据安全管理办法》(以下简称“办法”)。除了办法第二十三条5和第二十四条6涉及算法之外，我国目前没有其他法律规范就算法作出明确规定，