人工智能治理：收获回报并降低风险.docx

?

?

人工智能治理

收获回报并降低风险

?

?

MariaKorolovCharles

人工智能治理涉及企业内的许多功能领域——数据隐私、算法偏差、合规性、道德规范等等。因此，要做好人工智能技术使用的治理工作需要在多个层面上采取行动。

塔塔咨询服务公司数据和分析业务主管KamleshMhashilkar认为：“这不仅仅涉及IT层面或者项目层面。”他说，人工智能治理也发生在政府、董事会和首席安全官等层面。

例如，在医疗健康领域，人工智能模型必须通过严格的审核和检查。许多其他行业也有适用的法规。Mhashilkar说：“在董事会层面，这关乎到经济行为。引入人工智能时，会面临哪些风险？”

至于高管，人工智能议程是有目的的。例如，首席财务官要考虑股东价值和盈利能力。首席信息官和首席数据官也是关键的相关方，营销与合规主管当然也是。更不用说客户和供应商了。

构建人工智能治理战略时，并非所有企业都需要在各个方面采取行动。尽管如此，所有企业都在或者很快将要使用人工智能和相关技术，即使这些技术只是嵌入到他们使用的第三方工具和服务中。

在没有适当监督的情况下使用人工智能时，它有可能犯错，导致损害企业运营、侵犯隐私权、违反行业法规，或者会对企业造成不良声誉。

以下介绍有远见的企业将人工智能项目从试点扩展到实际使用时，怎样开始解决人工智能治理问题，重点关注数据质量、算法性能、合规性和伦理道德等。

人工智能的伦理道德问题

如今，很少有哪个领域比面部识别更充斥着伦理道德问题。滥用面部识别的可能性很大，提供面部识别技术的企业受到了公众的抵制，有时还受到自己员工的抵制。

PatriotOne科技公司的子公司XtractAI就是这种情况，该公司使用图像识别来发现携带武器的人。

Xtract的运营副总裁JustinGranek说，这项技术还可以用于其他场合，比如识别那些不戴口罩，不遵守社交距离准则的人。

他说：“伦理道德是一个主要话题。对我们来说，很多事情都是自下而上的。我们的员工在说，‘我们在做什么？，并强烈要求领导层制定我们的治理政策。”

他說：“客户有自己的一套要求，我们得找到平衡点。我们的一家客户是加拿大国防部，还有些客户来自医疗健康行业。他们会从不同的角度看待这个问题。”

他说，最大的问题是为哪些客户工作，以及这项技术应该做什么样的工作。这涉及到关乎企业使命的重大决策。还要解决一些技术问题，这些问题都是从数据开始的。

正确获取数据

算法偏差的最大来源是数据集。例如，对于面部识别，数据集一直没能很好地代表一般人群。XtractAI运营副总裁JustinGranek说：“它们偏向于白人男性。我们正在纠正，但还有很多工作要做。”

专家可以帮助解决数据偏差问题，商业数据提供商正在努力填补他们提供的数据中的空白。Granek说，也有创建合成数据集的方法，但解决办法往往归结为去获得更好的数据。

KamleshMhashilkar，塔塔咨询服务公司数据和分析业务主管

JustinGranek，XtractAI运营副总裁

对于Xtract的检测算法来说，这意味着建立实验室，放上各种各样的退役枪支，让很多人带着枪以不同的方式，在不同的地方走来走去。

他说：“一种天真的做法是，就在好莱坞大片里寻找人们持枪行走的画面，但这并不能代表全部。”

相反，Xtract尽力收集大量的个人信息作为训练数据。Granek说：“没有规定谁可以携带武器。有一些学生。还有更年长的个体;我们有很多不同的个体。”

对于一些人工智能应用程序，准确、有代表性的数据集决定了生存与否，具有重大的道德和伦理意义。但即使不良数据集的影响不会导致问题，它们仍可能给企业带来运营或者财务损害，或者导致监管与合规问题。

世界上最大的建筑材料分销商、总部位于墨西哥的Cemex公司便非常关注后一个问题。这家公司已有100多年的历史，正通过在供应链管理和运营中使用人工智能来重塑自我。

大约三年前，Cemex公司开始研究人工智能及其相关技术，以扩大市场份额，改善客户服务，提高利润。

该公司首席人工智能官NirKaldero介绍说：“去年和今年，我们实际上看到了人工智能在全球范围内的价值——而不仅仅是某个地方的小规模试点。”

他说，随着人工智能已经牢固地融入企业基因中，Cemex意识到有必要围绕人工智能建立治理结构。

一切都从数据开始。Kaldero说：“没有好的信息架构，就没有好的、可靠的人工智能。没有好的信息，就不可能有好的、可靠的模型。”

在Cemex公司，数据治理涉及安全、监控、隐私、合规和伦理道德规范。公司需要知道数据的位置，在哪里以及怎样使用，是否符合监管要求以及有没有偏见。

Kaldero说，Cemex依靠Snowflake数据平台来管理数据，利用Satori来管理访问，还有一