了解为什么人工智能和人工智能治理需要更多的透明度和问责制。

基于人工智能的系统的开发、应用和功能正在迅速发展，这使得与这些技术和实践的社会影响、治理和道德实施相关的一系列重要的短期和长期问题在很大程度上没有得到解决。 在本文中，我们将讨论人工智能治理可以从加密货币的去中心化理念中学到什么，以及为什么需要治理。



许多社会部门迅速采用数字技术和大数据，导致人工智能、自主系统和算法决策悄然无缝地融入数十亿人的生活。人工智能和算法系统已经指导了私营和公共部门的大量决策。例如，Google和Facebook等私人全球平台使用基于人工智能的过滤算法来控制对信息的访问。人工智能可以将这些数据用于操纵、偏见、社会歧视和财产权相关的问题。

人类无法理解、解释或预测人工智能的内部工作方式。在人工智能被信任做出影响我们生活的重要决定的情况下，这是一个令人担忧的原因。这需要人工智能的更多透明度和问责制，以及人工智能治理。

“去中心化”理念的加密货币带来的启示

美国科技巨头们不仅被批评者称为自私的技术乌托邦主义者，而且迅速成为了对技术反乌托邦主义叙事最为积极的宣传者。

本周，一封由350多人签名的信，包括微软创始人Bill Gates、OpenAI首席执行官Sam Altman和前谷歌科学家Geoffrey Hinton，发表了一个声明性的句子：“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一样，成为全球优先考虑的问题。”

据Coindeck报道，两个月前，特斯拉和Twitter首席执行官Elon Musk以及其他31，800人签署了一封公开信，呼吁暂停人工智能开发六个月，以使社会能够确定其对人类的风险。在同一周，被认为是通用人工智能领域创始人的Eliezer Yudkowsky在《时代》杂志的一篇专栏文章中表示，他拒绝签署这封信，因为这还不够。相反，他呼吁在军事上强制关闭人工智能开发实验室，以免出现杀死我们每一个人的有感知的数字化生物。

为什么AI治理很重要？

1.潜在的工作威胁——几十年来，自动化一直在蚕食制造业的工作岗位。人工智能极大地加速了这一进程，并将其传播到其他领域，这些领域以前被认为无限期地垄断着人类的智慧。从驾驶卡车到撰写新闻和执行招聘任务，人工智能算法正以前所未有的方式威胁着中产阶级的工作岗位。他们也可能把目光投向其他领域，比如取代医生、律师、作家、画家等。

2.责任——当软件或硬件出现故障时，谁应该负责？在人工智能出现之前，很容易确定事件是否是用户、开发者或制造商的行为导致的。但在人工智能驱动技术时代，界限变得模糊。当人工智能算法开始做出关键决策时，例如自动驾驶汽车必须在乘客和行人的生命之间做出选择时，这可能成为一个问题。其他可想象的场景中，例如当人工智能驱动的药物输液系统或机器人手术机器伤害患者时，确定罪责和责任将变得困难。

3.数据隐私——为了追求更多数据，公司可能会涉足未知领域并越过隐私边界。最近，我们看到了Facebook在一段时间内收集个人数据并以导致隐私侵犯的方式使用该数据的情况。还有一个例子是英国国家医疗服务体系与Google DeepMind的患者数据共享项目，据称此举旨在提高疾病预测水平。还有政府和非政府性质的不良行为者的问题，这可能会使人工智能和机器学习被滥用。俄罗斯推出了一款非常有效的面部识别应用程序，事实证明，它是专制政权寻求识别和镇压持不同政见者和抗议者的潜在工具。

4.技术军备竞赛——武器化的人工智能创新已经呈现出多种形式。该技术用于巡航导弹和无人机发现数百英里外目标的复杂指标，以及用于探测和对抗目标的系统。例如，擅于搜寻度假照片的算法可以重新利用以搜寻间谍卫星图像，而用于自动驾驶小型货车的控制软件非常类似于需要无人驾驶坦克所需的控制软件。

许多人工智能的发展和应用方面的最新进展都来自Google等公司的研究。Google一直与企业座右铭“不作恶”相关联。但最近Google证实，作为Maven项目的一部分，它正在向美国军方提供解读视频图像的人工智能技术。

根据专家的说法，这项技术可能被用于更精确地定位轰炸目标。这会导致任何一种自主武器系统的出现，例如杀人机器人。人工智能系统在多大程度上可以被设计和操作来反映人类的价值观，如公平，问责和透明，并避免不平等和偏见？由于人工智能驱动的系统现在参与决策，例如在自主武器的案例中。多少人的控制是必要的或需要的？谁对基于人工智能的输出负责？

为了确保人工智能生态系统的透明度、问责制和可解释性，我们的政府、公民社会、私营部门和学术界必须坐在一起讨论治理机制，最大限度地减少人工智能和自主系统的风险和可能的负面影响，同时充分利用这一技术的潜力。为人工智能、自治系统和算法设计治理生态系统的过程无疑很复杂，但并非不可能。

 

来源：https://www.analyticsinsight.net/what-ai-governance-can-learn-from-cryptos-decentralization-ethos/