“缓解因人工智能而导致的灭绝风险，应该和其他的全社会层面的风险，例如全球大流行和核战争一样成为全球优先的任务。”

这是由世界知名的人工智能科学家、教授、公司COO和许多其他知名人士组成的人工智能安全中心(CAIS)的350多位签名人签署的声明。

其中包括三家全球领先的人工智能公司的代表：OpenAI首席执行官Sam Altman、Google DeepMind首席执行官Demis Hassabis和Anthropic首席执行官Dario Amodei。

人工智能监管是必要的

CAIS的评论指出：“越来越多的人工智能专家、记者、政策制定者和公众正在讨论与AI相关的重要和紧迫的风险”，并且该声明的目的是“克服这个障碍，开展讨论”。

同时，该声明旨在创造公共认知，认识到愈来愈多的专家和公众人物也认真对待高级人工智能的一些最严重的风险。

OpenAI的Sam Altman一再强调了人工智能的潜在危险，包括广泛的虚假信息、难以预见的经济冲击和大规模的网络攻击，现在甚至包括了潜在的人类灭绝问题。

为了应对人工智能越来越强大可能带来的对人类的潜在不利影响，Altman强调了引入监管机构和大众参与的重要性作为保障。

然而，他也强调了人工智能仍然是在人类控制之下，仅仅通过人类的指导和输入来发挥作用的工具。

基于这个立场，一些人认为这样的呼吁不过是在煽风点火，或者最好只是一种误解，但专家们并不同意这种观点。

在最近的Lex Friedman的播客中，Altman承认对人工智能有一定程度的担忧是理智的，他说这是“不畏惧有点疯狂”，并且他认为我们对人工智能表现出一定程度的警惕是积极的。

350位专家签署声明警告人工智能的灭绝威胁；其中包括OpenAI的Sam Altman、Google DeepMind的Demis Hassabis和Anthropic的Dario Amodei等人。

未来5年要实现的超级智能？

在最近接受《华尔街日报》采访时，Google DeepMind的CEO Demis Hassabis表示相信，人工智能可能在未来五年内达到与人类相当的认知能力水平。

Hassabis承认最近几年取得的重大进展，并表示：“我不认为这种进步会放缓，我看不出任何理由。”

“我认为这甚至可能会加速。因此，我认为我们可能只需要几年，也许在未来十年内就能实现这个目标，”表明他对该领域进一步迈出重要步伐的期望。

人工智能超越人类普遍智能和实现超级智能的潜在影响包括人类控制的挑战甚至不可能性，从而带来人类灭绝的风险。

一线希望

同时，必须承认的是，人工智能还在各个领域中提供了许多优势。其中包括自动化机械的任务，从而提高了效率和生产力等等。

人工智能使企业能够以更快的速度运营，开启了新的能力和商业模式，提升了整体客户体验。

此外，它还在研究和数据分析方面提供了支持，有助于改进决策过程，减少人为错误的可能性。人工智能在医学领域也扮演着重要的角色，推动医学进步并协助完成重复性任务。

它可以代表人类承担风险，带来更安全的环境。此外，人工智能有潜力创造新一代的工作场所，促进企业系统和个人之间的无缝协作。这反过来又可以使资源分配到更高级别的任务中，进一步提高生产力和创新能力。

不过反面看，必须认识到潜在的威胁确实存在。

智能和自主机器所带来的风险是多种多样的，可能会导致意外和灾难性后果。值得注意的是，专家们对于超级智能人工智能对人类构成威胁的程度持有不同意见。

一些人预计，网络化的人工智能将提高人类的效率，但同时危及人类的自治、能动性和能力。

了解人工智能可能的缺陷并有效地管理其风险是至关重要的。最终的目标应该是让人工智能增强人类的智能，而不是取代它。

 

来源：https://aimagazine.com/articles/hundreds-of-experts-sound-alarm-on-ais-existential-threat