本周，科技界两位最具影响力的人物对人工智能的发展提出了不同的愿景，突显出创新与安全之间日益加剧的紧张关系。

首席执行官Sam Altman在周日晚间透露博客文章中谈到他公司的发展轨迹，OpenAI的用户数量已增长三倍，达到每周超过3亿活跃用户，正向通用人工智能（AGI）迈进。

“我们现在有信心知道如何构建我们传统理解的AGI，”Altman表示，并声称到2025年，AI代理可能“加入劳动力队伍”并“实质性改变公司的产出。”

Altman指出，OpenAI不仅仅是朝着AI代理和AGI前进，他表示公司开始致力于“真正意义上的超级智能”。

AGI或超级智能的交付时间框架尚不明确。OpenAI没有立即回应置评请求。

但在周日早些时候，以太坊联合创始人Vitalik Buterin提议使用区块链技术为先进的AI系统创建全球安全机制，包括一种“软暂停”功能，以便在出现警告信号时，能够暂时限制工业规模的AI操作。

基于加密技术的AI安全保障

Buterin在此谈到“d/acc”或去中心化/防御性加速。简单来说，d/acc是e/acc或有效加速的一种变体，这是一种由硅谷高调人物如a16z的Marc Andreessen倡导的哲学运动。

Buterin的d/acc也支持技术进步，但优先考虑增强安全性和人类自主权的发展。与采取“无论代价多高都要增长”方法的有效加速主义（e/acc）不同，d/acc首先专注于构建防御能力。

“D/acc是加密技术（去中心化、抗审查、开放的全球经济和社会）基本价值观在其他技术领域的延伸，”Buterin写道。

回顾过去一年d/acc的进展，Buterin写道，如何通过现有的加密机制如零知识证明来实施对AGI和超级智能系统的更谨慎的方法。

根据Buterin的提议，主要的AI计算机需要每周获得三个国际组织的批准才能继续运行。

“签名将是设备无关的（如果需要，我们甚至可以要求零知识证明它们已发布在区块链上），因此这将是全有或全无的：没有实际方法可以授权一台设备继续运行而不授权所有其他设备，”Buterin解释道。

该系统将像一个主开关一样工作，要么所有批准的计算机运行，要么都不运行——防止任何人进行选择性执行。

“在发生如此关键时刻之前，仅仅拥有软暂停的能力对开发者几乎没有伤害，”Buterin指出，将该系统描述为对灾难性情景的一种保险。

无论如何，OpenAI从2023年的爆炸性增长——在短短两年内从1亿增加到3亿每周用户——显示了AI采用的快速进展。

从一个独立的研究实验室到一家主要的科技公司，Altman承认围绕这项新技术“几乎从零开始”建立“整个公司”的挑战。

这些提议反映了围绕管理AI发展的更广泛行业辩论。支持者此前曾争辩说，实施任何全球控制系统都需要主要AI开发者、政府和加密行业之间前所未有的合作。

“一年‘战时模式’的价值可以轻易超过在自满条件下的一百年工作，”Buterin写道。“如果我们必须限制人们，似乎更好的是在平等的基础上限制每个人，并努力真正尝试合作组织，而不是一方试图主宰其他所有人。”

编辑Sebastian Sinclair