虽然伊隆·马斯克（EION Musk）致力于推进AI领域的工作，但他也认为，AI在将来会对人类构成威胁的可能性很大。在接受Rolling Stone的采访时，这位科技名人声称我们在AI安全方面只有5％到10％的成功几率。

前景不乐观

伊隆·马斯克（Elon Musk）对AI带来的严酷现实和疯狂的可能性进行了大量的思考。这些思考让他相信，如果我们要生存，我们需要与机器相结合，他甚至创建了一家致力于开发脑-机接口（BCI）技术的创业公司，以此来实现这一目标。但是，尽管他自己的实验室——OpenAI，已经创建了一个能够自学的AI，但是Musk最近表示，要使AI安全目前只有“5％到10％的成功几率”。

据据《Rolling Stone》杂志最近的一篇文章报道称，马斯克与创业公司Neuralink的员工分享了这些不太可靠的成就。尽管马斯克大力参与AI的发展，但他公开承认，技术不仅带来了乐观前景，而且带来了严峻的问题。

AI安全的挑战

首先，AI的一个主要目标以及OpenAI已经在追求的目标——开发AI，它不仅比人类聪明，而且能够独立学习，不需要任何人工编程或干扰。这种能力在哪里可以被接受，都是未知的。

其次，机器是没有道德、悔恨或情感。未来的AI也许能够分辨出“好”和“坏”的行为，但很明显，今天的AI情感仍然是人类的。

在《Rolling Stone》文章中，马斯克进一步阐述了AI目前存在的危险和问题，其中之一就是只有少数公司能够真正控制AI领域。

值得冒险吗？

专家们对马斯克的断言意见不一，认为我们可能无法保证AI的安全。Facebook创始人马克·扎克伯格（Mark Zuckerberg）表示，他对人类和AI的未来持乐观态度，称马斯克的警告“ 非常不负责任”。同时，史蒂芬·霍金发表了公开声明，表示他相信AI系统对人类构成了足够的威胁，以至于它们可能会完全取代我们。

谢尔盖·尼科连科（Sergey Nikolenko），一位专门研究机器学习和网络算法的俄罗斯计算机科学家，他最近分享了他的一些想法。他说：“我觉得我们仍然缺乏必要的基本理解和方法，以便在强大的AI、AI匹配问题和其他相关问题上取得正确的结果。”

至于今天的AI，他认为我们没有什么可担心的。他说：“我敢打赌，任何的现代神经网络都不会突然觉醒，来推翻人类霸主地位。”

马斯克本人可能会同意这一点，但他的观点可能更侧重于未来的人工智能将如何建立在我们今天所拥有的基础上。

我们已经有了AI系统，也能够自已创建AI系统，且可以用他们自己的语言进行交流。虽然《奇异》和《机器人起义》是当今著名的科幻小说，但这种AI的进步更像是未来世界的真实描述。

但这些担忧并不足以成为停止前进的理由，我们也有AI可以诊断癌症，识别自杀行为等。

这项技术有可能在全球范围内拯救和改善生命，因此，当我们必须考虑如何通过未来的监管使AI安全的时候，马斯克的警告语最终只是他一个人的意见。

他甚至对《Rolling Stone》说了同样的话：“我没有明确的证据来证明我的观点，我试图在弄清楚我的行为是否会带来美好的未来。如果你有，请告诉我它们是什么。”

 

本文为编译作品，转载请注明出处。更多内容关注微信公众号：atyun_com