Vitalik Buterin 评估 AI 反人类的风险：“连火星也不安全”

对于以太坊的创造者来说，人工智能的发展需要优先考虑人类获得积极结果的意图，而不仅仅是利润最大化。

本周一（27 日），以太坊创建者维塔利克-布特林（Vitalik Buterin）发表了一篇文章，他在文章中分享了自己对 "技术乐观主义 "的看法，这是受马克-安德森（Marc Andreessen）的启发，后者在今年 10 月发表的 "技术乐观主义 "宣言中对人工智能（AI）发表了自己的看法。

虽然 Buterin 同意 Andreessen 的积极前景，但他也指出了人工智能如何开发以及该技术未来方向的重要性。

Buterin 认识到人工智能的存在风险，包括导致人类灭绝。

他说，“这是一个极端的说法：无论气候变化、人为流行病或核战争等最坏情况可能造成多大损害，有许多文明岛屿将完好无损地收拾残局。”

Buterin 说，“但如果超级智能人工智能决定反抗人类，它很可能会无一生还，并永远消灭人类，连火星也不安全。”

Buterin 提到了AI Impacts 2022 年的一项调查，该调查称，分别有 5% 到 10% 的参与者认为人类将面临人工智能带来的灭绝或人类无法控制人工智能。

他表示，以安全为重点的开源运动非常适合引领人工智能开发，而不是私营公司和风险投资基金。

他说，“如果我们想要一个既超级智能又“人类”的未来（人类不仅仅是宠物，而且实际上对世界保持着重要的控制），那么看起来这样的事情就是正确的选择，也是更自然的选择。”

Buterin 继续说道，“我们需要的是人类积极主动地选择方向和结果。并且 ‘利润最大化’公式不会自动出现在他们身上。”

技术好的一面

Buterin 表示，他热爱技术，因为它扩展了人类的潜力，并提到了从手动工具到智能手机的创新历史。

Buterin 说，“我相信这些事情是非常好的，并且将人类的影响力进一步扩展到行星和恒星也是非常好的，因为我相信人类是非常好的。

他表示，虽然他相信变革性技术将为人类带来更光明的未来，但他拒绝认为世界应该保持现状，只是减少贪婪和建立有效的公共医疗保健系统。

“某些类型的技术比其他类型的技术更可靠地让世界变得更好，”Buterin 说。“某些类型的技术如果得到开发，可以减轻其他类型技术的负面影响。”

人工智能的控制

Buterin 警告称，数字威权主义和监控技术的发展被用来对付那些挑战或不同意政府的人，并由一组选定的技术官僚控制。他表示，大多数人可能宁愿等待人工智能发展十年，也不愿看到这项技术被一个企业集团垄断。

他说，“我最担心的是，整个国家让 OpenAI 能够以 500 名员工为超过 1 亿客户提供服务的同类管理技术，也将让 500 人的政治精英，甚至是 5 人的董事会，在超过 500 名员工的情况下保持铁拳。”

尽管 Buterin 表示他同情有效加速（也称为“e/acc”）运动，但他对自己对军事技术的热情有着复杂的感受。

“对现代军事技术作为正义力量的热情似乎需要相信，主导技术力量将可靠地成为大多数冲突中的好人之一，无论是现在还是未来，”他引用了军事技术的想法时说。可以是好的，因为它是由美国建造和控制的，并且“美国是好的”。

他问道，“成为一名 e/acc 是否需要成为一名美国最高主义者，将一切都押在政府现在和未来的道德以及国家未来的成功上？”

Buterin 警告不要向一小群人授予“极端和不透明的权力”，希望他们能够明智地使用它，而是更喜欢“d/acc”哲学，即防御、权力下放、民主和差异。他认为，这种心态可以适应真正的利他主义者、自由主义者、多元主义者、区块链倡导者和“太阳能和月球朋克”。

“出于多种原因，一个有利于防御的世界是一个更好的世界，”Buterin 说。“首先，当然是直接的安全效益：更少的人死亡，更少的经济价值被破坏，更少的时间浪费在冲突中。”

他总结道，“然而，人们较少认识到，一个有利于国防的世界有助于发展更健康、更开放、更尊重自由的治理形式。”

虽然他强调了建设和加速的必要性，但 Buterin 表示，社会必须经常问自己，我们在哪里加速。Buterin 表示，21 世纪可能是人类的关键世纪，可能决定人类数千年的命运。

Buterin 说，“这些问题很有挑战性，但我期待观察并参与我们人类寻找答案的伟大集体努力”。