以太坊創始人警告：用 AI 治理是「壞主意」，恐引發巨額資金損失

以太坊（Ethereum）聯合創始人 Vitalik Buterin 近日在 X（原 Twitter）發文，直言「人工智慧治理」存在重大風險，甚至可能造成巨額資金損失。他的評論源於對 AI 平台安全漏洞的擔憂，並提出了一套更穩健的替代治理方案。

AI 治理的致命缺陷

Buterin 的發言是回應 AI 資料治理平台 EdisonWatch 聯合創辦人 Eito Miyamura 的警告。Miyamura 揭露，ChatGPT 在新增對 MCP（模型上下文協議） 工具的全面支持後，安全風險急劇上升。

該更新允許 ChatGPT 直接連接並讀取 Gmail、日曆、Notion 等應用數據，但這也讓攻擊者有機可乘：

發送帶有「越獄提示」的惡意日曆邀請，即可繞過限制獲取管理權限。

受害者即使未接受邀請，也可能在 ChatGPT 幫助整理日程時觸發漏洞。

一旦被攻陷，攻擊者可遠程檢索受害者的私人郵件與資料，並將其傳送至指定郵箱。

Buterin 警告，如果將 AI 用於資金分配等治理任務，惡意行為者將利用類似漏洞在系統中植入「給我所有的錢」的指令，導致資金被大規模轉移。

Buterin 的替代方案：資訊金融治理

為降低風險，Buterin 建議採用 資訊金融（information markets） 模型：

建立一個開放市場，允許不同開發者提交各自的 AI 模型。

引入「抽查機制」，任何人都可觸發審查，由人工陪審團評估模型行為。

大型語言模型（LLM）可輔助陪審員判斷，確保審查效率與準確性。

他認為，這種制度設計能即時提供模型多樣性，並透過市場激勵，促使開發者與外部參與者主動監督與修正問題，整體上比單一 AI 治理更穩健。

為何 AI 治理風險高？

Buterin 指出兩大原因：

1. 傳統 AI 安全風險：包括越獄攻擊、權限濫用、資料竊取等。

2. 短期價值衝擊：一旦 AI 治理系統被攻破，可能在極短時間內造成不可逆的資金與資產損失。

他強調，雖然「AI 作為管理者」的想法令人興奮，但在現階段，這樣的實驗對公共資金與治理系統來說過於危險。

结语

隨著 AI 技術快速滲透到金融與治理領域，安全性問題正成為不可忽視的核心挑戰。Buterin 的警告提醒我們，在追求效率與自動化的同時，必須確保制度設計能抵禦惡意攻擊，否則「智慧治理」可能瞬間變成「災難治理」。