李飛飛批 AI 開發商「自己替自己打分數」，強調獨立機構介入才是防範失控的唯一解

史丹佛大學教授、知名 AI 先驅兼新創公司 World Labs 共同創辦人李飛飛近日在接受彭博電視（Bloomberg TV）專訪時公開發出警示，直言能力日益強大的尖端人工智慧系統，其安全評估絕對不能全盤交由開發這些系統的商業公司自行負責。

她強烈呼籲，必須由獨立機構、學術界以及公共部門介入，共同建立具備公信力的外部評測基準，徹底終結內部人員「自己替自己打分數」的球員兼裁判亂象。

內部紅隊測試難代客觀標準：防範失控不能只靠矽谷自律

李飛飛指出，AI 開發商內部的研究團隊與安全紅隊（Red Teaming）固然可以針對單一模型的特定攻擊途徑進行邊界探測，但這種企業內部的評估，永遠無法替代由政府、跨領域產業以及獨立學術機構共同制定的廣泛標準。

她強調：「由獨立機構與學術界等公共部門制定評測基準至關重要，同時，產業界與政府也應該共同承擔相應的治理責任。」

當前包括 Anthropic 執行長達里奧 · 阿莫代伊（Dario Amodei）與 OpenAI 執行長山姆 · 阿特曼（Sam Altman）皆相繼呼籲放緩前沿模型迭代步調，甚至親赴聯合國安全理事會討論安全風險；然而與此同時，部分政治人物卻公開駁斥生存威脅論，主張應解除束縛全速衝刺。在這場極限拉鋸戰中，缺乏獨立第三方審查機制的大型系統，無疑正在缺乏客觀煞車系統的跑道上狂奔。

面對外界對 AI「終結人類」的末日恐慌，她認為，AI 所帶來的生存風險本質上取決於人類選擇如何治理與使用它，這與人類歷史上駕馭電力、蒸汽機乃至現代交通工具的過程如出一轍——社會必須在技術帶來的龐大經濟紅利與大眾人身安全之間取得法規平衡。「掌握技術力量的是人類，我們必須牢牢握緊控制權；AI 關乎的從來不是技術本身，而是全體人類的尊嚴、自主權與共同責任。」

身為空間智慧與世界模型領域的開拓者，李飛飛目前創辦的 World Labs 正致力於研發能理解、生成並重建 3D 物理環境的「世界模型」，這項技術正加速走入機器人自主導航、高階醫療與工業設計領域。

李飛飛直言，當人工智慧徹底跳脫聊天視窗的文字遊戲、真正具備在實體三維世界中採取行動的能力時，產業界將面臨同一個更致命的根本拷問：在無人監督的真實世界裡，我們究竟該如何確定這套強大系統始終如我們所預期般運作？