微軟AI團隊負責人宣布打造「人本超級智慧」，目標將人類的控制權放在首位

微軟人工智慧業務最高負責人公布了公司在 AI 領域的新願景，計畫透過重組員工團隊，打造具備「人本超級智慧」的 AI 模型。

先前，微軟將生成式 AI 大規模引入 Bing 搜尋和 Microsoft 365 辦公軟體套件。儘管微軟對 OpenAI 投入了巨額資金，但微軟高層多次重申，公司內部正在開發各種 AI 模型，以避免對任何一家合作夥伴產生過度依賴。

微軟人工智慧（Microsoft AI）負責人 Mustafa Suleyman（穆斯塔法·蘇萊曼）近日發表公開文章「A humanist future」（以人為本的未來），正式對外說明微軟在 AI 領域的新願景。蘇萊曼指出，隨著 AI 發展即將跨越通用人工智慧（AGI）門檻、邁向超級智慧（Superintelligence），科技界不該再爭論技術能力和時間點，而是該嚴肅思考：「世界真正需要的是什麼樣的 AI？」

蘇萊曼表示，微軟 AI 正積極打造「人本超級智慧」（Humanist Superintelligence, HSI），強調 AI 必須永遠為人類服務，並且要「小心校準、貼近情境、設有界限」，而非一個「不受約束、無限自主的實體」。微軟 AI 旗下的「MAI 超級智慧團隊」將由他親自帶領，目標是打造全球最優秀的 AI 研發場所。

什麼是「人本超級智慧」（HSI）？

蘇萊曼認為，業界對於超級智慧的定義通常是「性能遠超人類」的 AI 系統。但微軟的 HSI 則是一種有明確目標的技術，它必須滿足以下核心原則：

• 服務人類： AI 的唯一目的就是服務人類和更廣泛的人類文明，而不是盲目的技術挑戰。

• 拒絕無限自主： HSI 是一種「面向問題」且「趨向特定領域」的系統，將會是經過仔細校準、設有界限的 AI。

• 可控性優先： HSI 的願景是在加速創新之餘，始終將人類的控制權放在首位。

• 不是空泛的超智慧： 微軟的目標是打造一項實用技術，只為人類服務，拒絕那種「方向不明、虛無飄渺」的超級智慧。

不再爭論「繁榮或毀滅」 關鍵在「遏制」與「對齊」

蘇萊曼坦言，AI 發展速度驚人，圖靈測試（Turing Test）已在無聲中被跨越。但面對持續不斷自我改進、最終會遠超人類能力的超級智慧系統，人類必須自問：「我們要如何遏制（確保安全和控制），更別說對齊（讓它足夠關心人類而不會傷害我們）一個旨在不斷比我們更聰明的系統？」

他強調，對於自主、不斷演進的系統會帶來什麼後果，我們根本不知道。由於超級智慧可以持續自我改進，人類需要不斷地、永久地對其進行遏制（Containment）與對齊（Alignment）。

蘇萊曼直言，他遇到的每一位 AI 開發者、安全研究員或政策專家，都沒有一個令人安心的答案。他認為，打造可證明、強固的遏制與對齊機制，是 21 世紀人類面臨的緊急挑戰。在找到答案之前，我們必須謹慎選擇要建立什麼樣的超級智慧。

科技的目的：提升人類文明

在文章中，蘇萊曼引用了愛因斯坦（Albert Einstein）的話：「對人類及其命運的關懷，必須永遠是所有技術努力的主要興趣... 這樣我們心靈的創造才能成為人類的祝福，而非詛咒。」

他總結微軟的願景就是：人本超級智慧（HSI）是一個確保人類仍處於食物鏈頂端的願景，它永遠站在人類這一邊，幫助人類成長、讓社會升級、擺脫零和賽局。微軟將堅持「人本主義」與「加速技術創新」的順序，也就是：主動避免危害，然後再加速創新。

微軟正在向全球招募頂尖的 AI 研究人員和工程師，同時也在公司內部調配資源，為新的團隊提供充足的資金和算力支持。

微軟此舉表明，儘管與 OpenAI 維持著合作關係，但公司在追求 AGI 的道路上，希望擁有更多的自主權和控制權。這也反映了在快速發展的 AI 領域，科技巨頭們都在努力平衡合作與自主研發，以確保自身的核心競爭力。

• 延伸閱讀：微軟執行長揭露：蓋茲曾質疑投資OpenAI「會燒光10億美元」
• 延伸閱讀：邁向 IT 現代化：微軟以 Azure 實現自身雲端原生之旅
• 延伸閱讀：微軟 Edge Copilot 模式新功能曝光：AI 可幫你查資料、退訂信件、還能整理瀏覽歷史