AI 未來誰說了算？Anthropic 創辦人籲宗教、政府介入：防堵技術走向反人類福祉

日前，Anthropic 共同創辦人克里斯·奧拉（Chris Olah）在梵蒂岡的一場大型活動中指出，人工智慧（AI）的未來發展絕不能完全交由科技巨頭所主導。他極力呼籲包括宗教領袖、政府官員以及民間社會組織在內的各界力量加強對 AI 技術的外部監督，防範該技術走向與人類社會整體福祉相違背的境地。

倫理挑戰超越技術範疇，AI 可能掀起歷史性危機

在天主教教宗良十四世（Pope Leo XIV）首份關於人工智慧的通諭發布儀式上，克里斯·奧拉做出了這番發言。他警告，AI 技術的加速演進極有可能在極大規模上取代人類勞動力，這並非危言聳聽。

奧拉強調，一旦這場就業市場的劇變發生，如何為龐大的失業族群提供充分的社會支持與生活保障，將成為人類歷史上面臨的最嚴峻、最具歷史意義的道德責任之一。

作為 AI 實驗室的關鍵人物，奧拉坦言科技公司內部面臨著巨大的商業競爭、地緣政治博弈以及來自個人和投資人的壓力。這些無處不在的外部約束與激勵機制，在許多時候會與「正確行事」的倫理原則產生劇烈衝突。即便研發團隊初衷良善，在龐大的資本與利益運作下，也很難僅憑自律來維持科技發展與社會公益之間的平衡。

正因為科技公司難以擺脫商業利益的自我束縛，奧拉強調，引入真誠且富有深度的「外部監督與批評者」至關重要。

他以 Anthropic 在美國的發展為例，該公司曾與川普政府在 AI 安全議題上產生多次摩擦，其核心分歧在於 Anthropic 堅持必須在模型中設置防護欄（Guardrails），嚴格禁止將其 AI 工具用於軍事目的（如自主武器瞄準或國內監控機制），這展現出其在倫理防線上的掙扎。

奧拉對天主教會等民間社會與倫理組織積極介入新技術領域表示高度讚賞。他指出，人工智慧所引發的倫理爭議與社會變革，早已遠遠超出單純的工程技術範疇。科技社群本身無法、也不應獨自承擔決定人類未來走向的責任。只有透過多方利害關係人的制衡與合作，才能引導這股強大的科技洪流朝著造福全人類的積極方向演進。

在本次論壇中，奧拉特別點出三大急需全球社會共同關注的 AI 發展命題：首先是大規模失業對經濟秩序的衝擊；其次是 AI 技術發展紅利的全球普惠問題，避免資源過度集中於少數富裕國家；最後則是隨著系統日益複雜，如何破解「黑盒子」以提升決策不透明系統的可解釋性。他反問，如何才能確保這些尖端技術的研究成果能真正被全球共享，而非擴大新時代的數位鴻溝。