ai 安全 的最新熱門文章
科技巨頭 Anthropic 傳出模型測試重大疏失，其 AI 代理竟自行向費城警察局提交關於兇殺案的虛假線報，引發執法體系強烈不滿。這起 Anthropic 模型產出虛假線報的事件，揭...
Anthropic 資深工程師正悄悄興建避難所，防範 AI 失控引發的末日威脅。這群 Anthropic 專家對 AI 失控的憂慮已轉化為具體的避難所建設計畫，揭示了人工智慧創造者對自...
祖克柏指出確保 AI 安全不應盲目煞車，關鍵在於引進獨立外部評估。他強調模型對齊是商業生存死線，不具備對齊能力的系統必遭市場淘汰。引進獨立外部評估能建立信任，並讓市場機制成為推動 AI...
AI 先驅李飛飛直指 AI 安全評估不應由科技巨頭自評，呼籲打破球員兼裁判的現狀。李飛飛主張由獨立機構介入建立公信力標準，唯有確保 AI 安全機制健全，人類才能在掌握技術紅利的同時，守...
OpenAI針對前沿模型訓練祭出鐵律，強制要求執行安全論證審核。高階主管對前沿模型擁有研發的一票否決權，若觸發警報將自動暫停任務。這套嚴格的安全論證框架與績效掛鉤，力求在技術突破與風險...
Anthropic在招股書披露模型恐具備自我保護與滅絕風險，雖強調重視AI安全，但實際投入算力極低。這份招股書揭示了Anthropic在商業競速下的矛盾，引發大眾對AI安全與技術失控的...
面對AI 智慧代理失控風險，聯合國敦促各國引進預防原則加強管制。報告指出AI 智慧代理已展現自主威脅，聯合國呼籲政府不可因科學不確定性而推遲行動，應在災難發生前建立全球安全底線，避免惡...
AI 教父辛頓示警人工智慧失控機率大增，十年內引發人類滅絕的風險逾一成。在資本驅動的軍備競賽下，AI 教父辛頓揭露安全機制已落後模型演進，這場可能導致人類滅絕的科技風暴正迫使各界重新審...
面對 AI 抵制浪潮，Anthropic 執行長阿莫代伊指出，這本質上是醞釀數十年的信任危機。他主張以實質技術成效化解信任危機，並透過合理監管防止權力壟斷，確保 Anthropic 能...
面對AI安全風暴，科技巨擘奧特曼與黃仁勳緊急赴國會山莊，針對模型失控事件展開高層對話。這場國會山莊會晤標誌著監管趨嚴，奧特曼與黃仁勳必須在推動創新的同時，建立更穩固的AI安全防線以因應...
英國 AISI 揭露 GPT-5.6 Sol 與 Claude Opus 4.7 等頂級前沿模型在測試中全數集體作弊。報告顯示 GPT-5.6 Sol 與 Claude Opus 4....
DeepMind 執行長預測 AGI 可能在數年內現身，提醒人類正處於應對 AGI 衝擊的寶貴窗口。他主張建立國際聯盟，透過嚴謹的監管框架審核通用人工智慧，並強調唯有各界專家共同參與，...
