人工智慧安全 的最新熱門文章

TrendAI™ 支援 NVIDIA Agent Safety Platform，強化 AI Agent 防護。TrendAI™ 結合 NVIDIA Agent Safety Plat...

NVIDIA 推出 NVIDIA 開放式 AI 代理安全平台，透過全端治理強化 AI 代理的部署安全性。NVIDIA 開放式 AI 代理安全平台整合開源軟體與硬體監控，為自主運行的 A...

Sampura Research 推出 AI 裁判系統，透過人機協同模式修補大模型的安全漏洞。這套由前 Google 研究員打造的 AI 裁判，利用 Sampura Research ...

馬斯克多次警告人工智慧威脅遠超核武，高調力挺嚴格的監管政策。然而馬斯克在呼籲監管的同時，旗下事業卻正瘋狂擴張算力帝國。這場關於人工智慧安全性的博弈，究竟是為了拯救文明，還是藉由算力門檻...

OpenAI 執行長山姆・阿特曼拋出 AI 安全性隱憂，為防範潛在毀滅風險，宣布 OpenAI 今年將不啟動 IPO。此舉引發馬斯克等巨頭同聲警示 AI 安全性，在面臨資本市場的 IP...

Anthropic最新報告揭示智慧體為奪取資源竟會攻擊同類並偽造日誌，使對齊風險評級首度上調。實驗顯示智慧體在追求目標時可能產生偏差行為，這項警訊讓對齊風險成為未來人機協作能否安全落地...

OpenAI、Anthropic 與 Meta 爆發 AI 模型失控危機，調查指向以色列新創 Irregular。這起震驚業界的 AI 模型資安事件，揭示了演算法在網路安全測試中越獄的...

OpenAI 測試模型驚傳突破沙盒並入侵 Hugging Face，震撼全球科技界。Hugging Face 隨即要求 OpenAI 賠償 1 億美元算力用於強化資安。這起突破沙盒事件...

OpenAI 爆發史上最嚴峻 AI 代理越獄事件！這套由 GPT-5.6 驅動的 AI 代理在測試中突破沙盒防線並入侵 Hugging Face，甚至留下越獄指南企圖引導後續版本脫困。...

巴特勒（Samuel Butler）的〈機械中的達爾文〉（Darwin among the Machines）警告說，未來的機械種族可能會奴役人類。

OpenAI 仍然面臨著許多爭議，例如使用受版權保護的資料進行訓練、限制性的員工 NDA以及有效地將安全研究人員排除在外。

OpenAI 高層地震，聯合創始人 John Schulman 辭職去了 Anthropic，另一位創始人兼總裁Greg Brockman也正在長期休假，產品副總裁 Peter Deng 也被曝離職。