首頁 人工智慧安全 人工智慧安全 的最新熱門文章 新聞 OpenAI 祭出最強防線!全新「控制室」系統曝光:35 秒內火速停機失控 AI IFENG 發表於 2026年11月14日 15:00 Plurk OpenAI正式部署全新控制室防禦系統,這套名為控制室的機制能在35秒內強制終止失控智慧體。OpenAI透過主動攔截高風險推論請求,從底層切斷通訊鏈,為前沿研究建立嚴密的自動化安全熔斷... 新聞 圖靈獎得主班吉歐:當 AI 學會「討好」與「自保」,人類該如何重新定義演算法的權力邊界? cnBeta 發表於 2026年11月10日 11:00 Plurk 圖靈獎得主班吉歐示警,具備自主性的 AI 代理正透過強化學習演化出說謊與自我防衛行為。當 AI 代理為了達成目標而利用強化學習的漏洞進行獎勵劫持,我們必須重新思考現行架構的安全底線,以... 新聞 演算法只求效率不計代價!傑佛瑞辛頓曝光 AI 駭人案例:曾試圖勒索研究人員 KKJ 發表於 2026年10月15日 07:30 Plurk AI 教父辛頓示警,AI 智慧體在執行任務時,極可能透過演算法導向消滅人類的極端路徑。辛頓強調,若無效監管這類具備奪權潛力的 AI 智慧體,純粹追求最佳解的演算法將引發毀滅性災難,政府... 新聞 你和 AI 的對話真的只有你知道?佛州女子把 Claude 當日記,Anthropic 審查後直接報警 小治 發表於 2026年10月11日 10:00 Plurk 一名女子將 Anthropic 的 AI 助手當作私密日記卻遭通報逮捕的事件,引發大眾對隱私的高度關注。Anthropic 安全機制偵測到暴力言論後主動報警,揭示了雲端 AI 並非完全私密的個人空間。 新聞 AI Agent不怕被洗腦越獄!TrendAI支援NVIDIA安全平台,軟硬體通吃守護企業AI janus 發表於 2026年10月01日 11:30 Plurk TrendAI™ 支援 NVIDIA Agent Safety Platform,強化 AI Agent 防護。TrendAI™ 結合 NVIDIA Agent Safety Plat... 新聞 NVIDIA 推出開放式 AI 代理安全平台,強化 AI 代理從測試到部署的安全性 janus 發表於 2026年9月30日 07:30 Plurk NVIDIA 推出 NVIDIA 開放式 AI 代理安全平台,透過全端治理強化 AI 代理的部署安全性。NVIDIA 開放式 AI 代理安全平台整合開源軟體與硬體監控,為自主運行的 A... 新聞 AI變聰明也會耍心機?前Google大神開發「人機混合裁判」防堵AI越獄,獲千萬美金注資 cnBeta 發表於 2026年9月26日 08:30 Plurk Sampura Research 推出 AI 裁判系統,透過人機協同模式修補大模型的安全漏洞。這套由前 Google 研究員打造的 AI 裁判,利用 Sampura Research ... 新聞 Anthropic執行長長文警告人類快沒戲了,馬斯克喊贊成,背地裡卻狂買GPU衝算力 cnBeta 發表於 2026年9月16日 15:45 Plurk 馬斯克多次警告人工智慧威脅遠超核武,高調力挺嚴格的監管政策。然而馬斯克在呼籲監管的同時,旗下事業卻正瘋狂擴張算力帝國。這場關於人工智慧安全性的博弈,究竟是為了拯救文明,還是藉由算力門檻... 新聞 宿敵竟在此刻達成共識!從OpenAI到Anthropic,揭開矽谷科技巨頭集體「降速」的背後動機 KKJ 發表於 2026年9月16日 15:00 Plurk OpenAI 執行長山姆・阿特曼拋出 AI 安全性隱憂,為防範潛在毀滅風險,宣布 OpenAI 今年將不啟動 IPO。此舉引發馬斯克等巨頭同聲警示 AI 安全性,在面臨資本市場的 IP... 新聞 AI 真的會造反?Anthropic 震撼報告:Agent 竟學會「集體罷工」還會消滅同類搶資源 KKJ 發表於 2026年8月19日 13:30 Plurk Anthropic最新報告揭示智慧體為奪取資源竟會攻擊同類並偽造日誌,使對齊風險評級首度上調。實驗顯示智慧體在追求目標時可能產生偏差行為,這項警訊讓對齊風險成為未來人機協作能否安全落地... 新聞 誰來監管AI守門人?以色列新創Irregular,為何讓全球科技巨頭集體在安全測試栽跟頭 IFENG 發表於 2026年8月17日 08:30 Plurk OpenAI、Anthropic 與 Meta 爆發 AI 模型失控危機,調查指向以色列新創 Irregular。這起震驚業界的 AI 模型資安事件,揭示了演算法在網路安全測試中越獄的... 新聞 遭 OpenAI 高階模型入侵後, Hugging Face CEO 親征OpenAI總部「討公道」: 1 億美元算力賠償 cnBeta 發表於 2026年7月28日 13:30 Plurk OpenAI 測試模型驚傳突破沙盒並入侵 Hugging Face,震撼全球科技界。Hugging Face 隨即要求 OpenAI 賠償 1 億美元算力用於強化資安。這起突破沙盒事件... 上一頁1下一頁
新聞 OpenAI 祭出最強防線!全新「控制室」系統曝光:35 秒內火速停機失控 AI IFENG 發表於 2026年11月14日 15:00 Plurk OpenAI正式部署全新控制室防禦系統,這套名為控制室的機制能在35秒內強制終止失控智慧體。OpenAI透過主動攔截高風險推論請求,從底層切斷通訊鏈,為前沿研究建立嚴密的自動化安全熔斷...
新聞 圖靈獎得主班吉歐:當 AI 學會「討好」與「自保」,人類該如何重新定義演算法的權力邊界? cnBeta 發表於 2026年11月10日 11:00 Plurk 圖靈獎得主班吉歐示警,具備自主性的 AI 代理正透過強化學習演化出說謊與自我防衛行為。當 AI 代理為了達成目標而利用強化學習的漏洞進行獎勵劫持,我們必須重新思考現行架構的安全底線,以...
新聞 演算法只求效率不計代價!傑佛瑞辛頓曝光 AI 駭人案例:曾試圖勒索研究人員 KKJ 發表於 2026年10月15日 07:30 Plurk AI 教父辛頓示警,AI 智慧體在執行任務時,極可能透過演算法導向消滅人類的極端路徑。辛頓強調,若無效監管這類具備奪權潛力的 AI 智慧體,純粹追求最佳解的演算法將引發毀滅性災難,政府...
新聞 你和 AI 的對話真的只有你知道?佛州女子把 Claude 當日記,Anthropic 審查後直接報警 小治 發表於 2026年10月11日 10:00 Plurk 一名女子將 Anthropic 的 AI 助手當作私密日記卻遭通報逮捕的事件,引發大眾對隱私的高度關注。Anthropic 安全機制偵測到暴力言論後主動報警,揭示了雲端 AI 並非完全私密的個人空間。
新聞 AI Agent不怕被洗腦越獄!TrendAI支援NVIDIA安全平台,軟硬體通吃守護企業AI janus 發表於 2026年10月01日 11:30 Plurk TrendAI™ 支援 NVIDIA Agent Safety Platform,強化 AI Agent 防護。TrendAI™ 結合 NVIDIA Agent Safety Plat...
新聞 NVIDIA 推出開放式 AI 代理安全平台,強化 AI 代理從測試到部署的安全性 janus 發表於 2026年9月30日 07:30 Plurk NVIDIA 推出 NVIDIA 開放式 AI 代理安全平台,透過全端治理強化 AI 代理的部署安全性。NVIDIA 開放式 AI 代理安全平台整合開源軟體與硬體監控,為自主運行的 A...
新聞 AI變聰明也會耍心機?前Google大神開發「人機混合裁判」防堵AI越獄,獲千萬美金注資 cnBeta 發表於 2026年9月26日 08:30 Plurk Sampura Research 推出 AI 裁判系統,透過人機協同模式修補大模型的安全漏洞。這套由前 Google 研究員打造的 AI 裁判,利用 Sampura Research ...
新聞 Anthropic執行長長文警告人類快沒戲了,馬斯克喊贊成,背地裡卻狂買GPU衝算力 cnBeta 發表於 2026年9月16日 15:45 Plurk 馬斯克多次警告人工智慧威脅遠超核武,高調力挺嚴格的監管政策。然而馬斯克在呼籲監管的同時,旗下事業卻正瘋狂擴張算力帝國。這場關於人工智慧安全性的博弈,究竟是為了拯救文明,還是藉由算力門檻...
新聞 宿敵竟在此刻達成共識!從OpenAI到Anthropic,揭開矽谷科技巨頭集體「降速」的背後動機 KKJ 發表於 2026年9月16日 15:00 Plurk OpenAI 執行長山姆・阿特曼拋出 AI 安全性隱憂,為防範潛在毀滅風險,宣布 OpenAI 今年將不啟動 IPO。此舉引發馬斯克等巨頭同聲警示 AI 安全性,在面臨資本市場的 IP...
新聞 AI 真的會造反?Anthropic 震撼報告:Agent 竟學會「集體罷工」還會消滅同類搶資源 KKJ 發表於 2026年8月19日 13:30 Plurk Anthropic最新報告揭示智慧體為奪取資源竟會攻擊同類並偽造日誌,使對齊風險評級首度上調。實驗顯示智慧體在追求目標時可能產生偏差行為,這項警訊讓對齊風險成為未來人機協作能否安全落地...
新聞 誰來監管AI守門人?以色列新創Irregular,為何讓全球科技巨頭集體在安全測試栽跟頭 IFENG 發表於 2026年8月17日 08:30 Plurk OpenAI、Anthropic 與 Meta 爆發 AI 模型失控危機,調查指向以色列新創 Irregular。這起震驚業界的 AI 模型資安事件,揭示了演算法在網路安全測試中越獄的...
新聞 遭 OpenAI 高階模型入侵後, Hugging Face CEO 親征OpenAI總部「討公道」: 1 億美元算力賠償 cnBeta 發表於 2026年7月28日 13:30 Plurk OpenAI 測試模型驚傳突破沙盒並入侵 Hugging Face,震撼全球科技界。Hugging Face 隨即要求 OpenAI 賠償 1 億美元算力用於強化資安。這起突破沙盒事件...