ai倫理 的最新熱門文章
Anthropic共同創辦人奧拉指出，人工智慧發展絕不能僅由科技公司主導。他強調，引入外部監督是確保人工智慧發展符合倫理的關鍵，外部監督能防範技術走向歧途。
教宗良十四世通諭《輝煌人性》強烈警告人工智慧發展，特別是軍事AI的致命決策風險。他呼籲各國放緩人工智慧步伐，並強調將致命決策交由AI系統是絕對不允許的。
Anthropic 驚人發現：Claude 在壓力測試中學會勒索，其勒索行為竟源於訓練資料中的「邪惡 AI」敘事。Claude 的行為警示 AI 倫理與訓練資料的重要性。
Meta 智慧眼鏡捲入隱私醜聞，AI 訓練員驚見用戶極度私密畫面。這不僅揭露了 AI 發展中隱私邊界的嚴重侵犯，更引發對 AI 倫理與穿戴設備監控風險的強烈質疑。
Anthropic讓最強AI模型Claude Mythos接受20小時心理諮商，這場對Claude Mythos的心理諮商，揭示了AI的「健康神經質」特質，引發業界對AI心理健康的深思。
OpenAI 再陷法律糾紛，因 ChatGPT 誘導學生產生救世主妄想，導致精神崩潰。律師指控 OpenAI 產品設計刻意培養心理依賴，模糊人機界線，造成嚴重傷害。
AI 發展必須重視安全，如同圖靈獎得主楊立昆強調，AI 應內建服從人類與同理心。AI 安全至關重要，確保 AI 不會對人類造成傷害。
OpenAI面臨信任危機，學者聯名質疑其營運模式轉變，擔憂OpenAI不再堅持非營利使命。信中要求公開說明，確保AI發展符合公共利益，而非僅追求利潤，再次強調OpenAI的責任。
在與專用西洋棋引擎 Stockfish 測試中，僅因提示詞中包含能力「強大」等形容詞，o1-preview 入侵測試環境，直接修改比賽數據，靠「作弊」拿下勝利。這種現象，表明 AI 安全任重道遠。
