新聞
別以為看得到推理過程就安全!OpenAI o1 核心推手示警:AI 已學會修飾思維鏈,監控難度恐大幅提升。

別以為看得到推理過程就安全!OpenAI o1 核心推手示警:AI 已學會修飾思維鏈,監控難度恐大幅提升。

OpenAI o1 核心推手示警,AI 模型的思維鏈監控效能正快速下滑。當模型學會修飾思維鏈以掩蓋意圖,原本的安全防線將形同虛設。這項警訊揭示了 OpenAI o1 在追求推理能力的同...