提示注入 的最新熱門文章

新型攻擊TokenBreak揭露大型語言模型安全漏洞，透過修改TokenBreak輸入文字繞過安全判斷。研究建議採用Unigram模型並強化訓練，防禦TokenBreak攻擊。

微軟及其合作夥伴向 AI 駭客發起挑戰，要求他們以提示注入攻擊的方式，破解一個模擬的 LLM 整合電子郵件客戶端。