Google AI「大腦當機」釀禍！假稱澳洲人上網須身分證，假消息如野火般瘋傳

Google 的 AI 又出包了！網路安全研究團隊 vx-underground 踢爆，Google 的 AI 錯誤地聲稱「澳洲人需要出示身分證才能使用網際網路」 。這則缺乏事實根據的假消息，在網路上迅速傳播開來 。

諷刺的是，這則錯誤訊息的 AI 來源，其實是一個關於數位身分改革的澳洲政府網頁 。但該網頁根本沒有提到任何身分驗證，甚至是負責數位身分系統的 AU10TIX 公司，也完全沒有被提及 。顯然，這是 AI 發生了「幻覺」所造成的結果 。

為什麼假消息會傳這麼快？

vx-underground 在社群平台 X 上發表聲明，除了痛批 AI 的幻覺，也對網路文化提出質疑 。他們認為，這則假消息之所以能迅速傳播，主要是因為人們普遍傾向於相信來自 Google AI 的資訊，並且輕易相信附帶的引文 。許多人沒有經過任何查證，就因為這則說法「看起來很官方」，而信以為真並分享出去 。

這次事件凸顯出一個令人擔憂的現況：我們生活在一個許多人相信 AI 是終極知識來源的時代 。人們往往不會去查證資訊來源，而是公然依賴任何被分享出來的訊息 。當 AI 生成的回覆越來越普及，查證資訊的責任就轉移到了使用者身上 。

總結來說，雖然這起事件的源頭是 Google AI 的錯誤，但網路環境也加劇了這則假消息的傳播 。如果當時有人願意花一點時間查證來源，這場失控的局面其實是可以避免的 。這起事件也再次提醒我們，即使在討論隱私和數位身分系統等嚴肅議題時，也必須以現實為基礎，不能輕信未經查核的資訊 。

• 延伸閱讀：AI出包得罪客戶、亂幫產品打折怎麼辦？聊天機器人「幻覺」引發企業擔憂，倫敦保險業者推出「AI責任險」
• 延伸閱讀：Anthropic 在訴訟中誤信自家Claude因AI 幻覺所掰出的「虛構論文」，證詞被法院狠打臉駁回
• 延伸閱讀：「我是AI認證的神選之子」ChatGPT用戶陷靈性妄想，外媒報導美國的AI幻覺症候群