Google AI Overview搜尋結果中逾一成引用AI生成內容，引發模型「自我學習」風險疑慮

近來不少人擔心，隨著網路上充斥愈來愈多由AI產生的內容，像Google AIO這類整合型搜尋服務，是否也會開始引用這些「AI寫給AI看」的資訊。由於AI生成內容經常出現憑空捏造、難以查證的問題，若AI模型不斷學習自身產出，恐將陷入「AI學AI」的惡性循環。

AI內容偵測公司 Originality.ai 最新公布的研究指出，他們針對2.9萬個與個人健康、安全、財務狀況及幸福感相關的高風險（YMYL）關鍵字進行隨機抽樣，分析Google搜尋頂端AIO所引用的網頁，以及該關鍵字下前100名自然搜尋結果。結果顯示，有10.4%的AIO引用來源很可能為AI生成內容。

早在2023年，英國與加拿大研究人員就提出「遞迴詛咒」（The Curse of Recursion）這個概念，警告若AI模型頻繁吸收AI生成資料，將導致模型出現「不可逆缺陷」，甚至造成所謂的「模型崩潰」。Originality.ai也認為，AIO雖然本身不是訓練AI模型的資料來源，但它若經常推薦AI文章，反而會讓這些內容獲得更多曝光與公信力，間接提高被納入訓練資料的機率。

對於這項研究，Google發言人表達質疑，批評Originality.ai「過度依賴單一數據與不夠準確的技術」，並強調目前市面上的AI偵測工具仍不夠成熟、容易誤判。此外，Google也表示，AIO引用的內容會隨時根據相關性、實用性與時效性進行調整。

儘管如此，Originality.ai強調，他們的工具在多項測試中表現不俗，準確率相對較高。研究同時指出，目前AIO引用內容中，仍有74.4%屬於人類原創；有15.2%的結果因文字太短、連結失效或是指向影音、PDF等非文字格式，無法進行辨識。

另一項值得注意的數據是，有52%的AIO引用內容並不在Google自然搜尋前100名結果中，其中有12.8%也被標記為AI生成內容。這樣的結果進一步凸顯：即使AI搜尋工具的目的是提升搜尋體驗，但若無法辨識來源品質，恐怕會成為擴大AI「自我學習」的助力。