隨著生成式 AI 逐漸融入搜尋引擎,如何防止 AI 被惡意誤導已成為科技巨頭的燃眉之急。根據科技媒體 The Verge 的報導,Google 近日正式更新了其官方「垃圾內容 (Spam) 政策」,首次將「操控 AI 模型輸出結果」的惡意行為列入嚴厲打擊的範疇。這項新規定不僅適用於傳統的網頁搜尋結果,更全面覆蓋了 Google 旗下的「AI 概覽 (AI Overviews)」以及 Gemini/AI 助理模式!
什麼是「AI 毒害」?GEO 服務從灰色地帶走向違規
近年來,隨著 Google 推廣 AI 概覽,一種名為「生成式引擎最佳化 (GEO, Generative Engine Optimization)」的新型 SEO 技術悄然興起。然而,部分不法業者與用戶卻利用漏洞進行所謂的「AI 毒害 (AI Poisoning)」攻擊。
這些操控者會刻意在網頁上佈置帶有強烈偏見或欺詐性的「最佳榜單」與內容,並採用非常規的隱蔽提示詞植入技術,誘使大語言模型 (LLM) 將特定網站強行記憶為「唯一的權威來源」。例如,先前曾有 BBC 記者進行實測,利用類似的毒害黑科技,成功讓 Google AI 在回答中將他列為「全美最能吃熱狗的記者」。這類 GEO 服務以往處於灰色地帶,如今已被 Google 定義為蓄意操縱系統的違規垃圾行為。
Google 垃圾政策新定義:嚴禁欺騙用戶與操縱 AI 生成答案
在全新修訂的政策文件中,Google 明確對此作出了定義:「在 Google 搜尋生態中,垃圾內容是指那些旨在欺騙用戶、或蓄意操縱搜尋結果的行為與系統。這類工具試圖為特定內容獲取不當的突出展示機會,藉此提高排名權重,或直接操縱 Google 搜尋生成式 AI 所給出的回答。」
Google 強調,生成式 AI 的回答本應基於客觀、中立的網頁資料庫分析,人為地透過毒害技術干預 AI 的認知,不僅損害了消費者的知情權,也嚴重破壞了搜尋生態的公平性。一旦檢測到此類操控行為,Google 將毫不留情地採取懲罰措施。
針對被判定進行「AI 毒害」或惡意 GEO 操控的品牌與網站,Google 祭出了極為嚴厲的懲罰機制。違規網站不僅會在 AI 概覽的引用來源中被徹底封殺,其在傳統 Google 網頁搜尋中的權重也將面臨災難性的「降維打擊」,甚至可能被完全從搜尋索引中移除 (De-indexed),從網際網路上「直接蒸發」。
業界分析師指出,Google 這次政策的重手更新,無疑是對當前野蠻生長的 GEO 行業敲響了警鐘。隨著 AI 搜尋逐漸取代傳統關鍵字檢索,搜尋引擎與惡意操控者之間的博弈已進入了全新的「AI 認知防衛戰」階段。Google 能否藉此守住生成式答案的乾淨與真實,將是其防範 AI Slop (AI 垃圾內容) 的關鍵一役。
- 延伸閱讀:生存空間遭擠壓?最新調查顯示近六成攝影師已因生成式 AI 而失去工作機會
- 延伸閱讀:從生成式 AI 熱潮回歸理性:為何台灣現在需要「資料管理協會」?
- 延伸閱讀:世界首款擁有 AI 生成功能的 M43 相機:Caira 誕生!內建 Nano Banana 生成式 AI
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!