
近來美國社群媒體上出現一股詭異風潮:青少年利用生成式 AI 製作看似真實的照片,內容是自己「邀請流浪漢進家門」的畫面,然後傳給父母看反應,結果造成不少家長驚慌報警,甚至驚動警方。
根據外媒 Futurism 報導,美國多州警方已經出面警告,這類惡作劇不只危險,還可能涉及犯罪行為。
社群掀起「嚇爸媽」挑戰潮,連警局都被騙到出動
這類 AI 偽造圖像的惡作劇,目前在 TikTok 和 Instagram 上瘋傳,不少青少年錄下父母被嚇到崩潰的反應,再配音搞笑後傳上網,博取關注與點讚。
但事實上,這些影像生成工具的逼真度已相當高,導致警方多次誤判為真實入侵事件。例如華盛頓州奧克港警方曾因為這類圖片,誤以為高中有陌生流浪漢闖入校園,造成一度封校。
馬薩諸塞州塞勒姆警局指出,這些行為「既愚蠢又危險」,因為不但物化弱勢族群(例如無家可歸者),還會造成受害者心理恐慌,甚至浪費社會資源。
更嚴重的是,在俄亥俄州布朗郡,已有兩名涉案未成年人被正式起訴,當地警長直接說:「這不是玩笑,這是犯罪行為。」
英國也淪陷,警方呼籲「報警前請先分辨真假」
這股 AI 惡作劇不只在美國蔓延,BBC 也報導英國出現相似案例。有些父母甚至在未查證圖片真偽下報警,浪費警力。警方提醒:現在的生成式影像技術非常擬真,接收訊息時務必三思,避免誤判。
德州朗德羅克警方的指揮官表示,這類「看似無害」的行為,實際上會延誤真正緊急事件的反應,甚至讓人對未來真正的威脅視而不見。
這事件也凸顯當前社會對生成式 AI 的警覺不足,尤其青少年與家長對於「AI 所見未必為真」的觀念仍需加強。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!