Meta 旗下剛推出兩週便迅速登上美國應用程式下載榜首的 AI 助手「Muse」,靠著宣稱能自主替用戶收發電子郵件、預訂行程乃至代打電話給商家等「全自動代理」功能引爆市場熱潮,並帶動 Meta 市值暴漲逾 2000 億美元。
然而,——Meta 內部通報遭到外洩,揭露官方在複雜的通話測試情境中,竟在完全未告知用戶的前提下,偷偷將通話切換至外包呼叫中心,由真人接線員代為通話。
為達成98% 成功率:遇複雜情境悄悄「轉接真人」
Meta 超級智能實驗室內部評估顯示,一旦遭遇複雜對話,純 AI 語音代理的任務成功率明顯不足;而官方為了解決這道技術硬傷,竟在內部測試中啟用所謂「人工管家」機制,在用戶毫無所覺的情況下,直接把卡關的通話轉接給承包商的呼叫中心人員代打,硬是將通話成功率拉抬至 95% 至 98%。
把人工智慧處理不來的邊界條件,直接用低成本的呼叫中心人力硬填補,這絕非真正的自主代理,而是一場藉由幕後人力堆疊出來的妥善率幻術。
這項充滿欺騙意味的偷跑機制,第一時間在 Meta 內部點燃了員工的憤怒火苗。多名員工在內部討論區發文示警,直指當用戶信任 Muse 撥打牽涉私人財務或日常生活的電話時,使用者的敏感對話與個資極可能在未經授權下全盤暴露給外包接線員。
一名內部員工發文質疑:「只要系統出現一個軟體漏洞,就會導致不必要的機敏資訊直接洩漏給外包人員。」更失控的是,另一名員工在指派 Muse 致電有線電視業者協商帳單後,調閱後台紀錄時赫然發現,外包人員在代打過程中竟然公然發表種族歧視言論。
面對風暴擴大,超級智能實驗室副總裁不得不承認這場未告知測試是嚴重失誤,緊急宣布全面退回該功能,並承諾將涉案外包人員永久除名。
這場荒謬的代打鬧劇,也讓外界再度回想起 Meta 十年前的一段黑歷史。
早在十年前仍名為 Facebook 的時代,該公司便曾在 Messenger 上高調測試名為「M」的數位助理,同樣宣稱具備替用戶處理訂票、訂餐等各種助理事務的超強能力,然而後續媒體調查揭露,該助理背後高達 70% 的任務實質上全靠真人團隊在後台手動敲鍵盤支撐。
如今事隔十年,即使市場情報機構 Sensor Tower 統計顯示 Muse 上線至今已在全美斬獲超過 250 萬次下載,更推升 Meta 股價大漲逾 20%、創下七個多月新高,但發言人丹尼爾·羅伯茨(Daniel Roberts)強調測試是為了完善安全告知條款的說詞,依舊難以平息市場質疑。
- 延伸閱讀:Meta 推 Muse 個人 AI 代理:Meta Muse 是什麼?能幫忙寄信、購物還能自主執行任務的 AI Agent 正式登場
- 延伸閱讀:寫 Code 神器登場!Meta Muse Code 穩定版釋出:支援跨對話即時通訊與安全回退功能,完整功能看這裡
- 延伸閱讀:Meta 釋出全新開源 AI 模型 Muse Glimmer:主打離線運算與隱私保護,單張顯卡就能流暢運作
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!