加州新法上路！AI聊天機器人須明確標示「非真人身份」，讓用戶不再搞混

隨著伴侶型AI聊天機器人產業快速成長，美國加州州長加文·紐森（Gavin Newsom）於2025年10月13日正式簽署《參議院第243號法案》，明文規定：只要AI聊天機器人可能讓一般使用者誤以為自己在與真人互動，開發者就必須在介面上清楚標示「此為AI、非真人」，以防使用者混淆。

這項法案由州參議員安東尼·帕迪利亞（Anthony Padilla）推動，並被稱為全美首部針對AI聊天機器人進行管制的專門法案之一。

根據新法，從2026年起，提供這類AI聊天服務的部分平台還必須每年向加州自殺防治辦公室提交報告，詳述平台針對識別與處理使用者自殺傾向所採取的因應措施。這些資料將會公開於官方網站，接受社會監督。

加州政府希望透過制度設計，強化業者的社會責任，並減少AI系統在面對心理脆弱使用者時，可能造成的傷害或誤導。

州長紐森在法案簽署聲明中表示：「AI與社群媒體等新科技，固然能啟發創意、促進學習、連結彼此，但若缺乏明確規範，也可能誤導或傷害青少年。加州在推動科技創新的同時，不能放棄對孩子的守護。」

除了這項AI聊天機器人標示規定外，紐森也同步簽署多項與兒童網路安全相關的新法，例如針對硬體產品新增的年齡驗證要求，進一步防堵未成年人接觸不適內容的可能性。

這些規範的推出，也是繼紐森簽署另一項具有指標意義的《AI透明度法案》（參議院第53號法案）後，加州在AI政策上的再一大步。面對生成式AI和智慧互動系統的迅猛發展，加州正持續走在全美最前線。