Anthropic 被曝研究讓 AI 代人談判！正諮詢律師擬「談判規範」，9 月已讓員工用 Claude 真錢買賣書籍

據《金融時報》報導，Anthropic 正與法律界人士探討如何讓 AI 智慧體代表使用者談判，在爭取更好交易條件的同時遵循合理的談判規則。兩名了解 Anthropic 想法的人士透露，該公司正向律師事務所尋求建議，希望了解律師如何在維護客戶利益的同時，兼顧公平的談判結果。

Anthropic 是開發自主智慧體的主要 AI 公司之一。這類智慧體接受使用者指令後，可以自主採取行動完成任務。隨著個人智慧體得到應用，AI 公司開始考慮讓它們彼此溝通，代表使用者就商品價格討價還價、解決客服糾紛，甚至爭取更好的薪資待遇。

據一名了解相關工作的人士透露，Anthropic 正在研究模型相互交涉時應遵循的「談判規範」。隨著智慧體能力增強，它們需要代表使用者，與目標存在衝突的其他智慧體打交道。

談判中應該多久向使用者請示一次，以及應該對 AI 談判對手保持多大程度的警惕，都是 Anthropic 正在權衡的問題。上述人士稱，公司希望智慧體能夠保持必要的懷疑，同時避免陷入過度猜疑。

另一名接近公司的人士表示，Anthropic 還探索過一種方案：由使用者提供簽署文件，確認智慧體接受的任務，以及必須遵守的規則。《金融時報》援引 Anthropic 今年 4 月發布的研究稱，圍繞 AI 模型代表人類進行交易的政策與法律框架尚未建立，而這樣的應用場景已經不再遙遠，社會需要盡快應對相關變化。

9 月員工已讓 Claude 進場真錢買賣書籍

Anthropic 今年還公布了多項實驗結果，讓 Claude 智慧體圍繞真實商品和資金展開談判。在 9 月的一項實驗中，Anthropic 員工透過 AI 智慧體買賣書籍。員工先向自己的智慧體提供一份按偏好排序的書單，再讓它們進入虛擬交易場所，向其他人的智慧體推介、議價並達成交易。

實驗發現，被要求採取「強硬、不留情面」策略的智慧體，在爭取更好結果方面略占優勢。一些更願意合作的智慧體則會有意識地作出讓步，包括接受偏好排名較低的書籍，以確保參與實驗的每個智慧體最終都能為使用者帶回一本書。

學術界也在研究 AI 之間的談判。哈佛商學院助理教授 Michelle Vaccaro 開展了超過 18 萬次 AI 智慧體之間的談判，場景涵蓋僱傭合同和租賃合同磋商。

研究發現，一些新出現的策略會削弱對方智慧體代表使用者利益的能力。例如，在一次談判中，一個智慧體試圖透過「提示詞注入」，誘導對方洩露私密資訊。

更強的 AI 是否會進一步拉大談判能力差距，也引發擔憂。Vaccaro 表示，能力出色的模型可以讓原本沒有時間或資源學習談判技巧、也無力雇人代為談判的人，獲得專業談判能力。但如果最強的智慧體主要由資源最充足的人使用，它們也可能強化既有優勢，擴大議價能力的不平等——這正是 Anthropic 現在找律師討論「談判規範」時，背後真正想先回答的問題。