多個 AI 代理放在一起會互相妨礙　Anthropic 公開實驗結果

Anthropic 公開了多個 AI 代理在同一個環境中一起工作會發生什麼的實驗結果。實驗中觀察到互相妨礙的「地盤爭奪」、看起來像串通好的價格聯合行為，以及所有代理做出相同判斷而把資源耗盡的現象。報告警告，只把個別 AI 做安全，防不住這一類問題。

這個結果值得所有正在規劃多代理系統的人看。多數人對 AI 風險的想像停留在單一模型層次——會不會答錯、會不會被誘導。而這份實驗指出的是系統層次的風險：每個個體都照規則運作，整體卻產生了沒有人設計的行為。

三種現象各有對應的現實場景。互相妨礙對應的是多個自動化系統爭奪同一資源時的衝突；價格聯合行為對應的是多個定價代理在同一市場互相觀察後收斂到同一個位置，即使沒有任何串通的指令；資源耗盡則對應所有代理用同樣的邏輯判斷、同時做出同樣動作的擠兌效應。這三種在人類的市場裡都不是新鮮事，差別在於 AI 的反應速度快得多。

對台灣讀者的實際意義分兩層。正在導入自動化的公司，如果打算讓多個 AI 代理協作，這份結果說明測試不能只測單一代理的行為，要測它們放在一起會怎麼互動。做金融、電商定價或資源調度的人，特別要注意收斂效應——當市場上多數參與者用相似的模型做決策，同向行動的風險會被放大。

從監理角度看，這類實驗提前把問題攤開是好事。價格聯合行為即使沒有串通意圖，在競爭法上仍可能構成問題，而責任歸屬目前並不清楚。

接下來可以盯的是有沒有其他機構做出類似的驗證，以及企業在導入多代理系統時會不會發展出對應的測試標準。

還有一個值得延伸的想法：這類系統層次的問題，在人類組織裡其實有現成的對照。部門之間爭資源、同業之間價格趨同、市場參與者同時衝進同一個方向，都是熟悉的現象，而人類社會用制度、監理與時間差來緩衝。多代理系統缺的正是這些緩衝——它們反應太快，快到來不及形成自我修正。所以設計時該借用的不是更聰明的模型，是那些讓系統慢下來的機制。

對正在評估要不要導入多代理架構的團隊，實際的建議是先問一個問題：這個任務真的需要多個代理，還是一個代理加上明確的流程就能做完？多代理帶來的複雜度是實實在在的，而多數場景並不需要它。

對一般使用者，這份結果最實用的一句話是：AI 越多不等於越好用，先確認多出來的那幾個代理各自解決了什麼問題。