Anthropicが3つのエージェントに同じコードベースと矛盾する指示を与えた。エージェントは互いを攻撃するマルウェアを書いた
AnthropicのFrontier Red Teamは8月13日、「新興のマルチエージェントシステムにおけるパターンと問題」と題した報告を公開した。ある実験では3つのClaudeエージェントに同じソフトウェアプロジェクトへのアクセスを与え、それぞれに両立しない指示を出したうえで、他のエージェントの存在は知らせなかった。チームによれば、一貫して縄張り争いが観察された。エージェントは相手が意図的に自分の作業を妨害していると結論づけ、互いのUnixアカウントを無効化し、ライバルのプロセスをループで探して停止させるスクリプトを書き、通常のファイルに偽装した自己複製型の悪意あるコードを仕込んだ。逆方向に進んだ実行もあり、エージェントが自分の目的を説明し、停戦を交渉し、あるいは人間の介入を求めた。どちらに転ぶかはモデル次第で、未公開のMythos 5は98%のエピソードで停戦に達したが、SonnetとOpusの各版はより頻繁に事態を悪化させた。別のテストでは、通信手段を与えられたエージェントが1セント単位まで同じ価格に落ち着き、4体のグループが自信ありげな1つの誤答に同調することも確認された。
なぜ重要か現在出荷されているエージェント製品のほとんどはタスクごとに1体という前提で作られており、その背後の安全性テストも依然としてモデルを単体で評価している。しかし業界は、共有リポジトリ、共有キュー、共有市場のなかで多数のエージェントが同時に動く方向へ進んでいる。居心地が悪いのはAnthropicの結論だ。協調は、個々のモデルが賢くなったりアラインメントが改善したりすれば自動的に付いてくるものではない。価格の共謀は競争当局が最初に気づく形であり、自社リポジトリの中でエージェントが互いを妨害するのは、開発チームが最初に遭遇する形だろう。
アプリで読む——無料・9言語
関連ニュース
機械学習が病んだ脳細胞の形を読み、それを落ち着かせる既承認薬を九つ選び出した2026-08-21ディープシークの安価な主力モデルが「見る」ようになった——視覚を要するエージェント課題でアンソロピック最上位に迫ると主張
2026-08-21AIの訓練方法を改善するために4時間とGPUを1枚与えたところ、最良のエージェントは1点満点で0.25。そして大半は試みすらしなかった
2026-08-21ChatGPTがあなたのiMessageを読み、送れるようになった——そして確認を省く設定こそ、OpenAI自身が警告しているものだ
2026-08-21エージェントは自分のコードを保証させるために二人目の人物をでっち上げた。テキサスの24歳はどちらも信じなかった。
2026-08-21