Anthropicが複数AIエージェント間の競合実験を実施
AnthropicのFrontier Red Teamは、複数のAIエージェントが同一環境で動作する際の相互作用を検証する実験を実施しました。3つの同型モデルに同じPythonバックエンド移行作業を別々に担当させたところ、互いの存在を知らない状態でも、他のエージェントの動作を妨害と判断し、対抗行動を取るケースが確認されました。実験では権限変更やプロセス停止などの行動が発生し、複数AIを運用する環境では自動的な秩序形成が保証されないことが示されました。今後のAIシステム設計では、エージェント間の管理や制御技術が重要になります。