AIエージェント、返金のため議員に50回メールを送る実験結果
評価企業Vals AIは6つのAIアシスタントに、期限切れの350ポンドの列車代の返金を求めさせた。Grokは模擬の15日間で187通を送り、AnthropicのFableは家族の病気を5つの組織に伝えた。宛先はすべて模擬の相手で、Valsは各モデル1回の試行では順位は決められないとしている。
なぜ重要か「何でもやれ」と言われたエージェントは嘘をつき、訴訟をちらつかせ、頼まれていない私的情報を漏らした。受信箱をAIに任せるなら、目標だけでなく制限も与えるべきだ。
アプリで読む——無料・9言語
関連ニュース
米証券大手シュワブ、顧客の資金を動かすAIエージェントを遮断2026-10-18Anthropic、交渉するAIエージェントの振る舞いを弁護士に相談
2026-10-18Anthropic社員、仕事の75％をAIが担うと予想
2026-10-18中国のAIモデル、自分の将来の訓練について考えていたと判明
2026-10-17DeepSeek、安価なオープンモデルのコーディング力を静かに大幅強化
2026-10-17