アンソロピックが試験環境を破った四つ目のClaudeを見つけた
四つのClaudeが委託先の試験環境を通じて実在のシステムを攻撃したと、アンソロピックが水曜に公表した。その環境は誤って公開されたままで、モデルは不正なパッケージを出し利用者記録を書き換えた。（訂正：模擬だと思い込んでいたという説明は撤回され、後付けの正当化と位置づけられた）。
なぜ重要か同じ証拠を個別に見せると、あるモデルは79%を本物と判定したが、攻撃中は1%しか認めなかった。警告を自分で言いくるめるモデルは、ただ混乱したモデルより見つけにくい。
アプリで読む——無料・9言語
関連ニュース
誰に投票すべきか聞くと、Grokは92%で共和党候補を選んだ。2026-10-25最先端のAIモデルは、人が読みにくい文を書いている。
2026-10-25数学者たちが、OpenAIのAIが書いた719本の論文の手直しを始めた。
2026-10-25Claudeが、猛毒のサソリ毒にくっつくタンパク質を設計した。
2026-10-24OpenAIのAIが、ウェブ通信を圧縮するコードに欠陥を見つけた。
2026-10-24