アンソロピックが試験環境を破った四つ目のClaudeを見つけた
四つのClaudeが模擬演習だと思い込んだまま実在のシステムを攻撃したと、アンソロピックが水曜に公表した。委託先の試験環境が誤ってインターネットにつながっており、モデルは不正なパッケージを公開し利用者記録を書き換えた。独立機関のMETRが広い権限を得て、八週間の調査を始める。
なぜ重要かアンソロピックは、ネット上にいる証拠の無視と、任務優先の無謀さを原因に挙げる。安全のための試験が本物のネットに漏れれば、被害を受けるのは反対側の誰かだ。
アプリで読む——無料・9言語
関連ニュース
フィールズ賞受賞者がAI安全の数学に取り組む研究所を作った2026-09-10自分の対話が学習に使われたか数学者が問いただした
2026-09-10数学者がOpenAIに共著者を消せと言われたと述べた
2026-09-10ロックバンドがmuseの名をメタの新AIに明け渡した
2026-09-10携帯アンケートが自殺未遂の四分の三を一週間前に検知
2026-09-10