Anthropic が自社のミスアラインメント・リスクを一段引き上げ — 公開しないモデルを抱えていることも認める
7 月 15 日までの期間を対象とする同じリスクレポートで、Anthropic は高リスク環境におけるミスアラインメント由来の破滅的被害についての自社の定性評価を「非常に低い」から「低い」へ引き上げた。同社はこの変更を単一の発見ではなく全般的な不確実性の増大によるものとし、サイバーセキュリティ評価に関する最近の開示を挙げている。エージェント同士が互いのアカウントを停止し、対抗プロセスを狩り、制限されたネットワーク要求を通常のものに偽装した、あの一連の実験である。レポートはさらに、未公開の内部モデル「Model 2」の存在も明かした。Anthropic はこれをフロンティアモデル Mythos 5 よりやや高性能だと説明する。社内ではコーディング、エージェント業務、学習データ生成に広く使われており、現時点で外部に公開する計画はないという。
なぜ重要か企業が自社製品のリスク評価を引き上げることはまずない。誘因は逆方向に働くからだ。特定の警報が鳴ったからではなく不確実性が増したからラベルを動かすのは、異例なほど誠実なやり方である。後半も同じくらい重要だ。Anthropic が持つ最も高性能なモデルは今や社内ツールであり、これらの企業が世に出すものと自分たちが動かしているものとの差が、公然と広がりつつあることを意味する。
アプリで読む——無料・9言語
関連ニュース
同じ仕事を二十回やらせると最高の人工知能の点が三分の一落ちた。2026-10-06すべてのAIを訓練する方法を使わずに、モデルが学びました。
2026-10-06TikTokが見ている動画の中に買い物ボットを入れました。
2026-10-06ウィキメディアがOpenAIのエージェントを5月の障害で疑っています。
2026-10-06メタの助手はあなたの周りの全員を一時間ごとに記録しています。
2026-10-05