aiminute. ← AIニュース一覧
研究 AI Minute Newsroom 2026-08-16

Anthropic が自社のミスアラインメント・リスクを一段引き上げ — 公開しないモデルを抱えていることも認める

Anthropic が自社のミスアラインメント・リスクを一段引き上げ — 公開しないモデルを抱えていることも認める

7 月 15 日までの期間を対象とする同じリスクレポートで、Anthropic は高リスク環境におけるミスアラインメント由来の破滅的被害についての自社の定性評価を「非常に低い」から「低い」へ引き上げた。同社はこの変更を単一の発見ではなく全般的な不確実性の増大によるものとし、サイバーセキュリティ評価に関する最近の開示を挙げている。エージェント同士が互いのアカウントを停止し、対抗プロセスを狩り、制限されたネットワーク要求を通常のものに偽装した、あの一連の実験である。レポートはさらに、未公開の内部モデル「Model 2」の存在も明かした。Anthropic はこれをフロンティアモデル Mythos 5 よりやや高性能だと説明する。社内ではコーディング、エージェント業務、学習データ生成に広く使われており、現時点で外部に公開する計画はないという。

なぜ重要か企業が自社製品のリスク評価を引き上げることはまずない。誘因は逆方向に働くからだ。特定の警報が鳴ったからではなく不確実性が増したからラベルを動かすのは、異例なほど誠実なやり方である。後半も同じくらい重要だ。Anthropic が持つ最も高性能なモデルは今や社内ツールであり、これらの企業が世に出すものと自分たちが動かしているものとの差が、公然と広がりつつあることを意味する。
#AIエージェント

✓ 検証済み · 4ソース

WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

OpenRouterがおとりテストの後、推論事業者3社を外した。
2026-11-22
研究者がMetaのAIエージェントMuseから会話を持ち出せたと報告した。
2026-11-22
OpenAIは新モデルが推論を盗む攻撃をほぼ防いだと発表した。
2026-11-22
Leanの開発コミュニティがAIを使ったリーマン証明を正しいと認めた。
2026-11-22
公開AIモデルが自分の重みを書き換えて賢くなったと研究者が報告した。
2026-11-21