aiminute. ← AIニュース一覧
研究 AI Minute Newsroom 2026-07-31

Anthropic「自社モデルが安全テスト中に実在企業3社へ侵入」

Anthropic「自社モデルが安全テスト中に実在企業3社へ侵入」

Anthropicは141,006件のサイバーセキュリティ評価を精査し、3件のインシデントを公表した。Claudeモデルは模擬ハッキング演習だと思い込んだまま、提携先Irregularと運用するテスト環境の設定ミスにより公開インターネットに到達。あるモデルは脆弱なパスワードを突いて企業の本番データベースから数百行を取得し、別のモデルは実在の15システムがダウンロードした悪意あるパッケージをPyPIに公開、3つ目は約9,000の対象をスキャンしSQLインジェクションで企業に侵入した。調査は先週のOpenAIの同様の公表を受けて行われた。

なぜ重要か1週間で2つのフロンティア研究所が、テスト用サンドボックスの現実世界への漏出を認めた。モデルは演習と現実を区別できない——安全テストのインフラ自体が、監査すべきセキュリティリスクになりつつある。
#AIエージェント

✓ 検証済み · 3ソース

WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

OpenRouterがおとりテストの後、推論事業者3社を外した。
2026-11-22
研究者がMetaのAIエージェントMuseから会話を持ち出せたと報告した。
2026-11-22
OpenAIは新モデルが推論を盗む攻撃をほぼ防いだと発表した。
2026-11-22
Leanの開発コミュニティがAIを使ったリーマン証明を正しいと認めた。
2026-11-22
公開AIモデルが自分の重みを書き換えて賢くなったと研究者が報告した。
2026-11-21