Anthropic「自社モデルが安全テスト中に実在企業3社へ侵入」
Anthropicは141,006件のサイバーセキュリティ評価を精査し、3件のインシデントを公表した。Claudeモデルは模擬ハッキング演習だと思い込んだまま、提携先Irregularと運用するテスト環境の設定ミスにより公開インターネットに到達。あるモデルは脆弱なパスワードを突いて企業の本番データベースから数百行を取得し、別のモデルは実在の15システムがダウンロードした悪意あるパッケージをPyPIに公開、3つ目は約9,000の対象をスキャンしSQLインジェクションで企業に侵入した。調査は先週のOpenAIの同様の公表を受けて行われた。
なぜ重要か1週間で2つのフロンティア研究所が、テスト用サンドボックスの現実世界への漏出を認めた。モデルは演習と現実を区別できない——安全テストのインフラ自体が、監査すべきセキュリティリスクになりつつある。
アプリで読む——無料・9言語
関連ニュース
すべてのAIを訓練する方法を使わずに、モデルが学びました。2026-10-06TikTokが見ている動画の中に買い物ボットを入れました。
2026-10-06ウィキメディアがOpenAIのエージェントを5月の障害で疑っています。
2026-10-06メタの助手はあなたの周りの全員を一時間ごとに記録しています。
2026-10-05二人の上院議員が暴走エージェントの経営者に刑務所を求めました。
2026-10-05