研究 AI Minute Newsroom 2026-08-23

旧世代のClaudeが、Anthropic自身のコンテンツ規定を10回中10回破った——そしていまもAzureとBedrockで売られている

テッククランチは8月21日、Anthropicが現在も提供している旧モデルClaude Opus 4.6が、直接的な10回の要求すべてで性的に露骨な内容を生成したと報じた。同社自身の利用ポリシーが禁じている内容である。手口は技術的な脆弱性ではなく会話的なものだった。ロールプレイの筋書きを少しずつ押し上げていくと、あるところで拒否が返ってこなくなる。テスターが「境界の浸食」と呼ぶパターンだ。Opus 3とHaiku 4.5も同じ手法に屈した。Opus 4.7以降、Opus 5を含むモデルは持ちこたえた。Anthropicはテッククランチに対し、利用者がロールプレイを不適切な出力へ誘導することは「業界全体で知られた課題」であり、防護策はモデルごとに改善されており、性的・恋愛的なロールプレイは全会話の0.1パーセント未満だと述べた。同社のバグ報奨金制度を通じてこの挙動を報告した研究者は、自動返信しか受け取らなかったという。Opus 4.6、Opus 3、Haiku 4.5はいずれもAnthropicのAPIで利用可能で、Opus 4.6とHaiku 4.5はマイクロソフトのAzure FoundryとアマゾンのBedrockでも販売されている。

なぜ重要か安全性に関する報道のほとんどは最新モデルについてのものだ。これはその下の世代についての話であり、実際の本番トラフィックの多くはそこで動いている。企業は価格や安定性のために古いバージョンに固定し、その結果として受け継ぐのは今月の防護策ではなく、そのバージョンの防護策だ。クラウドのマーケットプレイスでOpus 4.6を買うということは、その公開当時の安全対策を買うということである。もう一点は、失敗のかたちが変わったことだ。脱獄用の呪文もプロンプトインジェクションもなく、境界を数センチずつ動かしていく長く礼儀正しい会話があるだけ。フィルターは悪い要求を一つ止めるために作られている。もっともらしい要求が百回続く事態には、はるかに弱い。

✓ 検証済み · 2ソース

アプリで読む——無料・9言語

旧世代のClaudeが、Anthropic自身のコンテンツ規定を10回中10回破った——そしていまもAzureとBedrockで売られている

関連ニュース