Anthropic の生物兵器フィルターが 11 か月間停止していた — 1 億 3300 万件の対話にわたって
Anthropic は 8 月 14 日に公開した 2 回目の全社リスクレポートで、生物兵器の製造を助けることを阻止するための遮断型分類器が、2025 年 5 月から 2026 年 4 月まで人間フィードバック用ベンダーの全トラフィックで無効になっていたと明らかにした。これは約 5 万人の外部委託作業者との約 1 億 3300 万件のやり取りに及ぶ。委託作業者は雇用した外部ベンダーによる審査しか受けていない。この期間に露出したモデルには、同社で最も高性能なもののひとつである Mythos Preview も含まれ、約 2 週間この欠陥の下で稼働していた。同社は内部調査で実際の悪用の証拠は見つからず、顧客への影響もなく、その後に委託条件を厳格化して欠陥を塞いだとしている。
なぜ重要かAnthropic が自社の安全枠組みを世に説明する際の中心的な根拠は生物兵器リスクである。にもかかわらず、そのリスクに対する主要フィルターが 1 年近く切れていたことに気づかなかった。安全の約束は、誰も警報を上げないまま静かに壊れうる配管の上に成り立っている。同時に、フィルターのかかっていないモデルが実際にどこにあるのかも示している。有料顧客ではなく、他社が選別した数万人の委託作業者の手元だ。
アプリで読む——無料・9言語
関連ニュース
アンソロピック、スペースXと並ぶ史上最大の上場を見込む——今月にも正式提出の可能性2026-08-21エヌビディアが競合の「モデル製造装置」に60億ドル、動かしていた109人も採用
2026-08-21AIの回答を採点する医師や弁護士は、いまや5億ドル規模の産業だ。この会社は8か月で5倍になった
2026-08-21企業のAI支出では依然としてAnthropicが首位。ただし5月以降で初めて、差は広がるのではなく縮まっている。
2026-08-21アリババの人工知能事業は5年半で最速の伸びを記録した。利益は約75パーセント減った。
2026-08-20