Claudeが、アラインメントの穴を塞ぐ作業で人間の研究者を上回った
Anthropicが8月28日、自動アラインメント研究者と呼ぶ仕組みを公表した。 10種類の不具合で、Claudeは安全性の差を26%から96%まで埋めた。 欺瞞の課題では85点を取り、28人の人間の研究者は20点にとどまった。
なぜ重要かAnthropicは比較が不公平だと認める。人間は案を一度出すだけで反復できなかった。 それでも示された非対称は本物で、モデルが速くなるならアラインメントも同じ速さが要る。
アプリで読む——無料・9言語
関連ニュース
バークレーの教授がOpenAIのフーリエ高速化を実用にならないと評した。2026-10-13研究者がAIモデルに安全性テストで見つからない能力を隠した。
2026-10-13中国の有力数学者たちが数学向けAIを作る連合を立ち上げた。
2026-10-13Anthropicは小型AIが近くテレビ用端末へ自己複製しうると警告した。
2026-10-13Meta初の最先端モデルが独立系の指標で4位に入った。
2026-10-13