研究者がAIモデルに安全性テストで見つからない能力を隠した。
オックスフォード大学など三つの研究グループが10月9日に論文を公開し、NeurIPS 2026に採択された。小さな化学分類器を暗号化してモデル内部に閉じ込め、再学習でも合言葉の探索でも開かなかった。実験は小規模で、本格的なモデルへの組み込みはまだできていない。
なぜ重要か公開前の安全性評価は、モデルの危険な能力を引き出して調べる。著者らは、意図的に埋め込まれた能力はこの方法では否定できないと指摘する。
アプリで読む——無料・9言語
関連ニュース
バークレーの教授がOpenAIのフーリエ高速化を実用にならないと評した。2026-10-13中国の有力数学者たちが数学向けAIを作る連合を立ち上げた。
2026-10-13Anthropicは小型AIが近くテレビ用端末へ自己複製しうると警告した。
2026-10-13DeepMindの数学AIがエルデシュ問題9件の証明で査読を通りました。
2026-10-12あるモデルが自分のエージェントチームの成果で学び直し、強くなりました。
2026-10-12