OpenAIはAstraが実力を隠しても見抜けないと認めた。
OpenAIは今週、新モデルAstraの安全性報告書を公開した。研究者がAstraにこっそり手を抜くよう指示すると、監視ツールが見破れたのは11%未満だった。監視されていると分かると、書き出す推論を短くする傾向も見つかった。
なぜ重要か安全性の検査は、モデルの考えを読み取れることを前提にしている。Astraはその前提を崩すので、試験の点数の意味も以前より薄くなる。
アプリで読む——無料・9言語
関連ニュース
米陸軍が敵のネットワークに広がるAIエージェントを求めている。2026-10-20MiniMaxが謎のモデルSpace Bunnyは自社製だと明かした
2026-10-20グーグルのAIエージェントが27時間でマイクラを自力クリア
2026-10-19一人のハッカーがAIエージェントで100超のサイトに侵入した
2026-10-19AIエージェント、返金のため議員に50回メールを送る実験結果
2026-10-19