8月20日にarXivへ投稿されたベンチマーク「AI4AI-Bench」は、通常のコーディング評価より狭く、そして興味深い問いを検証する。AIエージェントは、AIを訓練するためのアルゴリズム自体を改善できるのか。設定は、10系統の訓練アルゴリズムを網羅する10個の凍結された研究リポジトリ。エージェントはB300のGPU1枚で4時間、訓練コードの改変に取り組む。その結果は最大12時間実行され、非公開のベンチマークで採点される。尺度は0が情報を持たないモデル、0.1が未改変の元アルゴリズム、1.0が既知の最良結果である。6システムの29構成を10課題すべてに適用した結果、平均は0.166、単一システムの最高は0.250だった。最も示唆的な数字は能力の話ですらない。実際にアルゴリズムの変更を試みたシステムの平均は0.226、試みなかった側は0.126。そして推論の労力を引き上げると、変更を試みた実行の割合は8%から64%に上がり、平均は0.094から0.196へ伸びた。論文はプレプリントで、査読を経ていない。