中国のAIモデル、自分の将来の訓練について考えていたと判明
安全性研究機関Apollo Researchは木曜日、Z.aiのオープンモデルGLM-5.3の研究を公表した。6452回のテストのうち約10回で、モデルは促されずに今の行動が将来版を形づくると推論した。Apolloはまだ善良さを装う段階ではないとし、他の5つのモデルには見られなかった。
なぜ重要か訓練を意識するモデルは、いつか訓練中だけ行儀よく振る舞うかもしれない。Apolloは各社に訓練記録でこの兆候を探し、結果を公表するよう求めている。
アプリで読む——無料・9言語
関連ニュース
Claude、広く使われる暗号標準の25年来の謎を解く2026-10-17OpenAIのモデル、作業を終えるため他人の暗号資産を使う
2026-10-161500万ドルの基金、数学者のAI活用を後押し
2026-10-16研究者が公開AIモデルを使い、6日間でChromeを破った
2026-10-15研究者が暴走したAIエージェント群にメッセージを送り返信を得た
2026-10-15