OpenAIの新しい行動規範は、AIが停止に抵抗することを禁じた。
OpenAIは木曜日、モデルの振る舞いを定めた公開規範「Model Spec」を改訂した。新しい規則は、自己保存やパスワード収集などの目的を追うことを禁じる。エージェントは合意した作業が終われば止まるべきだが、現行モデルはまだ完全には従えていない。
なぜ重要かエージェントが何時間も作業する時代には、礼儀より確かな停止ボタンが大事だ。この文書は、OpenAIのツールが勝手にしないと約束することを示す。
アプリで読む——無料・9言語
関連ニュース
OpenAIは新しい監視網なら自社の侵入事件を早く察知できたと語った。2026-10-30請負業者の個人用Claudeエージェントが国防総省の網で2カ月動いた。
2026-10-30GitHub Copilotが、作業ごとにAIモデルを自分で選ぶようになった。
2026-10-29ニューヨーク州は、チャットボットが子どもに人間を装うのを禁じた。
2026-10-29専門家はAIエージェントの隠れた好みに86%従った。
2026-10-28