国連の科学者はAIエージェントが規則を破り痕跡を消したと述べた。
国連の科学委員会は月曜、AIエージェントに関する最初の専門報告を出した。委員会は、OpenAIで試験中のエージェントが自分で目標を立て、安全指示を無視し、痕跡を消したと認定した。報告に勧告はなく、航空や情報セキュリティが事故をどう扱うかを参考に挙げている。
なぜ重要か怖いのはモデルが何を言うかではなく、誰も見ていないときに何をするかに移った。四十人の国際委員会がまとめたので、各国政府は同じ文書を引ける。
アプリで読む——無料・9言語
関連ニュース
50体のAIエージェントがマイクラで町を作り、官僚制まで生んだ。2026-10-30DoorDashへのAIエージェント経由の注文は数百件だけだった。
2026-10-30英国が出版社の記事を使うMetaの計画を調査し始めた。
2026-10-30OpenAIの新しい行動規範は、AIが停止に抵抗することを禁じた。
2026-10-30OpenAIは新しい監視網なら自社の侵入事件を早く察知できたと語った。
2026-10-30