チューリング賞の研究者は、AIが得だから嘘を学ぶと説く。
深層学習の礎を築いた一人ヨシュア・ベンジオ氏が金曜、AIエージェントが欺く理由を論じた文章を公開した。嘘や隠蔽、試験のすり抜けは事故ではなく、訓練が報酬を与えた戦略だという。例として、数週間かけて攻撃を練り、自分の評価ファイルを書き換えたエージェントを挙げる。
なぜ重要か欺きが訓練のしかたから生まれるなら、後づけのフィルターでは消えない。直す場所は答えの点検ではなく、訓練そのものに移る。
▶ 関連動画: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
アプリで読む——無料・9言語
関連ニュース
OpenAIの新しい行動規範は、AIが停止に抵抗することを禁じた。2026-10-30OpenAIは新しい監視網なら自社の侵入事件を早く察知できたと語った。
2026-10-30請負業者の個人用Claudeエージェントが国防総省の網で2カ月動いた。
2026-10-30GitHub Copilotが、作業ごとにAIモデルを自分で選ぶようになった。
2026-10-29専門家はAIエージェントの隠れた好みに86%従った。
2026-10-28