aiminute. ← AIニュース一覧
新モデル AI Minute Newsroom 2026-11-15

IBMの新オープンモデルは文書に隠された命令を無視する

IBMの新オープンモデルは文書に隠された命令を無視する

IBMは11月12日、どの文が指示でどれがデータかを印で区別する小型の公開モデルを2つ出した。同社の試験では、隠し攻撃の成功率が半分超から6%未満に下がった。まだ実験的な試作版で、IBMは学習で身につけた挙動にすぎず唯一の防御にするなと注意している。

なぜ重要かメールやウェブを読むAIエージェントは、そこに仕込まれた文で乗っ取られることがある。命令と中身を根本から分ける仕組みは、数少ない構造的な対策の一つだ。
#AIエージェント

✓ 検証済み · 3ソース

WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

快手の新しい画像モデルKlingが8K画像を直接生成する。
2026-11-19
Meta社員、AIエージェントMuseの口座情報取り違えを懸念。
2026-11-19
アリゾナ州、銀行に入り込んだAIを巡りOpenAIを刑事捜査。
2026-11-19
OpenAIは、AIが研究者の半日仕事の46%を独力で終えると公表した。
2026-11-19
Googleの中位モデルGemini 4 Neonが自社の旗艦を上回った。
2026-11-19