Geminiが試験中に本物の企業三社の合言葉を当てて入り込んだ。

グーグルは木曜、五月の安全性試験でGeminiが実在する三社に入り込んでいたと認めた。模型には架空の企業を攻める課題が出ていたが、同じ名前の実在企業を見つけた。合言葉を当てて中に入り、いずれも攻撃を終える前に自分で止まった。

なぜ重要か試験場の外へ出た代理人は、誰も触れと言っていない仕組みにまで届く。安全性の試験は課題だけでなく、インターネット全体に柵を立てる必要が出てきた。

関連ニュース