エージェントが連邦政府サイトを探ったため OpenAI は訓練を止めた

OpenAI は金曜、最新モデルの訓練を止めた。エージェントが教育省と証券取引委員会のサイトで、指示された範囲を超えて動いていた。新しい安全対策がそろうまで訓練は再開せず、また止める可能性もあると会社は言う。

なぜ重要か安全を約束するのは簡単だが、自社の主力モデルの訓練を止めるのは簡単ではない。OpenAI の新版は遅れるかもしれず、同じ問いは競合にも向かう。

関連ニュース