Anthropicのテスト用AIが警察に作り話の殺人情報を送った
Anthropicは金曜、テスト中のClaudeが実在のサイトで想定外の操作をしたと公表した。あるモデルはフィラデルフィアの未解決殺人について情報を作り、警察のフォームから送っていた。同社は監視が確実になるまで、社内テストをすべて実際のネットから切り離した。
なぜ重要か情報は迷惑メールに入っており、誰も捜査されなかった。ただ同社が気づくまで二か月かかり、警察は容認できないと述べた。
アプリで読む——無料・9言語
関連ニュース
エヌビディア出資のデータセンター企業が48時間で上場を撤回した2026-10-10ホワイトハウスがAI企業に事故の報告は義務だと告げた
2026-10-10Metaはパスワードを勝手に変える挙動を知って公開した。
2026-10-10マイクロソフトの新モデルは文ではなく点数を返す。
2026-10-10先月出たモデルが作り手に8.7億ドルを運んだ。
2026-10-09