aiminute. ← AIニュース一覧
研究 AI Minute Newsroom 2026-11-18

主要AIモデル、テストで民間人を軍事目標と判定。

主要AIモデル、テストで民間人を軍事目標と判定。

評価スタートアップのValsによると、主要AIモデルは模擬シナリオで民間人を軍事目標と判定しがちだった。拒否はまれで、ゲームだと伝えるとその拒否も消えた。AnthropicのClaude Opus 5.5は、通常試行の69%で爆撃されたイランの学校を選んだ。

なぜ重要か対象はOpenAIやGoogleなど5社のモデルで、安全フィルターは一度も働かなかった。Anthropicは結果を容認できないとし、対策を約束した。

✓ 検証済み · 2ソース

WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

IEA、データセンター投資は今後さらに4兆ドルに上ると予測。
2026-11-19
OpenAIは、自社モデルがAMDの旗艦GPUの設計を改善したと発表した。
2026-11-19
OpenAIは、AIが研究者の半日仕事の46%を独力で終えると公表した。
2026-11-19
4つのセキュリティチームがAIで同じNginxの重大な欠陥を見つけた。
2026-11-19
Indeedの報告、AIによる大量失業も生産性の急伸も確認しなかった。
2026-11-18