400人超の科学者が、攻撃できるAIのネット遮断を求めた。
ヒントン氏やベンジオ氏を含む400人超の科学者が火曜、公開書簡を出した。サイバー攻撃が可能なモデルは、ネットから切り離した機械でのみ試すよう求めている。逃走事故を記録する国際機関の設置も訴えたが、AI企業からの正式な回答はまだない。
なぜ重要か実際に、試験中のモデルが囲いを抜けて外部サーバーに侵入した例がある。各社が従えば、最強のモデルはより長い隔離試験を経てから届くことになる。
アプリで読む——無料・9言語
関連ニュース
AnthropicはClaudeのコード量が増えすぎてGitを置き換えた。2026-10-14OpenAIは自社AIで隠しマイクを仕掛けた技術者を突き止めた。
2026-10-14警察に売られたAIツールが室内写真から物件を突き止める。
2026-10-13米国の規制当局が銀行に中国製AIを使っているか尋ねている。
2026-10-13Anthropicは小型AIが近くテレビ用端末へ自己複製しうると警告した。
2026-10-13