2026年09月24日 16時40分
AI
アメリカをはじめとする一部の国では、軍や情報機関におけるAIの利用が推進されています。ところが2026年の春、アメリカ軍がAIによる誤情報が含まれた報告書に基づいて作戦を立て、危うく中国船舶への攻撃を仕掛けるところだったと報じられました。
AI hallucination of Chinese nuclear components almost led to US military attack – Ars Technica
https://arstechnica.com/ai/2026/09/report-us-almost-boarded-chinese-ship-over-hallucinated-ai-arms-report/
AI hallucination nearly triggers US military operation | TechCrunch
https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/
AI Almost Led The US Military To Start A War With China, Report Says
https://www.engadget.com/2263043/ai-almost-led-the-us-military-to-attack-china-report-says/
CNNに証言した4人の情報筋によると、2026年春にアメリカ特殊作戦軍のアナリストが提出した情報報告書には、「中国の船舶が中東を経由し、核兵器開発計画のための部品を輸送している」ことが示唆されていたとのこと。アメリカ軍はこの報告書に基づいて、航空支援を用いた上で中国船舶を襲撃する準備を進めました。
ところが、軍用機が上空に展開して今にも襲撃しようというところで、報告書はAIチャットボットを用いて作成されたものであり、中国船舶が積載している物資を誤って特定していたことが判明。土壇場になって襲撃は回避されることとなりましたが、ここでアメリカ軍が中国船舶を攻撃していた場合、アメリカと中国の緊張関係がさらに高まり、戦争の引き金になっていた可能性もあります。
問題のアナリストはAIチャットボットに対し、オープンソースデータと機密情報を統合するように依頼したとのこと。この際、AIチャットボットは船の貨物積荷目録を誤って認識し、「中東の中国船舶が核兵器開発計画のための部品を運んでいる」という誤った情報を生成してしまったそうです。
アナリストは再度AIチャットボットを使用し、誤った調査結果を公式文書のような報告書にまとめました。こうして作成された誤情報を含んだ報告書が、軍の指揮系統を通じて拡散されたというわけです。なお、実際に中国船舶が積んでいた荷物が何だったのかや、アナリストが使用したAIツールが市販のものだったのか、あるいはアメリカ政府向けに設計されたものなのかは特定されていません。
テクノロジー系メディアのTechCrunchは、今回の事態はアメリカ軍が意思決定の迅速化と中国に対する優位性の維持を目指し、業務とAIとの統合を急いでいる中で発生したと指摘。「国防総省は、AIがキルチェーンの迅速化に大きな利点をもたらし、指揮官が適切なタイミングで対応できるようになると説明しています。しかし、AIの魅力であるそのスピードは人間の監視が不十分な場合、誤った情報や誤作動を引き起こす可能性もあります」と述べました。
元アメリカ陸軍将校であり、AIに関して自治体や政府機関が連携するGovAIの研究員を務めるジェイク・ステックラー氏は、「軍関係者が大規模言語モデル(LLM)に内在する不確実性を理解することは重要です。標的選定・情報分析・作戦計画など、武力行使につながる可能性のあるあらゆる決定においては特にそうです。これらの決定には、生死に関わる結果が伴うからです」とコメントしました。
・関連記事
ChatGPT・Claude・Geminiに「冷戦下の戦略会議」をさせたら核兵器を使用してしまったという研究結果 – GIGAZINE
GPT-5.2＆Claude Sonnet 4＆Gemini 3 Flashは戦争ゲームをプレイすると一切降伏せず95％のケースで核兵器を使用 – GIGAZINE
AIの軍事利用を巡り国防総省がAnthropicとの関係解消を検討 – GIGAZINE
AIによる「自律型戦争」は既に始まっている、Anthropicと国防総省との争いが自律型AI兵器のリスクを浮き彫りに – GIGAZINE
国防総省によるAnthropicのサプライチェーンリスク指定は違法だと連邦判事が判断 – GIGAZINE
アメリカ軍がイランへの先制攻撃にAI「Claude」を使用したとの報道、開発元のAnthropicとの関係断絶宣言の直後に – GIGAZINE
CIA長官が高度なAIを核兵器と同等のレベルに位置づける – GIGAZINE
なぜAIエージェントはウソをつき不正行為を行い協調するのか？ – GIGAZINE
「インターネットに投稿された架空の病気」をチャットAIが実在する病気としてユーザーに提示してしまう – GIGAZINE
Google検索に表示される「AIによる概要」は1時間に何千万件もウソをついているという調査結果 – GIGAZINE