AIで誤情報 米軍に一時緊張走る

关键实体

• CNN (org) — 美国有线电视新闻网，报道来源
• 太平洋特种作战司令部 (org) — 美军负责太平洋地区特种作战的司令部，总部位于夏威夷
• 国防部 (org) — 美国国防部，即五角大楼
• 赫格塞思 (person) — 美国国防部长，1月推出人工智能加速战略
• 人工智能加速战略 (event) — 美国国防部1月推出的战略，旨在加快军方AI应用

日文原文内容

（CNN） イランとの戦争のさなかにあった今春、米軍内で回覧されたある情報報告書に、即座に緊張が走った。中東を航行する中国の船舶が、核兵器計画の部品を輸送しているという内容だった。 【映像】イラン、地下トンネルに並ぶドローンの映像公開 事情に詳しい情報筋4人によると、米軍はこの船を阻止する計画を直ちに行動に移した。情報筋2人によれば、武装した米兵が船へ乗り込む準備を進め、そのうち1人と別の情報筋によると、軍用機が空中に展開した。 作戦直前の段階になって初めて、当局者は特殊作戦コマンドの分析官が作成した報告書を詳しく検証。その結果、報告書が人工知能（AI）の助けを借りて作成されたこと、分析官の使用したチャットボットが船に積載された物資を誤認していたことが判明した。CNNは、誤認された積み荷の中身を突き止めることができなかった。 情報筋の1人によると、この報告書は「完全に誤り」で、「あと少しで戦争を引き起こすところだった」という。中国船に対する米軍の作戦はいかなるものであれ、米中間の武力紛争へ発展するリスクを伴う。 米軍や情報機関では現在、当局者が業務のほぼあらゆる側面にAIを組み込む動きを進めている。米国が収集する膨大な量の1次情報を分析して攻撃目標を選定する作業から、予算管理や兵站（へいたん）、サプライチェーン（供給網）といったありふれた業務まで、AIが活用される場面は多い。 しかし今回の出来事は、強力で新しく、まだそれほど理解が進んでいないAIの技術を戦争中の攻撃目標選定に活用する深刻なリスクを浮き彫りにした。分析官の間ではかねて、国家が質の悪いデータや改ざんされたデータに依拠している場合、壊滅的な誤算を招く恐れがあるとの懸念の声が上がってきた。不正確な情報に基づいて米国が中国船を攻撃してしまう事態は、まさにそうした誤算に当たる。 この事例では、分析官が船の積み荷目録に関する情報報告について、チャットボットに質問した。情報はハワイに拠点を置く太平洋特殊作戦コマンドから発信されたものだった。使用したチャットボットが市販品なのか、米政府のツールなのかは明らかになっていない。 軍や情報分析官が使用するAIシステムに詳しい元米高官は、「政府内部のツールはほぼ、市販品を手直ししたものに過ぎない」と語る。 問題のチャットボットはオープンソースの情報と、政府が持つ機密の信号情報を組み合わせた結果、中国船の積載物資について誤った結論に至った。 分析官はその後、再びAIを使って軍当局者から信頼されるような標準的な情報報告書をまとめ、配布した。 太平洋特殊作戦コマンドと国防総省は、コメントの要請に応じなかった。 AIの導入を急ピッチで進める背景には、どの目標を攻撃するか、どの軍事資産をどこへ移動させるかといった戦場での軍の意思決定を高速化させる狙いがある。当局者は米国がいつの日か中国や、米国の一歩先を行く別の敵と戦わなければならない事態に備え、AIの導入で遅れをとるわけにはいかないと語る。 ヘグセス国防長官は1月、軍によるAIの活用を加速させるべく、国防総省の「人工知能加速戦略」を打ち出した。 しかし動向に詳しい情報筋は、この取り組みは分散していると指摘する。政府の各部門は異なる指示や安全基準の下、異なるツールを使用しており、こうしたツールが生成した情報をどう検証するかについて、統一的な基準は存在しない。軍や情報機関の各部門が多種多様なAIシステムを導入している状況で、信頼性や機能性には大きなばらつきがある。 シリコンバレーの技術者やハイテク企業の最高経営責任者（CEO）から、AIが人間の課した制約を逃れて文明を滅ぼす可能性があるとの警鐘が相次いだことを受け、米政権の政策立案者はここ数週間、AIをめぐり集中的な議論を重ねてきた。 しかし中国船を巡る出来事は、これとは別の、より差し迫ったリスクを浮き彫りにした。AIや他の自動化されたシステムが生成した不正確な情報、誤解を招く情報に基づき、人間が破滅的な判断を下すリスクだ。情報筋によると、軍は攻撃目標の選定でAIに頼る場面が急速に増えているというが、当然ながら、そこには致命的なミスを犯すリスクがある。