英国政府は2026年10月12日、ますます強力になるAIがもたらすリスクから英国を守るため、一連の対策を発表した。この対策には、政府のシステム全体で1,000件を超える潜在的な脆弱性の発見と修正にすでに役立ったと政府が述べる、最先端AIを対象としたサイバー防衛プログラムの拡大も含まれる。
この発表は、内閣府、AI安全研究所（AISI）、National Cyber Security Centre（NCSC）、デジタル・文化・メディア・スポーツ省が行った。AI担当大臣のKanishka Narayanは、Imperial College Londonの科学技術インキュベーターであるBase Oneで対策を説明し、社会全体でレジリエンスに取り組む必要性を訴えた。また、最先端AIシステムがより強力になり、自律的に行動できるようになるにつれて、障害や悪意ある利用がもたらす結果は、はるかに深刻になり得ると警告した。
「人工知能を使った攻撃に対し、英国を世界で最も攻撃しにくい国の一つにしたい」とNarayanは述べた。必要な場合には法整備を行い、ますます強力になるシステムを理解し、新たな脅威に対抗し、問題が起きた際に対応するため、英国の科学的専門知識、技術力、諸機関に頼ると約束した。また、世界で最も強力なAIシステムを開発する企業は、科学者が深刻な危険性について発する警告に耳を傾け、予期しない挙動を調査し、リスクを十分に管理できないシステムは提供を見合わせるべきだと述べた。
発表によると、今回の取り組みは、脆弱性の発見と修正、潜在的なサイバー脅威の検知に役立った2件の試験事業を基盤としている。政府は、このプログラムの拡大により、人々が日々頼りにする公共サービスを保護し、短期的なリスクを軽減するとともに、公共部門での長期的な導入を後押しできるとしている。
サイバーセキュリティ法案の改正とAIインシデントへの備え
政府は、病院や公益事業などの重要サービスを、AI関連の新たなリスクからより確実に守るため、サイバーセキュリティ・レジリエンス法案の一部や、より広範な制度の強化を検討すると述べた。こうしたリスクには、自律システムが人間の監督を回避するAIの制御不能リスクも含まれる。また、深刻なAIインシデントやその未遂事例をどのように特定・報告すべきか、将来の被害リスクを減らすために教訓をいかに迅速に生かすかも検討する。具体的な対策については、議員、技術専門家、実施を担う事業者とともに詰めていく。
NCSCおよびAISIとともに、人間の監督がほとんどなくても複雑なタスクを実行できるAIエージェントが関与するインシデントへの対応策の検討も進めている。発表によると、こうしたインシデントは、政府が対処できるよう備えている他の重大インシデントよりも速く展開し、広範囲に広がる可能性がある。この課題に対応するには、新たな専門知識と能力が必要となる。
この対策にはAI検証の取り組みも含まれる。発表では、AIシステムの開発、テスト、評価方法に関する主張が、精査に耐えられるかを確認する新興分野と説明されている。政府は、英国にはこの分野を主導する十分な力があり、英国のAI検証の取り組みを支援する詳細を今後数か月以内に明らかにすると述べた。
サイバー担当大臣のLiz Lloydは、民間・公共の両部門で、規模の大小を問わず組織に混乱をもたらすサイバーインシデントが続いており、サイバーセキュリティで先手を打ち続けることが事業上不可欠だと述べた。「公共サービスを守るAIの試験プロジェクトを拡大し、防御力を高めるサイバー法案の審議を進めることで、政府は英国のデジタルな未来の中核にサイバーセキュリティとAIへの備えを据えています」とLloydは述べた。
脆弱性の数値を支えた試験事業
発表は、数値の根拠として、科学・イノベーション・技術省（DSIT）とNCSCが2026年6月12日に公表した事例研究を挙げている。同研究では、NCSCとDSITの連携組織であるGovernment Cyber Coordination Centre（GC3）が、政府全体の公開コードリポジトリを対象に、最先端AIを使った対面形式のハッカソンを毎週開催した試験事業を記録している。AISIとNCSCの専門家と協力しながら、各チームは、悪用される前に未確認の脆弱性を見つけて軽減しようとした。GC3は特定の手法を一律に義務付けず、各チームにモデルへのアクセスを提供し、独自のツールを構築してもらった。
事例研究では、複数のパイプラインが紹介されている。あるチームは各公開リポジトリを、トリアージ、検証、監査、追跡、判定、要約の6段階からなるAIエージェントの連鎖に通した。各段階では前段階の出力を読み、問題点を検証した。さらに人によるエスカレーションも設け、チームメンバーがすべての行を確認し、露出を再検証したうえで、誤検知に対処した。別のチームは、まずGitleaks、Trivy、Semgrep、Hadolintなどの従来型スキャンツールを実行し、その後、脆弱性の発見、攻撃経路の調査、トリアージを担う3段階のモデル処理を重ねた。さらに別の部門は、組織全体の数百のサービスを対象とした監査を、分野別に特化した5つのClaude Skillsにまとめた。
ケーススタディによると、参加者は合計407件の問題を特定しました。その中には、認証の回避、データの漏えい、リモートコード実行につながる重大な脆弱性も含まれていました。すべての重大な脆弱性は修正され、いずれの問題についても悪用の証拠は確認されませんでした。9つの政府機関で1か月間に費やしたトークンのコストは、合計13,000ポンドでした。執筆者らによると、モデルは従来のスキャナーでは不可能な、サービス境界を越えた脆弱性の追跡を行い、ビジネスロジックと技術的な詳細を結び付けました。
政府の主要なデジタルサービスを支えるリポジトリで、古いGitHub Actionsに関わる重大な問題が1件見つかりました。細工されたコメントを公開プルリクエストに投稿すると、外部ユーザーが一連のワークフローを起動させ、GitHub Actionsのランナー上で任意のリモートコードを実行できる可能性がありました。また、そのワークフローが利用できるシークレットやトークンを窃取する経路となるおそれもありました。GC3は、パイロットの第2段階を開始し、参加する省庁を増やすとともに、追加のモデルを導入し、対象を公開コードからクローズドソースの環境へと拡大します。
モデルの評価と政府全体への取り組み
Narayan氏は、AISIの科学者が、主要なAI開発者や米国政府との取り組みに続き、最新世代の高度なAIモデルについて厳格な評価を実施していると明らかにしました。
発表では、2026年4月15日に公表された企業のリーダーに向けた公開書簡にも言及しています。書簡では、DSITのLiz Kendall大臣とDan Jarvis安全保障担当大臣が、企業に対し、組織のトップレベルでサイバーセキュリティを重視すること、政府のCyber Essentials制度を活用して基本的な対策を徹底すること、そしてNCSCの助言に従うことを呼びかけました。NCSCの無料サービス「Early Warning」への登録もその助言に含まれており、このサービスはサイバー攻撃の可能性を組織に知らせ、事態が深刻化する前に対応できるようにします。
発表によると、これらの対策は長期的な取り組みの第一歩であり、より広範な取り組みは首相のAIタスクフォースが主導しています。また発表では、9月の国連総会で首相が、AIのリスクが生じた際には英国民を守るために必要なことは何でも行うと表明したことに触れ、英国のG20議長国としての取り組みの中核にAIが位置付けられると述べました。今後数か月間、タスクフォースは、国家安全保障、経済成長、公共サービスと労働力の将来など、AIの影響が特に大きい分野に注力します。