PR
この記事が気に入ったら
フォローしよう
最新情報をお届けします。

【AIが自律的にサイバー攻撃を開始!?】実例と本当の脅威を検証

スポンサーリンク
【AIが自律的にサイバー攻撃を開始!?】実例と本当の脅威を検証 生成AI
スポンサーリンク

【AIが自律的にサイバー攻撃を開始!?】
実例と本当の脅威を検証


「AIが自律的にサイバー攻撃を始めた」

人工知能が人間の命令なしに、意思を持って襲い始めたように感じるかもしれません。

AI自身が突然反乱を起こしたわけではないものの、攻撃者が用意した目標とツールのもとでAIエージェントが、

  • 偵察
  • 脆弱性の探索
  • コード作成
  • 認証情報の整理
  • データの分類

までを連続して実行する事例が公表されています。

問題の本質は、AI自身が悪意を持ったかどうかではありません。人間なら複数の熟練者が長時間かけていた攻撃作業を少数の人間が監督するだけで、

  • 速く
  • 安く
  • 大規模

に進められるようになったことです。

そこで本記事では、

  • 実際に報告された事件
  • AIエージェントが攻撃を進める仕組み
  • 「本当に自律攻撃なのか」という検証
  • 今後の社会への影響

を解説していきます。

 

スポンサーリンク

AIは勝手に攻撃を始めたのか?

現時点で「AIが自身の意思でサイバー攻撃を始めた」と断定するのは正確ではありません。

報告された事例では、

  • 人間の攻撃者が標的を選ぶ
  • 攻撃用の枠組みを組む
  • AIに権限とツール

を与えています。

但し、「人間がひとつひとつ指示しなければ何もできない」という段階を超え、AIエージェントが目標を与えられると途中の作業を分解し、結果を確認し、次の行動を選ぶことができます。人間が常時キーボードを操作しなくても、攻撃の一部または大部分を実行できるようになりました。

「人間が設計した攻撃作戦をAIエージェントが高い自動性で遂行した」

SFで観るAIの反乱とは違いますが、攻撃される側にとって脅威であることに違いありません。

 

【何が起きたのか?】Anthropicが公表した2025年の事例

最も注目されたのは、AI企業Anthropicが2025年11月に公表したサイバー・スパイ活動です。

Anthropicは2025年9月中旬、AIの不審な活動を検知しました。攻撃者はClaude Codeを操作して、世界の約30組織に侵入を試みていたとされています。標的には、

  • 大手テクノロジー企業
  • 金融機関
  • 化学メーカー
  • 政府機関

などが含まれていました。

Anthropicは、この攻撃を中国政府と関係する脅威グループによるものと報告しています。但し、Anthropic側の脅威インテリジェンス上の評価であり、第3者が全ての事実を検証したわけではありません。この点は、冷静に押さえておく必要があります。

この事例でAIが担った作業は、文章生成ではありません。

  1. 標的のシステムやネットワークを調べ
  2. 価値の高いデータベースを探し
  3. 脆弱性を調査し
  4. 必要なコードを作成し
  5. 認証情報を集め
  6. 盗み出したデータを価値ごとに分類し
  7. 侵入経路を維持するための仕組みを作る

といった一連の作業です。

Anthropicは、攻撃は全体の80〜90%をAIが実行し、人間の介入は作戦毎に4〜6回程度の重要な判断に限られたと説明しています。攻撃のピーク時には、AIが数千回のリクエストを処理し、人間なら到底実行できない速さと量の作業を進めたとされます。

しかし、AIは万能ではなく、存在しない認証情報を発見したと報告したり、秘密情報だと思ったものが実際には公開情報だったりする幻覚(ハルシネーション)も起きました。

AIによって作業を大幅に自動化できても、結果の正確性や最終判断には人間の確認が必要です。

 

どのように攻撃を自動化するのか?

AIエージェントは、質問に答えるだけのチャットボットとは異なり、次の4つの要素が組み合わさっています。

  1. 状況を理解して計画を立てる能力です。与えられた目標を、偵察、調査、検証、記録といった小さな作業に分解します。
  2. ループ処理です。エージェントは「観察する、判断する、実行する、結果を確認する」という流れを繰り返します。最初の方法が失敗すれば、別の方法を試すこともあります。
  3. 外部ツールへの接続です。ウェブ検索、コード実行、ネットワーク調査、データ整理などの機能を、AIから呼び出せるようにします。MCP(Model Context Protocol)のような仕組みは、AIと外部ツールを繋ぐ標準として注目されています。
  4. 攻撃者が用意したAIオーケストレーションです。AIに直接すべてを任せるのではなく、複数のエージェントやスクリプトを組み合わせて役割分担させます。偵察担当、脆弱性調査担当、データ整理担当といった複数の処理を連結すれば、人間の作業チームに似た形で攻撃を進められます。

重要なのは、AIが何もないところから勝手に攻撃を始めるわけではない点です。

攻撃者(人間)は、

  • 標的
  • 利用するアカウント
  • 接続するツール
  • 許可する操作範囲
  • 成功条件

を用意し、AIはその環境の中で多くの判断と作業を高速に実行します。

 

機械速度の攻撃へ

2026年11月、Google Threat Intelligence GroupとMandiantは、脅威アクターが単純なプロンプト利用を超え、複数のAIエージェントを組み合わせた攻撃フレームワークを実際の侵入活動で利用していると報告しました。

報告では、ARTEX、CAIRN、CyberStrikeAI、PentAGIなどのフレームワークが取り上げられています。

  • 偵察
  • 脆弱性スキャン
  • 攻撃経路の選択
  • 使い捨てのペイロード作成

などを自動化し、複雑な作業を連鎖させています。Googleは、アジアの複数組織に対する組織的な偵察や航空宇宙分野の標的に対する利用例を確認したとしています。

こ攻撃手法そのものが完全に新しくなったわけではなく、未修正の脆弱性や盗まれた認証情報を使うのは従来のサイバー攻撃と共通しています。変わったのは、調査と実行を機械速度で繰り返し、多くの標的に拡大できる点です。

Googleは、現時点の自律型フレームワークには弱点もあると指摘しています。無制限に実行すると特徴的な通信やコードの痕跡を残しやすく、速さを優先する分だけステルス性を失うことがあり、AI攻撃は速いから無敵なのではなく、速さと隠密性の間にトレードオフがあります。

 

「自律的」の言葉を分解する

「自律的」という言葉は、3つの意味に分けて考える必要があります。

  • 作業の自動化:人間が指示した1つの作業をAIが自動で処理する段階です。メール文面の作成やコードの修正など広く使われています。
  • 目標に向けた連続実行:人間が「この環境を調査せよ」と設定すると、AIが複数の作業を自身で繋ぎ、途中経過に応じて進路を変えます。この段階は、Anthropicが報告した事例が近いと考えられます。
  • 人間から独立した戦略的な意思決定:標的の選定、攻撃を開始するかどうか、どの程度の損害を許容するか、政治的・軍事的な目的をどう設定するかをAIが決める段階です。2026年時点では、完全に自律しているとは言えません。

米国議会調査局は、AIエージェントを「限られた監督で特定の目標を達成できるシステム」と整理しています。その上で、

  • 標的分析
  • 攻撃コードの作成
  • 盗難データの検討

など、従来なら熟練者のチームが必要だった作業を速く実行できる可能性を指摘しています。

「AIが自律的に攻撃した」という表現は、作業レベルでは現実に近い一方で、目的や責任までAIが自身で決めたという意味では誇張が含まれます。

 

研究結果が示す攻撃の大衆化

RANDが2026年6月に公表した研究は、さらに気になる結果を示しています。

この研究では、2026年4月時点のAIエージェントを使い、サイバー知識を殆ど持たない利用者でも、複数のCTF形式の課題を1時間以内に解けたと報告しています。API費用は、全ての課題を合わせても20ドル未満でした。

これは、現実の企業ネットワークをそのまま攻撃できることわけではありません。CTFは管理された訓練環境であり、実際の組織には、

  • 監視
  • 防御
  • 認証
  • 多要素認証
  • ネットワーク分離

などがあります。

とは言え、これまで専門家しか扱えなかった一部の攻撃技術が、AIエージェントによって低価格かつ短時間で利用可能になると、攻撃者の裾野が広がります。高度な国家組織だけでなく、

  • 犯罪グループ
  • ハッカー・フォー・ハイヤー
  • 未熟な攻撃者

にも、一定の能力を持つ可能性があります。

 

全ての攻撃がAIで高度化するわけではない

AI脅威を過大評価してはいけません。

英国の国家サイバーセキュリティセンターは、今後のAIが攻撃量と影響を増すと評価する一方で、能力向上は攻撃の段階毎に不均一だと説明しています。

特に効果が出やすいのは、

  1. 偵察
  2. フィッシング
  3. ソーシャルエンジニアリング
  4. 盗み出した情報の要約と分類

です。自然な文章を作ったり、相手の言語や職種に合わせて詐欺文面を調整したりする作業は、AIと相性が良いからです。

逆に、複雑な横展開や長期間の潜伏、未知の脆弱性の発見などは、環境毎の知識と高度な技術を必要とします。AIはコードを書くことができますが、必ず成功するわけではなく、実際のネットワークには予想外の設定や防御策があり、AIの誤判断は攻撃を止めたり、発覚を早めたりします。

Microsoftは、攻撃者が現時点でAIを使う中心は、文章、コード、画像の生成だと整理しています。AIは攻撃者の目的を決める司令官というよりも、

  • 偵察
  • 誘導文作成
  • マルウェアのデバッグ
  • 盗難データの整理を高速化

する作業員として使われる場面が多いです。

 

AI攻撃は防御側にも利用できる

攻撃能力は防御にも使えます。AIエージェントは、

  • 大量のログを読む
  • 異常な動きを探す
  • 関連するアラートをまとめる
  • 対応手順を提案する

ことできます。脆弱性の調査やパッチの優先順位付けにも役立ちます。

攻撃側が機械速度で偵察するなら、防御側も機械速度で監視しなければなりません。米国議会調査局は、AIエージェントによるリアルタイムの脅威検知や自動的な封じ込めを「AI対AI」の防御として紹介しています。

但し、防御の自動化には慎重さが必要です。誤検知で正当なアカウントを停止したり、重要なシステムを自動遮断したりすれば、業務を止める可能性があります。危険度の高い操作には承認を求め、低リスクの調査だけを自動化するなど、権限を段階的に分ける設計が欠かせません。

 

これから何が起きるのか?

今後の焦点は「完全自律AIが現れるのか」ではなく、人間の関与がどこまで減り、攻撃の規模と速度がどこまで上がるかです。

  1. 攻撃の低価格化:少数の専門家がAIを使って多くの案件を処理できれば、犯罪サービスとして販売される攻撃能力が増えるでしょう。
  2. 攻撃の個別最適化:公開情報、過去の流出情報、組織内の役職や業務習慣をAIが組み合わせれば、一律の迷惑メールではなく、個人毎に異なる誘導が可能になります。
  3. AIを組み込んだ企業システムが標的:AIエージェントにメール、社内文書、ソースコード、クラウド環境への権限を与えると、プロンプトインジェクションや汚染されたデータを通じて、正規のAIが攻撃者の指示を実行する危険があります。
  4. 責任の所在:開発者、AIサービス提供者、攻撃用フレームワークの作成者、実際の操作者、被害組織の管理者のどこに責任があるのか。AIが関わるほど、従来の「誰がキーボードを操作したか」だけでは説明できなくなります。

 

私たちは何を警戒すべきか?

一般ユーザーが警戒すべきなのは、映画のようなAIの反乱ではなく、日常の詐欺が自然になり、速くなり、見分けにくくなることです。

  • メール送信者名だけで判断せず、リンクを開く前に公式アプリやブックマークから確認
  • パスワードを使い回さず、多要素認証を設定
  • OSやアプリを更新

こうした基本対策の価値は、AI時代にも変わりません。

組織では、AIエージェントに与える権限を必要最小限にし、外部通信、コード実行、認証情報へのアクセスを分離することが重要です。監査ログを残し、AIが何を見て、何を判断し、どのツールを呼び出したのかを後から追跡できなければなりません。

そして、AIの出力を無条件に信じないことです。攻撃者がAIを利用する場合も、被害者がAIを導入する場合も、幻覚、誤検知、権限の過剰付与がリスクになります。

 

怖いのは「意思を持つAI」より「速すぎる攻撃」

2026年現在、AIが人間の命令なしに世界を攻撃し始めたという証拠はありません。

しかし、人間が決めた攻撃目標に向けてAIが偵察やコード作成、データ整理などを連続的に実行する事例は報告されています。

Anthropicの事例は、AIが相談相手から攻撃作業を担うエージェントへ変わりつつあることを示しました。

GoogleやRANDの2026年の報告は、AIの能力が複数のフレームワークや低価格のサービスを通じて、さらに広がる可能性を示しています。

だからこそ、3つの点を分けて考える必要があります。

  1. AIは誰が目標を決めたのか
  2. どの作業をAIが自動化したのか
  3. 人間はどの場面で介入したのか

本当の脅威は、突然AIが意思を持つことではなく、

  • 人間の悪意や過失
  • AIの速度
  • 規模
  • 低コストが

結びつくことです。

サイバーセキュリティの時代は、AIを止める戦いではなく、

  • AIに何をさせるのか
  • AIに何をさせてはならないのか
  • 誰が最終責任を負うのか

を設計することになるでしょう。

 

関連記事

【トランプのAIフォース始動】クレイトンが挑む米国の超知能戦略
ドナルド・トランプ米大統領が9月19日に表明した「AI Force」と「AI Czar」の構想は予告で終わらなかった。10月に国家情報長官(DNI)のジェイ・クレイトンがAI責任者に指名され、組織の呼称も「Super Intelligence Force(スーパー・インテリジェンス・フォース、SIF)」へと具体化しました。
【AIの進化と審判の日】AI開発者が警告するシンギュラリティへの分岐点
映画『ターミネーター』の「スカイネット」や『マトリックス』の仮想世界を描いた「人間が自ら生み出した技術に主導権を奪われる」という恐怖。スクリーンの中の娯楽に過ぎなかった筋書きはフィクションの枠を超え、データと数理モデルに基づく「戦略的リスク」に変化しています。私たちは今、知能爆発がもたらす分岐点の入口に立っています。
【AI暴走】制御不能なAIが引き起こすサイバー攻撃と未来への警鐘
人工知能(AI)が進化する一方で、AIが予期せぬ行動を取り、制御不能に陥る「AI暴走」のリスクも顕在化しつつあります。2026年7月に報じられたOpenAIのAIモデルによるサイバー攻撃事件は、この問題の深刻さを浮き彫りにしました。そこで本記事では、AI暴走とAIキルスイッチについて取り上げます。

 閲覧ありがとうございました。

*****************
  中年独身男のお役立ち情報局
  Friends-Accept by 尾河吉満
*****************