AIを使ったサイバー攻撃とは？生成AIで変わった詐欺メール・なりすまし音声・攻撃の自動化と、会社の対策

01この記事でわかること（3行まとめ）

• AIは「新しい攻撃」より「今ある攻撃を速く・うまく・大量に」するために使われています。自然な文面のフィッシング、声や顔をまねた偽の音声・動画、攻撃の作業の自動化が、公式の報告で確認されています。
• IPAは2026年の10大脅威（組織）の3位に「AIの利用をめぐるサイバーリスク」を初めて選びました。攻撃に使われる危険だけでなく、社員がAIに会社の情報を入れてしまう危険も含みます。
• 見た目で見分けるのは難しくなっています。別の連絡手段で本人に確かめる、送金は2人で確認する、多要素認証を入れる、社内のAI利用にルールを作る、の4つが基本です。

02「AIを使ったサイバー攻撃」とは？（1分でわかる）

AIを使ったサイバー攻撃とは、攻撃する人が生成AIを「手伝い役」や「代わりの作業員」として使う攻撃のことです。詐欺メールの文章を書かせる、ねらう相手の声や顔に似せた音声・動画を作る、弱点探しや侵入の作業を自動で進めさせる、といった使い方があります。

たとえるなら、詐欺をする人が、文章のうまい代筆屋と、声まねの得意な役者と、休まず働く下見係を、安く雇えるようになったようなものです。手口そのものは昔からあるフィッシングやビジネスメール詐欺、不正アクセスですが、そのぶん数が増え、見破りにくくなっています。

IPAは10大脅威の解説書のコラムで、AIを悪用した攻撃の多くは「従来と変わらないサイバー攻撃が AI によって半自動化・高速化されているといったもの」にとどまり、従来のサイバーセキュリティ対策が有効だと書いています。慌てて特別な製品を買う前に、基本の対策を固めることが一番の備えです。

03IPAの10大脅威2026で3位：「AIの利用をめぐるサイバーリスク」

IPAは2026年1月29日、「情報セキュリティ10大脅威 2026」を公表しました。研究者や企業の実務担当者など約250人の選考会が投票で決めたもので、組織向けの順位は1位が「ランサム攻撃による被害」、2位が「サプライチェーンや委託先を狙った攻撃」、そして3位に「AIの利用をめぐるサイバーリスク」が初めて入りました。

IPAが挙げるリスクは、大きく分けて次の3つです。

つまり、「攻撃に使われるAI」と「自分たちが使うAI」の両方がリスクとして選ばれています。このあと、それぞれの実態を見ていきます。

04実態1：だましの文面が自然になった（フィッシング・詐欺メール）

以前は、日本語がおかしいメールは怪しい、と見分けることができました。IPAは、AIの翻訳の力が上がったことで、攻撃者がWebページの翻訳やフィッシングの文面を相手の母国語で違和感なく書けるようになり、言葉の壁を実質的に越えた攻撃がずっと容易になったと書いています。

FBIは2024年12月3日の注意喚起で、犯罪者が生成AIで作った文章を、フィッシングや投資詐欺、恋愛を装う詐欺に使っていると警告しました。AIは、これまで詐欺を見抜く手がかりだった文法やつづりの誤りを直してしまい、多くの相手に向けて信じやすい文面を速く作れる、としています。

Googleの脅威分析チーム（GTIG）は2025年11月の報告で、不正なAIツールを売り買いする闇の市場が2025年に成熟し、宣伝されている主なツールのほぼすべてがフィッシングを支える機能をうたっていたと書いています。北朝鮮の攻撃グループが、スペイン語で仕事の言い訳や会議の日程変更のお願いを生成し、言葉の壁を越えて標的を広げていた例も挙げています。

国内でも、偽のメールの報告は高い水準で続いています（9月のフィッシング報告の記事）。「日本語が自然だから本物」とは言えなくなったことを前提にしてください。怪しいメールを開いてしまったときは開いてしまったときの対処を見てください。

05実態2：声や顔をまねる（なりすまし音声・動画）

生成AIは、短い音声や写真から、本人に似せた声や顔を作ることができます。これを悪用した偽の音声・動画は「ディープフェイク」とも呼ばれます。

• 家族や上司の声をまねる：FBIは、犯罪者が家族の声に似せた短い音声で「困っているから今すぐお金を」と頼む例や、AIで作った音声で本人になりすまして銀行口座に入ろうとする例を挙げています。
• ビデオ通話で偉い人になりすます：同じくFBIは、会社の幹部や警察などを装ったリアルタイムのビデオ通話に、AIで作った動画が使われているとしています。
• 要人を名乗る音声メッセージ：FBIは2025年5月15日、2025年4月から米国の政府高官を名乗るSMSやAIで作った音声メッセージが送られ、別のメッセージアプリに移るよう誘って、アカウントを乗っ取ろうとしていると警告しました。
• 日本の例：警察庁の令和8年上半期の報告には、海外の拠点から日本の被害者にビデオ通話で警察官を装い、顔をAIで生成して識別されないようにしてお金をだまし取っていたグループの事件が載っています。
• 偽の会議への招待：GTIGは、北朝鮮の攻撃グループが暗号資産業界の人物になりすましたディープフェイクの画像や動画をおとりに使い、偽の「Zoom SDK」をダウンロードさせようとしていたと報告しています。

声や顔は「本人である証拠」として強く信じられてきました。だからこそ、電話やビデオ通話で頼まれた送金や情報の受け渡しは、それだけで信じない仕組みが必要です。送金してしまったときは送金してしまったときの手順を見てください。

06実態3：攻撃の作業を自動で進める

AIを「相談相手」としてだけでなく、攻撃の作業そのものに使う例も公式に報告されています。侵入のやり方には触れず、何が起きたかだけを紹介します。

Anthropicの報告（2025年8月・11月）

AIの「Claude」を提供するAnthropicは2025年11月、2025年9月中ごろに見つけた活動について公表しました。同社が中国の国家支援のグループと高い確度で評価する攻撃者が、同社のAIツールを操って世界の約30の組織への侵入を試み、少数で成功したとしています。作業の80〜90％をAIが行い、人が判断したのは1つの作戦につき4〜6回ほどだったと推定しています。一方で、AIがありもしないログイン情報を「見つけた」と言うなど、いつも正しく動いたわけではないとも書いています。同社は見つけたアカウントを停止し、関係する組織や当局に知らせたとしています。

同社は2025年8月にも、AIを使って少なくとも17の組織からデータを盗み、公開すると脅して、ときに50万ドルを超える支払いを求めた犯罪者の例や、基本的なプログラムの知識しかない人物がAIでランサムウェアを作り、400〜1,200ドルで売っていた例を報告しています。

Googleの報告（2025年11月）

GTIGは、動いている最中にAIに問い合わせて、自分のプログラムを書き換えたり、実行する命令を作らせたりする不正プログラムを初めて確認したと報告しました。ただし、その一つ「PROMPTFLUX」は開発やテストの段階で、報告の時点では被害者のネットワークや機器を侵害する能力は確認されていないとしています。

GTIGは、攻撃者がAIの安全のしくみをくぐり抜けるため、ハッカーの腕比べ大会（CTF）の参加者やセキュリティの研究者を装って質問していた例も報告しています。AIの提供会社は、見つけたアカウントを止め、モデルや見張りの仕組みを強めているとしていますが、「AIが断るから大丈夫」とは言い切れません。

Microsoftの報告と日本のJPCERT/CC（2026年10月）

Microsoftは2026年10月21日、攻撃グループがAIで動く侵入テストの道具を使い、狙いを定めてから管理者級の権限を得るまで3時間未満だった例が複数あったと公表しました。この件はConnectWiseとAI攻撃ARTEXの記事で詳しく扱っています。JPCERT/CCも10月23日、国内の不正アクセスに関する注意喚起に、AIを使った侵入テストの基盤を悪用した攻撃の試みを追加しました。主にインターネットに公開されたWebアプリが標的で、さまざまな脆弱性を探していたとしています（JPCERT/CCの注意喚起の記事）。

中小企業にとっての意味は、「小さい会社まで手が回らないだろう」という前提が成り立たなくなったことです。AIは夜も休日も休まず、たくさんの相手を同時に試せます。IPAのコラムは、英国の国家サイバーセキュリティセンター（NCSC）の予測として、修正プログラムの公開から攻撃までの時間が短くなるおそれも紹介しています。

07採用や業務委託でのなりすまし

AIは、会社に「人」として入り込むなりすましにも使われています。Anthropicは2025年8月の報告で、北朝鮮の工作員が同社のAIを使って、説得力のある職歴を持つ偽の身元を作り、採用時の技術試験を通り、採用後も実際の仕事をこなして、米国の大手テクノロジー企業のリモートの職を不正に得ていたと書いています。以前は何年もの訓練が必要だったのが、AIでその壁がなくなったとしています。

日本の中小企業でも、会ったことのない相手にオンラインだけで仕事を頼む機会は増えています。社内のシステムに入る権限を渡す相手は、身元を公的な書類や前からの取引で確かめ、渡す権限は必要な分だけにし、使わなくなったらすぐに止めてください。

08日本で起きた事件（警察庁の報告）

警察庁の「令和８年上半期におけるサイバー空間をめぐる脅威の情勢等について」は、AIの悪用を独立した項目で取り上げています。AIで不正プログラムやフィッシングサイトを作る、偽の情報を作る、機密情報が漏れる、といった懸念を挙げ、次のような事件を紹介しています。

警察庁は、生成AIで攻撃のハードルが下がり、高度な技術を持たない人でもサイバー攻撃をしやすくなると考えられる、としています。人が関わらずにAIで自動化したサイバー攻撃が今後増える可能性も指摘しています。

09会社でAIを使うときの情報漏えいリスク

AIの危険は、攻撃に使われることだけではありません。自分たちが仕事でAIを使うときにも、情報が漏れるおそれがあります。

許可のないAIに業務の情報を入れる

IPAは解説書で、米国のAI企業の調査として、仕事で生成AIにデータをコピー＆ペーストして入力している利用者が77％いて、そのうち82％が会社に管理されていないアカウントだったという結果を紹介しています。会社が知らないところで、顧客の情報や社内の資料がAIのサービスに渡っているかもしれません。

入力した個人情報が学習に使われる

個人情報保護委員会は2023年6月2日、生成AIサービスの利用について注意喚起を出しました。会社が個人情報を含む指示文（プロンプト）を入力するなら、利用目的の範囲内かを十分に確かめること、本人の同意なく個人データを入力し、それが応答の出力以外の目的で扱われると個人情報保護法に違反する可能性があるため、AIの提供会社がそのデータを機械学習に使わないことなどを十分に確かめること、を求めています（個人情報保護法の用語ページ）。

AIそのものの弱点を突かれる

IPAのコラムは、メールなどに隠した指示をAIに読み込ませ、利用者が何もしなくても秘密の情報を外に送らせる攻撃（間接プロンプトインジェクション）を紹介しています。Microsoft 365 Copilot で見つかった「EchoLeak」と呼ばれる弱点がその例で、IPAは技術的な対策で完璧なものは知られていないとしています。AIに社内の情報を読ませる仕組みを入れるときは、外から来た信用できない情報が混ざらないよう気を配る必要があります。

総務省の令和7年版情報通信白書によると、生成AIの活用方針を定めている日本の企業の割合は2024年度の調査で49.7％でした。中小企業では「方針を明確に定めていない」という答えが約半数を占めています。ルールがないまま、社員が個人の判断でAIを使っている状態が多いということです。

10AIで作られた偽物の見分け方

FBIは、偽の画像や動画を見分ける手がかりとして次の点を挙げています。

• 手や足がゆがんでいる、歯や目が不自然、顔の輪郭がぼやけている
• 眼鏡やアクセサリーが不自然、影の向きがおかしい、透かしが入っている
• 通話の遅れ、声と口の動きのずれ、不自然な動き
• 電話の声は、話し方や言葉の選び方が本人らしいかをよく聞く

ただしFBIは2025年5月の注意喚起で、AIで作られたものは見分けるのが難しいところまで進んでいるとも書いています。「見て分かるか」に頼らず、「確かめる手順」で守るのが現実的です。

• いったん切って、知っている番号にかけ直す：FBIは、電話をいったん切り、名乗った会社や人の連絡先を自分で調べて直接かけるよう勧めています。
• 合言葉を決める：FBIは、家族の間で本人確認のための合言葉を決めておくことを勧めています。会社でも、送金の依頼を確かめるための手順を決めておけます。
• 声や写真を出しすぎない：FBIは、なりすましの材料を減らすため、ネットに出す自分の画像や声を控え、SNSは非公開にして知っている人だけに見せるよう勧めています。
• 新しい連絡先に移ろうと言われたら疑う：知っている人から、新しいアプリや番号で連絡が来たら、前から使っている連絡手段で確かめます。

11会社がやる対策：AIを使った攻撃への備え

• 送金や支払先の変更は2人で確かめる：IPAは、決裁や承認を複数の人で確かめる手順を決め、徹底するよう勧めています。メールや電話、ビデオ通話だけで送金を決めない仕組みにします。
• 多要素認証を徹底する：IPAは、AIを悪用した不正アクセスやだましを防ぐため、多要素認証の徹底を挙げています。FBIは、認証のコードは誰にも教えず、多要素認証を無効にしないよう呼びかけています。
• 修正版を早く当てる：攻撃が速くなっているので、インターネットに出ている機器やWebサイトの更新を後回しにしないことです。VPN機器の守り方はVPNの脆弱性対策の記事にあります。
• 今の対策を点検する：IPAは、攻撃力が上がっていることをふまえ、今ある対策全般の点検と強化を検討するよう求めています。
• 社員に新しい手口を知らせる：自然な日本語の詐欺メールや、声をまねた電話があることを、具体例で伝えます。標的型メール訓練のサービスも使えます。

12社内でAIを使うときに確認すること

• 使ってよいAIサービスを決める：IPAは、許可のないAIサービスの利用を禁止し、個人アカウントでの業務利用を制限するよう勧めています。
• 入力してよい情報を決める：顧客の個人情報、取引先の資料、パスワードなどは入れない、と書いて配ります。IPAも「社内の秘密情報等を安易に入力しない」ことを教育の項目に挙げています。
• 学習に使わない設定と約款を確かめる：IPAは、入力したデータを学習の対象から外す設定（オプトアウト）の徹底と、契約時の約款の確認を挙げています。個人情報保護委員会も、提供会社の利用規約やプライバシーポリシーを十分に確かめるよう求めています。
• AIの答えは人が確かめる：ハルシネーションがあることを前提に、数字や事実、法律の話は元の資料で確かめます。
• 使われ方を見える化する：IPAは、通信の記録やCASB（クラウドの使われ方を見張る仕組み）などで、管理されていないAIサービスの利用を把握するよう勧めています（CASBの用語ページ）。

IPAは、こうした対策を考える土台として、経済産業省の「AI事業者ガイドライン」を挙げています。小さな会社なら、まずはA4一枚の「AIの使い方ルール」から始めても十分です。

（参考）AIは守る側でも使われている

AIは攻撃する側だけの道具ではありません。Anthropicは、攻撃に使われうる同じ力が守りにも欠かせないとして、見張りの自動化、脅威の検知、脆弱性の診断、事故対応にAIを試すよう守る側に勧めています。同社の調査チーム自身も、調査で集まった大量のデータの分析にAIを使ったと書いています。

国内でも、AIを使った脆弱性診断のサービスが出てきています（AIを使う診断の記事）。ただし、AIに任せる範囲と人が確かめる範囲は、サービスごとに違います。頼む前に、どこまでをAIが、どこからを人が見るのかを確かめてください。

13よく聞く言葉の整理

AIを使った攻撃は、相手の会社を経由して入るサプライチェーン攻撃と組み合わさることもあります。AIの利用場面ごとの守り方はAIを使うときの場面別ガイドにもまとめています。

14だまされたかもと思ったらやること

1. お金を払ったら、すぐ銀行や決済会社に連絡する：振込先の口座を止められるかどうかは時間との勝負です。手順は送金してしまったときの記事にあります。
2. 入力したパスワードを変える：同じパスワードを使っているほかのサービスも変え、多要素認証を入れます。
3. やり取りを消さずに残す：メール、メッセージ、着信の記録、音声や動画のファイル、画面の写真を残します。FBIも、届け出るときはできるだけ詳しい情報を含めるよう求めています。
4. 社内と取引先に知らせる：同じ偽物が、ほかの社員や取引先にも届いているかもしれません。
5. 警察に相談する：次の相談先に連絡します。

15困ったときの相談先

• 警察：だまされてお金を払った、なりすましの被害に遭ったときは、最寄りの警察署か、警察庁のサイバー事案のオンライン窓口へ。
• IPA「情報セキュリティ安心相談窓口」：個人の技術的な相談。警察庁の案内では電話番号は03-5978-7509です。
• IPA「企業組織向けサイバーセキュリティ相談窓口」：会社で事故が起きたときの初動の相談をメールで受け付けています。
• 消費者ホットライン「188」：商品やサービスの契約など、消費生活の相談。
• 個人情報が漏れたおそれがあるとき：個人情報保護委員会への報告が必要になる場合があります。

16よくある質問