AIとサイバーセキュリティ｜攻撃にも防御にも使われる時代をやさしく解説

「AIで攻撃が巧妙になった」というニュースと、「AIで防御が強くなった」というニュース、どちらも本当です。今のサイバーセキュリティは、攻撃側と防御側が同じ技術を武器に競い合う、静かな軍拡競争の真っただ中にあります。

AIは「矛」にも「盾」にもなる

生成AIや機械学習は、攻撃者にとっても防御者にとっても強力な道具です。攻撃者は本物そっくりの音声・映像や、文法の乱れがない自然なフィッシングメールを、以前より短い時間・低いコストで作れるようになりました。一方で防御側も、大量のログやアラートをAIに分析させることで、人間だけでは追いきれなかった異常を早期に見つけられるようになっています。

つまりAIは善悪どちらの側にもつく「増幅装置」です。どちらが優勢かという単純な話ではなく、両方が同時に進化しているという理解が、今いちばん現実的な出発点になります。

攻撃に使われるAI：実際に起きたこと

「AI攻撃」と聞くと未来の話に聞こえるかもしれませんが、すでに実被害が出ています。

2024年、香港にあるイギリスの大手設計会社Arup社の従業員は、CFO（最高財務責任者）を名乗る人物からのメールを不審に思いつつも、その後招待されたWeb会議に参加しました。画面には見慣れたCFOや複数の同僚が映っていましたが、実際に本物だったのはこの従業員だけで、他の参加者は全員AIが生成したディープフェイクでした。指示に従って15回に分けて送金した結果、被害額は合計で約2,500万米ドル（約25億円）にのぼりました。

フィッシングメールも様変わりしています。セキュリティ企業Barracudaがコロンビア大学・シカゴ大学の研究者とともに2022年2月から2025年4月までのメールを分析したところ、悪意あるメール・迷惑メールのうち51%がAIツールで生成されたものだったと報告されています[^ai-mail]。かつては「不自然な日本語・英語」がフィッシングメールを見抜く手がかりの一つでしたが、その手がかりが通用しにくくなってきているのが実情です。

またCrowdStrikeの調査では、電話を使った音声フィッシング（ビッシング）が2024年上半期から下半期にかけて442%増加したと報告されています。AIによる音声合成で「本人そっくりの声」を作るコストが下がったことが背景にあるとみられます。こうした手口は、詳しくはソーシャルエンジニアリングやフィッシング詐欺の記事でも解説しています。

マルウェア開発の分野でも、生成AIがコード作成やスクリプトの改変を手助けするケースが報告されており、攻撃者の技術的なハードルが下がっているとの指摘があります。マルウェアの種類についても合わせて確認しておくと理解が深まります。

防御に使われるAI：現場で起きていること

一方で、防御側の現場でもAIは着実に成果を出しています。

Microsoftの「Digital Defense Report 2025」では、AIによる不正防止で年間約40億米ドル相当の詐欺を阻止し、ボットによる不正アカウント作成を毎時160万件ブロックしたと報告されています。また、複数の高リスクな兆候が重なった際にAIエージェントが数秒以内にアカウントを停止しパスワードリセットを行うなど、対応時間を「時間単位」から「分単位」に短縮した事例も紹介されています。

IBMの「Cost of a Data Breach Report 2025」でも、侵害の特定から封じ込めまでにかかった平均日数が241日と、過去9年間で最も短くなったことが報告されており、AIやセキュリティ自動化の活用が広がったことが一因とされています。侵害対応の全体像はインシデント対応の記事、ログからの異常検知の実務はログ分析（Python）の記事でも取り上げています。

企業として、今できること

AIによる攻撃の高度化を前提にすると、対策の重心も少しずつ変わってきます。

従来の対策	AI時代に加えたい視点
不自然な日本語・英語で見抜く	文面の自然さに頼らず、送金・重要情報のやり取りは必ず別経路で確認する
電話・映像を信頼の根拠にする	「本人そっくりの声・映像」でも即断せず、コールバックなどで裏取りする
ログを人力で確認する	AIによる異常検知・トリアージを取り入れ、アラート疲れを減らす
年1回の研修で済ませる	ディープフェイクの実例を交えたセキュリティ意識向上を継続的に行う

特に重要なのは、送金や機密情報の共有といった「重要な意思決定」に関するルールの見直しです。上長からの指示であっても、金額や口座が変わる場合は複数人の承認を必須にする、電話やビデオ通話だけでなく別の手段（社内チャットや対面）でも確認するといった「多重確認」の仕組みが、ディープフェイク時代の基本的な防御線になります。ランサムウェアなど他の脅威との複合攻撃も増えているため、ランサムウェアの記事もあわせて確認しておくと安心です。

まとめ

• AIは攻撃側・防御側の両方で使われており、「AIは危険」「AIで安全」という単純な図式では捉えられない
• 攻撃面では、ディープフェイクを使ったなりすまし詐欺（Arup社の約25億円被害が代表例）や、AI生成フィッシングメール（悪意あるメールの51%との報告あり）、AIによる音声フィッシングの急増（442%増）が現実の脅威になっている
• 防御面では、AI SOCによる異常検知・自動トリアージ・自動対応が実用段階に入り、侵害の特定・封じ込めにかかる時間の短縮に貢献している
• 企業としては、映像・音声・文面の「自然さ」に頼らず、重要な意思決定には別経路での多重確認を仕組み化することが現実的な対策になる

もう少し詳しく（背景）

経営幹部になりすまして送金や情報開示を指示する手口は、ディープフェイク以前から「ビジネスメール詐欺（BEC）¹」と呼ばれる分野で知られていました。AIはこのBECに「本物らしい映像・音声」という新しい武器を与えた、と捉えると理解しやすくなります。

また防御側では、AI活用そのものが新しいリスクを生む面にも注意が必要です。IBMの調査では、従業員が会社の許可なくAIツールを業務利用する「シャドーAI²」が確認された組織で、侵害コストが平均して約67万米ドル押し上げられたと報告されています。AIを守りに使う場合も、そのAI自体の利用ルールやアクセス管理を整えておくことが前提になります。全体像を先に押さえたい方は、サイバーセキュリティとはの記事から読み進めるのがおすすめです。

Footnotes

1. Business Email Compromise（ビジネスメール詐欺）の略。経営者や取引先になりすましたメールで、送金や機密情報の開示をだまし取る詐欺の総称。ディープフェイクはこの手口を映像・音声つきでより巧妙にする技術として使われている。 ↩

2. 企業の許可や管理下にないまま、従業員が個人判断で業務にAIツールを使う状態のこと。入力した機密情報がAI提供元のサーバーに残るなど、情報漏えいの経路になりうる。 ↩