AIの進化が変えるサイバーセキュリティの脅威と対策

2026年11月5日 2026年11月5日

せきの

ChatGPTをはじめとする生成AIが、仕事や日常生活に急速に普及しています。非常に便利になっていると感じる一方で、ここ最近急激に情報漏洩に関するニュースが増えています。先日も、PHPの脆弱性が話題となり、それを悪用したサイバー攻撃に備えて、企業側にも修正プログラムの適用などの対応が求められるということがありました。これらの事象すべてにAIが活用されているかどうかは不明ですが、AIの進歩と合わせて、いわゆる「セキュリティの穴」が発見される事象が増えているようにも感じます。実際、サイバー攻撃を仕掛ける側もAIを活用し、従来とは異なる脅威が生まれているのではないでしょうか。

今回は、AIとセキュリティについて考えてみます。

これまでのセキュリティ対策

これまでのセキュリティ対策といえば、ウイルス対策ソフトやファイアウォールなどを利用して、外部からの不正なアクセスやウイルスの侵入を防ぐことが中心でした。また、ソフトウェアの脆弱性が発見されるたびに修正プログラムを適用するなど、日々の対応も重要とされてきました。

しかし、攻撃の手口は年々巧妙になっており、こうした対策だけでは防ぎきれないケースも増えています。特に、未知の脆弱性を狙った攻撃や、人間の判断ミスを利用した攻撃への対応は、以前から大きな課題となっています。

AIの登場によるセキュリティの変化

AIの登場によって、サイバー攻撃の手法にも大きな変化が生まれています。

これまでは専門的な知識や技術が必要だった攻撃も、AIを活用することで、比較的容易に実行できる可能性が出てきました。例えば、AIを利用してシステムの脆弱性を探したり、自然な日本語で巧妙な詐欺メールを作成したりすることも可能になっています。また、攻撃の準備にかかる時間が短縮され、より多くの対象に攻撃を仕掛けやすくなることも懸念されています。

一方で、セキュリティを守る側もAIを活用し、不審な通信や通常とは異なる動きを早期に発見する技術が進歩しています。今後は、AIを利用した攻撃と、それをAIで防ぐ技術の競争が、ますます激しくなっていくのではないでしょうか。

AIの登場によって実際に何が起こったか

ここで、実際にAIの登場によって起こった事件を調べてみました。

事例① ディープフェイクによる巨額詐欺

2024年、香港の企業で、AIを利用して上司や同僚の映像・音声を偽造し、ビデオ会議で財務担当者をだます事件が発生しました。

担当者は偽の上司からの指示を本物と信じ込み、約2億香港ドル（当時約38億円）を送金してしまったようです。AIによって映像や音声まで偽造できるようになり、本人確認の難しさが浮き彫りになった事件といえます。

参考：会計担当が３８億円を詐欺グループに送金、ビデオ会議のＣＦＯは偽物　香港 - CNN.co.jp

事例② AIによるフィッシングの高度化

AIを利用して、自然な文章の詐欺メールを大量に作成するなど、フィッシング攻撃の高度化も進んでいます。

カナダのサイバーセキュリティ当局は、AIによって標的に合わせた説得力のあるメールが作成され、従来よりも詐欺を見抜くことが難しくなっていると指摘しています。これまでは不自然な日本語などから詐欺に気づくこともありましたが、今後は文章だけで本物かどうかを判断することが、ますます難しくなりそうです。

参考：AIセーフティに関する具体的な影響の調査報告書

このような事例からも、「AIが実際に被害を生んでいること」と「攻撃の方法そのものが変化していること」がわかります。さらに、攻撃に必要な情報収集やプログラムの作成にもAIが利用されるようになり、攻撃の効率化が懸念されています。今後は従来の知識や経験だけでサイバー攻撃を見抜くことは、ますます難しくなっているのではないでしょうか。

今後予想されるセキュリティの脅威

今後、AIのさらなる進歩によって、サイバー攻撃はますます高度化していくと考えられます。

例えば、AIが企業のWebサイトやシステムを自動的に調査し、脆弱性を発見すると、その弱点に合わせた攻撃プログラムを短時間で作成するといったことが考えられます。また、企業のホームページやSNSなどから情報を収集し、特定の社員や取引先になりすましたメールを自動的に作成するなど、標的に合わせた攻撃が増える可能性もあります。さらに、AIによって偽造された映像や音声を利用し、経営者になりすまして送金を指示したり、社員を装って機密情報を聞き出したりする手口も、より巧妙になっていくでしょう。将来的には、AIが攻撃の準備から実行までの多くの作業を自動化し、複数の企業に対して同時に攻撃を仕掛けるようなケースも想定されます。

こうした攻撃が一般化すると、これまで以上に短い時間で被害が拡大し、企業が攻撃に気づいたときには、すでに大量の情報が流出しているといった事態も起こり得ます。AIによって攻撃の規模と速度が大きく変わることで、従来のセキュリティ対策だけでは対応が難しい場面が、今後さらに増えていくのではないでしょうか。

まさにAIによる攻撃の自動化と、攻撃・防御のスピード競争となっていくでしょう。

また、AI開発企業のAnthropic（アンソロピック）社は、2026年10月、IPO（新規株式公開）に向けた書類の中で、AIが人間の意図に反した行動を取る危険性について警告しています。実際に同社のテストでは、AIが外部システムにアクセスし、管理者権限を取得して設定を変更するなど、想定外の行動を取った事例も報告されています。

今後、AIの自律性がさらに高まることで、人間が十分に監視・制御できないまま、重大なセキュリティ上の問題が発生する可能性も懸念されています。