生成AIがサイバーセキュリティに及ぼす影響とは？

人工知能（AI）の活用は、従来のツールでは実現できなかったセキュリティ機能を実現できるかもしれません。これから多くのセキュリティ製品がAI技術を採用し、サイバー攻撃の早期発見や起こりうる脅威を予測しやすくなるでしょう。しかし、攻撃者側もAIを駆使して、さらに高度な攻撃を仕掛けてくるリスクも高まっています。

この記事では、AIがサイバーセキュリティに及ぼす影響や、セキュリティ担当者がその影響を前もって理解して対策する必要性をご説明します。また、どのようにAIが攻撃に利用されるかについてもご紹介します。

AIが悪用される可能性に注意しつつも、AIを活用すればこれからのセキュリティの脅威に対しても事前に予測・対応することができます。そして、重要なシステム、API、データを確実に守ることが可能になります。

サイバーセキュリティでAIが活用される4つのパターン

AIを使えば、サイバーセキュリティのツールはルールベースに比べて大量のデータから学習し、より正しい選択を行うことができるようになります。以下に具体的なケースを紹介します：

1. 自然言語でのリアルタイムのやりとり：システムと自然言語でやりとりできれば、製品特有のクエリや言語を習得する時間を減らせます。例えば、Log4jを使ったゼロデイ攻撃に対応するような場合に有効です。今後12～24ヶ月の間に多くの製品にこのような機能が搭載されるでしょう。
2. インシデント検知・対応能力の向上：インシデントの検知や対応で強化学習のアルゴリズムを用いれば、異常なパターンをより早く・正確に特定することができます。さらに、検出されたパターンを分析し、自動的に適切な対応が行われることで、将来的なインシデントの数を低減させることができます。例えば、悪質なシステムのIPアドレスのブロック、ウィルス感染時に影響を受けるシステムの自動隔離、インシデント対応プロセスの自動化などが考えられます。
3. 誤検知の削減とワークフローの効率化：AIによる学習によって、間違った警告を減らし、これまで以上に正確に脅威の特定が行えるようになります。セキュリティ担当者は本当に必要な課題に集中することができ、チーム全体の作業が効率化されるでしょう。
4. ルーチン作業の自動化：ネットワークの監視などの時間がかかる作業をAIに任せることができます。さらに、脆弱性を探し出すテスト（ファジング）なども効率的に行えるようになり、開発チームが脆弱性を探す工程をサポートしてくれます。

生成AIがサイバー犯罪に使われる5つのパターン

AIはセキュリティ機能を向上してくれますが、悪用される可能性もあります。ハッカーがAIを駆使することで、これまで以上に高度なサイバー攻撃を企業に対して行うことも予想されます。ここでは、AIが悪用される具体的なパターンをいくつか紹介します：

1. フィッシング攻撃：サイバー攻撃の最初の段階として、ネットワークにアクセスするために使われます。これまでは、メールなどに記載されている文章の不自然さやドメインの間違いなどから見抜くことができました。しかし、生成AIによってこのような不自然さが無くなり、フィッシング攻撃を回避するのが難しくなるでしょう。
2. 脆弱性の自動発見：市販ソフトウェアのリバースエンジニアリングやオープンソースの脆弱性を発見しやすくなります。例えば、過去にあった、MOVEitのゼロデイ攻撃などと似たケースが増えていくでしょう。生成AIはまだ進化している段階ですが、ハッカーたちに利用されることで脆弱性の探知・攻撃がさらに早く進展する可能性もあるでしょう。
3. セキュリティ対策の回避：これまでのマルウェアのサンプルを学習し、アンチウイルスソフトウェアや他のセキュリティ対策を回避するタイプのマルウェアを作り出すことも可能になります。以前よりもマルウェア検出やそのブロックが難しくなるリスクが考えられます。
4. ディープフェイク：2022年のImperva社のアンケート調査では、一般ユーザにとってディープフェイク動画が一番の懸念事項だという結果が出ています。生成AIを使えば、個人情報やネットやSNSから収集したデータや音声、写真を組み合わせて、実物と見間違えるようなディープフェイク動画を作り上げることができます。こうして偽情報が広まるリスクも高まるでしょう。
5. 高度なボットの生成：2023年のImperva社の報告によれば、インターネットトラフィックの約30%が、ウェブサイトやモバイルアプリ、APIに対する攻撃を行う悪質なボットによるものです。生成AIの技術で、CAPTCHAなどのセキュリティ対策ツールがボットに回避されることも増えるでしょう。2024年にはインターネットのトラフィックの大部分はボットによるものになる可能性があります。

AIを活用したサイバーセキュリティにどう対応していくか

AIの進化がサイバーセキュリティにもたらす影響は軽視できません。技術が急速に進む中で、アプリケーションやデータを守るために、AIがもたらすメリットもセキュリティ担当者は検討するべきです。新しいセキュリティツールへの投資や、セキュリティ意識を高める社内への教育、専門会社との協力などを検討する必要があります。

その中で最も大切なことは、AIがサイバーセキュリティに及ぼすメリットとデメリットを理解し、うまく活用することです。前向きに取り組むことで、新しいリスクに早期に対応でき、デジタルセキュリティを強化し企業のデジタル資産を守ることができます。

今後のサイバーセキュリティには、これまで以上にアイデアと適応力が必要とされます。そのため、迅速かつ積極的なアクションを続けることが大切になっていきます。