編集部
サイバーセキュリティの現場において、生成AIの台頭が攻撃と防御の両面で急速な変革をもたらしている。カプジェミニリサーチインスティテュートの調査によれば、昨年だけで90%以上の企業がセキュリティ侵害を経験しており、その多くが生成AIを悪用した高度な攻撃に直面したという。
このような脅威は、マルウェア生成やソーシャルエンジニアリングをはじめ、プロンプトインジェクションやAI統合アプリケーションの脆弱性悪用に至るまで多岐にわたる。
一方で、生成AIは脅威インテリジェンスの分析や脆弱性評価、セキュリティ運用センターの強化といった分野での活用が進み、組織の防御力向上にも貢献している。今後、企業は生成AIを活用する明確な戦略を構築し、リスクの継続的な評価やポリシーの整備、従業員トレーニングを通じて、安全性を維持しつつ競争力を強化する必要がある。
生成AIによる攻撃の多様化とその背後にあるリスク
生成AIを駆使した攻撃が多様化する中、特に注目されるのがマルウェアの自動生成とフィッシング攻撃の巧妙化である。カプジェミニリサーチインスティテュートの調査では、97％の企業が生成AIに関連するセキュリティインシデントを経験しており、その多くは攻撃者が生成AIを用いて従来以上にリアルで説得力のある手法を採用していることが要因である。ディープフェイク技術を用いたなりすましや、AIを悪用した高度なソーシャルエンジニアリングは、攻撃者の成功率を飛躍的に高めている。
さらに、プロンプトインジェクションやシャドウAIといった新しいリスクが浮上している。これらの手法では、AIの予測や動作を意図的に操ることによって、セキュリティバリアを迂回することが可能となる。生成AIの進化は、防御側にとって極めて予測困難な脅威を生み出しているといえよう。
こうした状況において、企業が注目すべきは生成AIによる攻撃が単に技術的な脅威にとどまらず、人的要因を含む広範なセキュリティリスクとして拡大している点である。AIの悪用を防ぐためには、技術的な対策に加え、従業員の教育や組織全体のセキュリティ文化の醸成が不可欠であるといえる。
防御の最前線に立つAI活用の現状
攻撃が高度化する一方で、防御の最前線に立つAI技術が急速に進化している。カプジェミニの報告によれば、60％以上の企業がAIを脅威に対抗する鍵と位置付けている。特に、生成AIを活用した脅威インテリジェンスの分析は、従来の方法では検知が困難であった未知のリスクを特定する手段として注目されている。
生成AIは、脆弱性の評価や攻撃シミュレーションの精度を高めることにも貢献している。たとえば、セキュリティ運用センター（SOC）の機能強化では、AIが日々の膨大なセキュリティログを解析し、迅速かつ正確な異常検知を実現する。これにより、サイバー攻撃が発生する前に対応する「予防型セキュリティ」の実現が加速している。
ただし、AIに完全に依存することにはリスクも伴う。モデルに内在するバイアスや、不正利用される可能性を最小限に抑えるためには、生成AIのライフサイクル全体を通じた厳密な監視と管理が求められる。これには、適切なデータ管理やモデルの透明性確保が重要な要素として挙げられる。
今後の課題と企業の取るべき行動
AIと生成AIの進化がセキュリティ戦略を革新する中、企業が直面する課題も複雑化している。まず重要なのは、生成AIをセキュリティ戦略に統合する明確なビジョンを持つことである。単発的な導入ではリスクを管理しきれず、結果としてコストがかさむ恐れがある。
また、必要なインフラの整備も欠かせない。高度なデータ管理システムやクラウドコンピューティングリソースを活用することで、生成AIの能力を最大限に引き出す環境を構築する必要がある。これに加え、データガバナンスを徹底し、AIを安全かつ倫理的に運用するためのポリシーを策定することが急務である。
さらに、組織のリスク認識を高めるための従業員教育も見逃せない。生成AIがもたらす脅威は、技術的な防御策だけでは対処できない場合も多い。現場の社員が最新の脅威に関する知識を身に付け、リスクに即応できる体制を構築することが、企業の防御力を高める鍵となるだろう。