迅速に異常を特定したり、時間のかかるタスクを自動化したり、サイバー防御を強化する上で大きな可能性を秘めている。AIは、攻撃者の能力アップにも悪用される。今日、それが急速な脅威の変化を生み出しているという。
トレンドマイクロは今月、法人組織におけるAI利用とリスクに関するグローバル調査の結果を発表した。同調査で、法人の81%（日本81％）がすでにサイバーセキュリティ戦略の一環としてAIツールを使っていて、さらに16％（同14％）が導入を積極的に検討していることが明らかになった。また、過半の法人において、資産管理の自動化、リスクの優先順位付け、異常検知などの重要プロセスにAIを活用中であることが分かった。
回答者のほぼ全員がそれらのプロセスにおけるAI利用に前向きだった。AIと自動化の採用は今後12か月でサイバーセキュリティ改善の最優先事項だと42%が回答。一方で、重大なリスクを懸念している。94%（同90％）の法人が、今後3〜5年以内にAIがアタックサーフェスに悪影響を及ぼすと考えている。
さらに過半の法人は、AI悪用系サイバー攻撃の規模や複雑さの急増を予想し、既存サイバーセキュリティ戦略の再考や再構築の必要があるとした。多くの回答者は、機密データの露出リスク、AIシステムによるデータの処理と保存方法に関する不確実性、信頼できないモデルによる独自データの悪用の可能性、新しいエンドポイントやAPI、シャドーITなどの増加から生じるコンプライアンスへの圧力と監視の課題を指摘している。
新たな技術の導入とそれがもたらすリスクとの緊張は、ハッキングコンテストPwn2Own Berlin 2025でも示された。AIが法人IT環境に浸透する現状を受けて、同社はセキュリティリーダーへ、進化するリスクの積極分析・評価と、AI導入時のあらゆる段階での厳格なセキュリティ対策実施を強く提案しているという。