KELAは、「2025年版AI脅威レポート：サイバー犯罪者はいかにAI技術を兵器化しているか」を公開しました。
KELA「2025年版AI脅威レポート」
KELAは、「2025年版AI脅威レポート：サイバー犯罪者はいかにAI技術を兵器化しているか」を公開。
このレポートは、KELAが観察した過去1年間のサイバー犯罪者の活動に関する情報をまとめたもので、企業や組織がAIによる新しいサイバー脅威を理解し、リスク管理するためのガイドとして活用できます。
サイバー犯罪者は、ジェイルブレイク手法などを用いてChatGPT、Gemini、DeepSeek、Claudeなどの生成AIアプリケーションのセキュリティ制限を回避し、ユーザーの機密データにアクセスしてそれを盗み出しますが、KELAは、過去1年間、新しいバージョンがリリースされるたびに、サイバー犯罪コミュニティでジェイルブレイクテクニックを共有して広めているのを観察してきました。
また、WormGPT、FraudGPTなどのサイバー犯罪向けダークAIツールにより、フィッシング、マルウェア作成を自動化するなど、サイバー犯罪者は、AIを活用して犯罪手口を急速に高度化させていますが、サイバー犯罪フォーラムでこれらの悪意あるAIツールに関する言及が2024年は前年比で200％増加しました。
◆「2025年版AI脅威レポート」注目すべきポイント
●ジェイルブレイク手法が急速に進化：
脅威アクターは、AIシステムのセキュリティ制限を回避するためのジェイルブレイク手法を継続的に改良しています。
2024年は、ジェイルブレイク手法に関するサイバー犯罪フォーラムでの議論が、前年比で52％増加したことを確認しました。
●サイバー犯罪フォーラムでのAI活用が急増：
KELAのサイバー脅威インテリジェンスプラットフォームでは、悪意あるAIツールや手法に関する言及が2024年は2023年と比較して200％増加しており、AIを活用したサイバー犯罪のアンダーグラウンド市場が拡大していることが浮き彫りになっています。
●ダークAIツールの拡散：
サイバー犯罪者は、ジェイルブレイク済みのAIモデルや、WormGPT、FraudGPTなどのサイバー犯罪向けAIツールを配布・販売しており、フィッシング、マルウェア作成、詐欺行為を自動化しています。
●AIを活用したフィッシングキャンペーンがますます高度化：
AIによって生成されたフィッシングおよびソーシャルエンジニアリング手法は効果が高まっており、ディープフェイク技術を用いて経営幹部になりすまし、従業員に不正取引を実行させるケースが増えています。
●マルウェア開発の効率化：
脅威アクターはAIツールを活用し、大量の高度かつ回避性の高いマルウェア(ランサムウェアや情報窃取型マルウェアを含む)を生成しており、セキュリティチームによる検知と対処が一層困難になっています。
