AI の時代においてサイバー脅威を乗り切り、防御を強化する

現在、サイバーセキュリティの世界は大きな変革期を迎えています。人工知能 (AI) はこの変化の最前線にあり、脅威と機会の両方をもたらしています。AI は、組織がマシンのスピードでサイバー攻撃を撃退し、脅威検出、ハンティング、インシデント対応におけるイノベーションと効率化を促進する可能性を秘めている一方で、敵対者が AI を悪用する可能性もあります。AI を安全に設計、導入、使用することが、かつてないほど重要になっています。

Microsoft では、セキュリティ対策を強化し、新しい高度な保護を解き放ち、より優れたソフトウェアを構築するための、AI の可能性を追求しています。AI を活用することで、進化する脅威に適応し、異常を即座に検出し、リスクを無効化するために迅速に対応し、組織のニーズに合わせて防御策を調整することができます。

AI はまた、この業界最大の課題のひとつを克服する助けにもなります。世界中で約 400 万人のサイバーセキュリティの専門家が必要とされており、世界的なサイバーセキュリティの人材不足に直面する中、AI は人材のギャップを解消し、防衛担当者の生産性を向上させるためのきわめて重要なツールとなる可能性を秘めています。

Microsoft は既に、 Microsoft Security Copilot があらゆる専門知識のレベルのセキュリティ アナリストを支援できることを、ある調査で確認しています。あらゆるタスクにおいて、参加者の精度は 44%、作業スピードは 26% 向上しました。

私たちは未来の安全を確保するために、AI に対する安全な準備とそのメリットの活用を両立させる必要があります。AI には人間の可能性を高め、最も深刻な課題を解決する力があるからです。

AI を利用した安全な未来には、ソフトウェア エンジニアリングの根本的な進歩が必要です。そのためには、あらゆるセキュリティ戦略の不可欠な要素として、AI ドリブンの脅威を理解し、それに対処する必要があります。そして、悪質なアクター達と戦うため、協力し合って、官民を超えた深いコラボレーションとパートナーシップを構築する必要があります。

この取り組みと Microsoft 自身の Secure Future Initiative の一環として、OpenAI と Microsoft は本日、攻撃テクニックにおける大規模言語モデル (LLM) の有用性をテストして探求しようとする脅威アクターの試みを詳しく説明した、新たなインテリジェンスを発表します。

この情報が、より安全な未来に向けて私たち全員が取り組む中で、業界を超えて役立つことを願っています。結局のところ、私たちは皆、防衛者なのですから。

Vasu Jakkal (Corporate Vice President of Microsoft Security Business) が、AI 時代のサイバー脅威、Microsoft がセキュリティ強化のために AI を活用する方法、防御強化のために組織ができることについて、主要な脅威インテリジェンスの専門家にインタビューした Cyber Signals のデジタル ブリーフィングをご覧ください。

サイバー脅威の状況は、攻撃者がよりモチベーションを高め、より巧妙化され、より優れたリソースを持つようになったことで、ますます困難になっています。脅威アクターも防御担当者も同様に、LLM をはじめとする AI に注目しており、生産性を高め、目的や攻撃テクニックに適した利用しやすいプラットフォームを活用しようとしています。

急速に進化する脅威の状況を踏まえ、Microsoft は本日、高度持続的攻撃 (APT)、高度持続的マニピュレータ (APM)、サイバー犯罪シンジケートを含む脅威アクターに AI プラットフォームや API を使用されるリスクを軽減するための行動の指針となる、Microsoft の原則を発表します。これらの原則には、悪意のある脅威アクターによる AI の使用の特定とそれに対応する行動、他の AI サービス プロバイダーへの通知、他の利害関係者とのコラボレーション、透明性などが含まれます。

脅威アクターの動機や巧妙さはさまざまですが、攻撃を展開する際のタスクは共通しています。これには、潜在的な被害者の業種、場所、関係性の調査などの偵察、ソフトウェア スクリプトの改善やマルウェアの開発などのコーディング、人間と機械両方の言語の学習と使用の支援などが含まれます。

OpenAI とのコラボレーションにより、Microsoft は、Forest Blizzard、Emerald Sleet、Crimson Sandstorm、Charcoal Typhoon、Salmon Typhoon として追跡されている国家系敵対者が、LLM を使用してサイバー作戦を強化していることを示す脅威インテリジェンスを共有しています。

Microsoft の OpenAI との研究パートナーシップの目的は、ChatGPT のような AI テクノロジの安全で責任ある使用を保証し、潜在的な悪用からコミュニティを保護するために倫理的な最高の適用基準を支持することです。

Emerald Sleet の LLM の使用には、北朝鮮に関するシンクタンクや専門家の調査、スピア フィッシング キャンペーンで使用される可能性の高いコンテンツの作成が含まれていました。また Emerald Sleet は LLM を操作して、公開されている脆弱性を把握し、技術的な問題をトラブルシューティングし、さまざまな Web テクノロジの使用に役立てていました。

中国が支援するもう 1 つのグループ、 Salmon Typhoon は、2023 年を通じて LLM を利用し、潜在的に機密性の高いトピック、知名度の高い人物、地域の地政学、米国の影響力、内政に関する情報を入手する有効性を評価しています。仮の話ではありますが、この LLM との関連性は、彼らのインテリジェンス収集ツールキットの幅を広げること、および新たなテクノロジの能力を評価するという実験的段階の両方を反映している可能性があります。

Microsoft と OpenAI の調査 では、注意深く監視している LLM を使った重大な攻撃は確認されていません。

Microsoft は、これらの脅威アクターに関連するアセットとアカウントを妨害し、Microsoft のモデルの周りのガードレールと安全のメカニズムを形成するための対策を講じてきました。

AI を利用した詐欺も重大な懸念事項です。音声合成はそのひとつの例で、3 秒間の音声サンプルがあれば、誰の声にも聞こえるようにモデルをトレーニングすることができます。ボイスメールの挨拶のような無害なものでさえ、十分なサンプリングを得るために使用することができます。

私たちがお互いに交流を深め、ビジネスを行っている方法の多くは、人の声、顔、メール アドレス、文体の認識などの 身元確認に依存しています。

複雑な詐欺事件や、身元をあいまいにするその他の新たなソーシャル エンジニアリングの脅威に対処できるよう、悪意のあるアクターがどのように AI を利用して長年の身元確認システムを弱体化させているかを理解することがきわめて重要です。

AI はまた、企業が詐欺の試みを阻止するのにも利用できます。Microsoft はブラジルのある企業との契約を打ち切りましたが、Microsoft の AI システムは、その企業が Microsoft のエコシステムに再び参入するために自身を再構成しようとしていることを検知しました。

このグループは継続的に情報を難読化し、所有権のルーツを隠し、再参入を試みていましたが、Microsoft の AI 検出は、おおよそ 12 個のリスク シグナルを使用して、詐欺的な企業にフラグを立て、以前に認識された疑わしい行動と関連付けることで、その試みを阻止しました。

Microsoft は、人間が監視、訴えの評価、ポリシーや規制の解釈を行うことで、プライバシーとセキュリティを特徴とする 人間主導の責任ある AI  をお約束しています。

従来のツールでは、サイバー犯罪者がもたらす脅威には追いつけません。最近のサイバー攻撃のスピード、規模、巧妙さは増しており、セキュリティに対する新たなアプローチが求められています。さらに、サイバーセキュリティの人材不足と、サイバー脅威の頻度と深刻さが増していることから、このスキル ギャップを埋めることが急務となっています。

AI は、防御側を優位に立たせることができます。Microsoft Security Copilot (現在、カスタマー プレビュー テスト中) の最近の調査では、攻撃者が使用するスクリプトの特定、インシデント レポートの作成、適切な修復手順の特定といった一般的なタスクにおいて、専門知識のレベルにかかわらず、セキュリティ アナリストの作業速度と精度が向上していることが示されました^。1