Explorer les cybermenaces et renforcer les moyens de défense à l’ère de l’IA

Aujourd'hui, le monde de la cybersécurité est en pleine transformation. L'intelligence artificielle est à la tête de cette évolution, constituant à la fois une menace et une opportunité. Si l'IA peut permettre aux organisations de déjouer les cyberattaques à la vitesse de la machine et favoriser l'innovation, l'efficacité de la détection des menaces, le repérage et la réponse aux incidents. Les adversaires peuvent eux aussi l'utiliser pour exploiter les failles. Il n'a jamais été aussi essentiel pour nous de concevoir, de déployer et d'utiliser l'IA en toute sécurité.

Chez Microsoft, nous exploitons le potentiel de l'IA pour renforcer nos mesures de sécurité, débloquer des protections nouvelles et avancées, ainsi que pour créer de meilleurs logiciels. Grâce à l'IA, nous avons le pouvoir de nous adapter à l'évolution des menaces, de détecter instantanément les anomalies, de réagir rapidement pour neutraliser les risques et d'adapter les défenses aux besoins d'une organisation.

L'IA peut également nous aider à relever un autre des plus grands défis du secteur. Face à la pénurie mondiale de main-d’œuvre dans le domaine de la cybersécurité, avec environ 4 millions de professionnels de la cybersécurité nécessaires dans le monde, l’IA a le potentiel d’être un outil essentiel pour combler le manque de personnel et aider les défenseurs à être plus productifs.

Nous avons déjà vu dans une étude comment Microsoft Security Copilot peut aider les analystes en sécurité, quel que soit leur niveau d’expertise. Pour toutes les tâches, les participants étaient 44 % plus précis et 26 % plus rapides.

Alors que nous cherchons à sécuriser l’avenir, nous devons veiller à trouver un équilibre entre être préparé à l’IA et exploiter ses avantages, car l’IA a le pouvoir d’élever le potentiel humain et de résoudre certains de nos défis les plus importants.

Un avenir plus sûr grâce à l'IA nécessite des avancées fondamentales dans le domaine du génie logiciel. Cela nous oblige à comprendre et à contrer les menaces que représente l'IA en tant qu'éléments essentiels de toute stratégie de sécurité. Nous devons travailler ensemble pour mettre en place une collaboration et des partenariats approfondis entre les secteurs public et privé afin de lutter contre les personnes malveillantes.

Dans le cadre de cet effort et de notre propre initiative Secure Future, OpenAI et Microsoft publient aujourd'hui de nouveaux renseignements détaillant les tentatives des acteurs de la menace de tester et d'explorer l'utilité des grands modèles de langage (LLM) dans les techniques d'attaque.

Nous œuvrons tous pour construire un avenir plus sûr, c’est pour cela que nous espérons que ces informations seront utiles à tous les secteurs d'activité. Parce qu'en fin de compte, nous souhaitons tous nous défendre.

Regardez le briefing numérique de Cyber Signals où Vasu Jakkal, vice-présidente de l’Entreprise Sécurité Microsoft, interroge les principaux experts en veille des cybermenaces à l’ère de l’IA sur les façons dont Microsoft utilise l’IA pour améliorer la sécurité, et ce que les organisations peuvent faire pour aider à renforcer la défense.

La cybermenace est un domaine de plus en plus offensif, les attaquants étant de plus en plus motivés, de plus en plus sophistiqués et disposant de ressources de plus en plus performantes. Les acteurs de la menace, tout comme les défenseurs, se tournent vers l'IA, y compris les grands modèles de langage, pour améliorer leur productivité et tirer parti de plateformes accessibles qui pourraient correspondre à leurs objectifs et à leurs techniques d'attaque.

Compte tenu de l'évolution rapide des menaces, nous annonçons aujourd'hui les principes de Microsoft qui guident nos actions visant à atténuer le risque que les acteurs de la menace, y compris les menaces avancées persistantes (APT), les manipulateurs avancés persistants (APM) et les syndicats de cybercriminels, utilisent des plateformes d'IA et des API. Ces principes comprennent l'identification et la lutte contre l'utilisation de l'IA par des acteurs de la menace malveillants, la notification à d'autres fournisseurs de services d'IA, la collaboration avec d'autres parties prenantes et la transparence.

Bien que les motivations et la sophistication des acteurs de la menace varient, ils ont des tâches communes lorsqu'ils déploient des attaques. Il s'agit notamment de la reconnaissance, comme la recherche des secteurs d'activité, des lieux et des relations des victimes potentielles, mais aussi du codage, y compris l'amélioration des scripts logiciels et le développement de logiciels malveillants, et enfin de l'aide à l'apprentissage et à l'utilisation des langages humains et des langages machine.

En collaboration avec OpenAI, nous partageons des renseignements sur les menaces qui montrent que des adversaires affiliés à l'État ont été détectés, sous les noms de Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon et Salmon Typhoon, et qu'ils utilisent des grands modèles de langage pour renforcer les cyber-opérations.

L'objectif du partenariat de recherche de Microsoft avec OpenAI est de garantir une utilisation sûre et responsable des technologies d'IA comme ChatGPT, en respectant les normes les plus strictes en matière d'application éthique afin de protéger la communauté d'une éventuelle utilisation abusive.

L'utilisation de grands modèles de langage par Emerald Sleet impliquait des recherches sur les groupes de réflexion et les experts de la Corée du Nord, ainsi que la génération de contenu susceptible d'être utilisé dans des campagnes d’harponnage. Emerald Sleet a également interagi avec les grands modèles de langage pour comprendre les vulnérabilités connues du public, résoudre les problèmes techniques et obtenir de l'aide pour l'utilisation de diverses technologies web.

Un autre groupe soutenu par la Chine, Salmon Typhoon, a évalué l'efficacité de l'utilisation des grands modèles de langage tout au long de l'année 2023 pour obtenir des informations sur des sujets potentiellement sensibles, des particuliers prestigieux, la géopolitique régionale, l'influence des États-Unis et les affaires internes. Cet engagement provisoire avec les grands modèles de langage pourrait refléter à la fois un élargissement de sa panoplie d'outils de collecte de renseignements et une phase expérimentale d'évaluation des capacités des technologies émergentes.

Nous avons pris des mesures pour perturber les ressources et les comptes associés à ces acteurs de la menace et façonner les garde-fous et les mécanismes de sécurité autour de nos modèles.

La fraude par IA est une autre préoccupation essentielle. La synthèse vocale en est un exemple : un échantillon de voix de trois secondes permet d'entraîner un modèle à avoir la voix de n'importe qui. Même quelque chose d'aussi anodin que le message d'accueil de votre boîte vocale peut être utilisé pour obtenir un échantillon suffisant.

Une grande partie de nos interactions et de nos relations commerciales reposent sur la vérification d'identité, comme la reconnaissance de la voix, du visage, de l'adresse e-mail ou du style d'écriture d'une personne.

Il est essentiel que nous comprenions comment les acteurs malveillants utilisent l'IA pour compromettre les systèmes de vérification d'identité en place depuis longtemps, afin que nous puissions lutter contre les fraudes complexes et à d'autres menaces émergentes de piratage psychologique qui obscurcissent les identités.

L'IA peut également être utilisée pour aider les entreprises à déjouer les tentatives de fraude. Bien que Microsoft ait mis fin à notre engagement avec une entreprise brésilienne, nos systèmes d'IA ont détecté ses tentatives de reconstitution pour réintégrer notre écosystème.

Le groupe a continuellement tenté d'obfusquer ses informations, de dissimuler ses propriétés et de se réinscrire, mais nos détections d'IA ont utilisé près d'une douzaine de signaux de risque pour marquer l'entreprise frauduleuse et l'associer à un comportement suspect précédemment reconnu, bloquant ainsi ses tentatives.

Microsoft s'est engagée à faire en sorte que l' IA dirigée par des êtres humains soit responsable et que la protection de la vie privée et la sécurité soient assurées par des êtres humains qui supervisent, évaluent les recours et interprètent les politiques et les réglementations.

Les outils traditionnels ne sont plus à la hauteur des menaces liées aux cybercriminels. La rapidité, l'ampleur et la sophistication croissantes des cyberattaques récentes exigent une nouvelle approche de la sécurité. En outre, compte tenu de la pénurie de main-d’œuvre dans le domaine de la cybersécurité et de l’augmentation de la fréquence et de la gravité des cybermenaces, il est urgent de combler ce manque.

L’IA peut faire pencher la balance du côté des défenseurs. Une étude récente de Microsoft Security Copilot (actuellement en phase d’aperçu client) a montré une augmentation de la vitesse et de la précision des analystes de sécurité, quel que soit leur niveau d’expertise, pour des tâches courantes telles que l’identification des scripts utilisés par les attaquants, la création de rapports d’incidents et l’identification des mesures correctives appropriées^.1