Meta met en lumière les tendances de désinformation basées sur la détection en 2024

Meta, la maison mère de Facebook et Instagram, vient de publier son dernier rapport sur les menaces adverses, intitulé « Adversarial Threat Report ». Ce document met en lumière les comportements d’influence coordonnés détectés sur ses applications en 2024, ainsi que les principales tendances observées par l’équipe de Meta tout au long de l’année. Des informations précieuses pour mieux comprendre l’évolution du paysage mondial des menaces en matière de cybersécurité.

La Russie, premier pays source de campagnes d’influence

Sans grande surprise, le rapport souligne que la majorité des efforts d’influence coordonnés continuent de provenir de Russie. Les opérateurs russes cherchent activement à infléchir les récits mondiaux en leur faveur. Comme le précise Meta :

La Russie reste la première source de réseaux mondiaux de comportements d’influence cachés (CIB) que nous avons perturbés à ce jour depuis 2017, avec 39 opérations d’influence secrètes. Les sources étrangères d’ingérence les plus fréquentes ensuite sont l’Iran, avec 31 réseaux CIB, et la Chine, avec 11.

Les opérations d’influence russes se sont concentrées sur l’ingérence dans les élections locales et la diffusion de messages pro-Kremlin en relation avec l’Ukraine. L’ampleur des activités provenant de sources russes souligne une préoccupation constante et montre que les opérateurs russes restent déterminés à manipuler l’information partout où ils le peuvent, afin de renforcer la position mondiale de leur pays.

L’IA au service de la manipulation, mais pas encore

Meta partage également des observations sur l’utilisation croissante de l’intelligence artificielle dans les campagnes de manipulation coordonnées. Ou plutôt, sur le manque relatif d’utilisation à ce stade. Comme l’indique le rapport :

Nos résultats suggèrent jusqu’à présent que les tactiques basées sur l’IA générative n’ont fourni que des gains de productivité et de génération de contenu incrémentaux aux acteurs de la menace, et n’ont pas entravé notre capacité à perturber leurs opérations d’influence secrètes.

Selon Meta, l’IA a été le plus souvent utilisée par les acteurs malveillants pour générer des portraits pour de faux profils, ce que ses derniers systèmes peuvent largement détecter, ainsi que des « marques d’actualités fictives publiant des lecteurs de nouvelles vidéo générés par l’IA sur Internet ». Les outils d’IA avancés rendront ces éléments encore plus difficiles à identifier, en particulier du côté vidéo. Mais il est intéressant de noter que les outils d’IA n’ont pas encore fourni le coup de pouce espéré aux escrocs en ligne.

Les réseaux de manipulation actifs sur de multiples plateformes

Meta note également que la plupart des réseaux de manipulation détectés utilisaient également diverses autres plateformes sociales, notamment YouTube, TikTok, X (anciennement Twitter), Telegram, Reddit, Medium et Pinterest.

Nous avons vu un certain nombre d’opérations d’influence transférer une grande partie de leurs activités vers des plateformes dotées de moins de garanties. Par exemple, des vidéos fictives sur les élections américaines – qui ont été évaluées par la communauté du renseignement américain comme étant liées à des acteurs d’influence basés en Russie – ont été diffusées sur X et Telegram.

La mention de X est notable, car la plateforme détenue par Elon Musk a apporté des changements significatifs à ses processus de détection et de modération, ce qui, selon divers rapports, a facilité ce type d’activité dans l’application.

Meta partage des données pour une meilleure application

Meta partage les données sur ses découvertes avec d’autres plateformes pour aider à mieux faire appliquer ces activités, bien que X soit absent de nombreux de ces groupes. Il semble donc que Meta jette un peu d’ombre sur X ici, en le soulignant comme une préoccupation potentielle, en raison de ses garanties réduites.

Ce rapport offre un aperçu intéressant du paysage actuel de la cybersécurité, en ce qui concerne les applications de médias sociaux, et des principaux acteurs cherchant à manipuler les utilisateurs avec de telles tactiques.

Ces tendances ne sont pas surprenantes, puisque ce sont depuis longtemps les mêmes nations qui mènent le changement sur ce front. Mais il est important de noter que de telles initiatives ne s’atténuent pas et que des acteurs étatiques continuent de manipuler les informations et les actualités dans les applications sociales pour servir leurs propres intérêts.

Vous pouvez lire le rapport complet sur les menaces adverses du troisième trimestre de Meta ici.