Source des images : Getty
Introduction
Les jeux vidéo se sont transformés en vastes réseaux numériques reliant des milliards de personnes dans le monde. Cependant, cette expansion rapide s’accompagne d’une réalité inquiétante. Les organisations terroristes et les groupes extrémistes exploitent progressivement les plateformes de jeux pour piéger les individus crédules en abusant des plateformes de jeux en ligne et en contournant les barrières géographiques pour impliquer les jeunes du monde entier.
À l’échelle mondiale, les jeux en ligne ont considérablement augmenté suite à la pandémie de COVID-19. Cette distribution mondiale met en évidence un attrait et une croissance généralisés sur tous les continents, soulignant une solide culture mondiale du jeu. L’Inde a également connu une croissance explosive du secteur, tirée par les smartphones bon marché, les faibles coûts des données et les changements sociaux survenus pendant la pandémie de COVID-19.
Les organisations terroristes et les groupes extrémistes exploitent progressivement les plateformes de jeux pour piéger les individus crédules en abusant des plateformes de jeux en ligne et en contournant les barrières géographiques pour impliquer les jeunes du monde entier.
Cet article explore le côté obscur du paysage numérique en plein essor, en explorant la manière dont les groupes extrémistes exploitent les plateformes de jeux pour étendre leur influence et radicaliser les joueurs. Il examine les méthodes utilisées par ces groupes, telles que la modification du contenu du jeu, la proie des joueurs inexpérimentés et la manipulation des caractéristiques sociales pour créer des cercles radicaux fermés au sein des jeux. Il explique également comment ces stratégies reflètent généralement les techniques de ciblage des jeunes en ligne pour diffuser des idéologies radicales. Enfin, l’article propose des stratégies permettant aux développeurs de jeux de résoudre ces problèmes, contribuant ainsi à la sécurité et à la confidentialité des utilisateurs.
Un nombre croissant de joueurs en ligne
Figure 1 : Répartition mondiale des joueurs par région (en millions)
Source: Données antérieures
Le secteur indien du jeu devrait croître de 20 % d’ici l’exercice 25, pour atteindre un chiffre estimé à 253 milliards INR, ce qui met en évidence l’expansion rapide du paysage du jeu dans le pays. Rien qu’en 2023, l’Inde employait environ 100 000 personnes, et devrait atteindre 250 000 d’ici 2025. Un rapport de Thornton Bharat et de la E-Gaming Federation, Gardiens du jeu sécurisé : un jeu éthique pour un Bharat dynamiquesouligne que l’Inde possède la deuxième plus grande base d’utilisateurs, derrière la Chine, positionnant le pays comme une puissance du jeu. Les téléchargements de jeux mobiles en Inde ont grimpé à 9,66 milliards en 2023, contre 5,2 milliards en 2022, avec des jeux populaires comme Ludo Roi et Feu gratuit Max contribuant à cette croissance sans précédent.
Figure 2 : Comparaison des joueurs en ligne et des revenus du marché ($ US) en Chine, en Inde et aux États-Unis
Source: Homme d’État
Activité extrémiste sur les plateformes de jeux
Les organisations terroristes et les extrémistes exploitent de plus en plus les plateformes de jeux pour recruter et se radicaliser. Une tactique courante consiste à modifier les éléments du jeu, tels que les skins des personnages, les environnements ou les scénarios, pour refléter des valeurs extrémistes. Conformément au Projet mondial contre la haine et l’extrémisme, les jeux modifiés par les extrémistes comme Counter-Strike : Offensive mondiale (CS: GO) introduisent des insignes nationalistes blancs ou des récits d’extrême droite, créant un environnement dans lequel les joueurs peuvent rencontrer ou même adopter passivement ces croyances. Des jeux comme Appel du devoir J’ai également vu des mods (modifications) personnalisés à connotation politique ou nationaliste par des groupes terroristes comme l’État islamique, donnant l’impression que les idéologies radicales sont normales grâce à une exposition fréquente.
Des jeux comme Appel du devoir J’ai également vu des mods (modifications) personnalisés à connotation politique ou nationaliste par des groupes terroristes comme l’État islamique, donnant l’impression que les idéologies radicales sont normales grâce à une exposition fréquente.
Ces jeux immersifs sont efficaces car ils captivent les joueurs pendant des périodes prolongées, créant ainsi des perspectives permettant aux extrémistes de favoriser des communautés qui soumettent secrètement les joueurs au lavage de cerveau au fil du temps. De plus, les jeux de réalité virtuelle (VR) comme VRChatqui permettent des interactions personnalisées en temps réel, offrent aux extrémistes une fenêtre pour recruter de jeunes joueurs vulnérables en les engageant dans des contextes modifiés qui promeuvent des idéologies particulières.
Mobilisation et formation
Certains jeux servent de terrains d’entraînement où les extrémistes simulent des tactiques de combat ou de coordination, en utilisant les environnements du jeu pour pratiquer des attaques ou affiner leurs stratégies. Par exemple, des jeux comme Arme 3 et S’échapper depuis Tarkov sont devenus des terrains d’entraînement virtuels où les utilisateurs peuvent simuler des engagements tactiques dans des environnements réalistes. Ces jeux, loués pour leur haut degré de réalisme, sont particulièrement appréciés par les groupes visant à inculquer un état d’esprit militant. Les extrémistes utilisent ces jeux pour pratiquer des tactiques et des scénarios de jeu de rôle tirés de situations réelles.
Fraude financière et cyberintimidation
Les extrémistes ont également exploité les systèmes monétaires du jeu et les marchés d’articles pour blanchir de l’argent et effectuer des transactions frauduleuses. Dans Counter-Strike : Offensive mondialePar exemple, le marché des skins d’armes a été sporadiquement utilisé pour des échanges illégaux et, dans certains cas, ces articles ont servi de façade à des activités de blanchiment d’argent. En outre, des organisations terroristes telles que les Brigades Al Qassam, le Hamas, Al-Qaïda, l’Etat islamique et le Hezbollah ciblent les acteurs à des fins de cyberfraude, de propagande et d’entraînement comme les entraînements de tir et la guerre. Cet environnement est ensuite utilisé pour aliéner les individus vulnérables et les entraîner dans des groupes extrémistes où ils peuvent ressentir un sentiment de protection et d’appartenance.
Les extrémistes ont également exploité les systèmes monétaires du jeu et les marchés d’articles pour blanchir de l’argent et effectuer des transactions frauduleuses.
Les défis de la lutte contre les menaces sur les plateformes de jeux
L’un des principaux défis de la lutte contre l’extrémisme sur les plateformes de jeux réside dans le volume de contenu créé et partagé dans ces environnements numériques. Des jeux comme Roblox et GTA V fournissent de vastes environnements sandbox dans lesquels les utilisateurs peuvent modifier librement le contenu, ce qui rend difficile pour les développeurs de surveiller toutes les activités en temps réel. Des systèmes de détection basés sur l’intelligence artificielle sont constamment développés pour reconnaître les contenus extrémistes. Néanmoins, ces technologies sont limitées par l’évolution rapide des tactiques extrémistes et par les limitations en matière de confidentialité et d’accès aux données.
De plus, les sociétés de jeux ont souvent besoin de ressources plus dédiées pour lutter contre l’extrémisme, certaines se concentrant davantage sur la monétisation dans le jeu que sur la sécurité de la communauté. Les groupes extrémistes exploitent cette lacune, sachant que la modération en temps réel manque souvent de ressources ou est inefficace pour détecter les tactiques secrètes de radicalisation.
Solutions pour les développeurs de jeux
Les gouvernements et les sociétés de jeux s’efforcent de lutter contre la menace croissante de l’extrémisme dans le jeu grâce à diverses mesures réglementaires et stratégies proactives. En 2021, le département américain de la Sécurité intérieure a lancé un groupe de travail chargé de collaborer avec les entreprises technologiques pour identifier et signaler les activités extrémistes sur les plateformes de jeux. Les règles indiennes sur les technologies de l’information de 2021 exigent que les plateformes suivent et signalent les contenus illégaux, y compris l’extrémisme. Cela dit, l’ampleur du jeu mobile présente des défis uniques en matière de mise en application. pour l’Inde. En Europe, la loi sur les services numériques de l’Union européenne (UE), adoptée en 2022, exige que les plateformes en ligne effectuent des évaluations des risques et mettent en œuvre une modération du contenu. Néanmoins, l’application de ces normes peut varier selon les États membres. Pendant ce temps, des pays d’Asie du Sud-Est comme Singapour et l’Indonésie ont commencé à mettre en œuvre des réglementations sur le contenu numérique. Pourtant, ces mesures se concentrent souvent sur la cybersécurité plutôt que sur la lutte directe contre l’extrémisme, laissant subsister certaines lacunes réglementaires que les extrémistes exploitent.
En 2021, le département américain de la Sécurité intérieure a lancé un groupe de travail chargé de collaborer avec les entreprises technologiques pour identifier et signaler les activités extrémistes sur les plateformes de jeux.
En s’appuyant sur ces efforts gouvernementaux, les sociétés de jeux peuvent adopter des mesures supplémentaires pour créer des communautés de joueurs plus sûres et plus résilientes.
- La modération efficace du contenu reste une priorité essentielle, les développeurs utilisant des algorithmes avancés d’intelligence artificielle (IA) combinés à une surveillance humaine pour détecter et supprimer les contenus extrémistes. La mise à jour régulière de ces algorithmes est essentielle, car les extrémistes adaptent souvent leurs méthodes.
- L’établissement et la communication de normes communautaires interdisant explicitement l’extrémisme et les discours de haine améliorent encore la sécurité ; les développeurs doivent également former en permanence les modérateurs pour qu’ils reconnaissent et traitent l’évolution des comportements extrémistes.
- La collaboration avec des experts en lutte contre l’extrémisme peut aider les développeurs à rester informés des menaces émergentes, leur permettant ainsi d’affiner leurs pratiques de modération pour faire face efficacement aux nouveaux risques.
- Éduquer les joueurs sur les signes de radicalisation, en collaboration avec des éducateurs et des organisations de lutte contre l’extrémisme, leur donne les connaissances nécessaires pour résister à l’influence extrémiste et contribue à une communauté vigilante.
- Enfin, la fourniture d’outils de reporting accessibles garantit que les joueurs peuvent facilement signaler les contenus extrémistes, favorisant ainsi un environnement de jeu proactif et responsabilisé.
Ces mesures réglementaires combinées et ces stratégies axées sur l’industrie peuvent créer un écosystème de jeu qui protège les joueurs, atténue les influences extrémistes et permet à la communauté des joueurs de résister activement à la propagation de contenus préjudiciables.
la fourniture d’outils de reporting accessibles garantit que les joueurs peuvent facilement signaler les contenus extrémistes, favorisant ainsi un environnement de jeu proactif et responsabilisé.
Conclusion
Les jeux vidéo sont devenus des plateformes socialement connectées, que les extrémistes exploitent désormais pour recruter et radicaliser des joueurs. En tirant parti des environnements immersifs et de l’anonymat du jeu, les groupes extrémistes endoctrinent subtilement les individus vulnérables du monde entier. Cette menace appelle une action urgente dans l’ensemble de l’écosystème du jeu. Les développeurs doivent renforcer les systèmes de modération, utiliser des outils de détection d’IA et travailler avec des experts en lutte contre l’extrémisme. Les décideurs politiques devraient établir des réglementations pour tenir les plateformes responsables pendant que la communauté des joueurs reste vigilante et signale les activités suspectes.
Préserver le jeu en tant qu’espace positif nécessite une vigilance collective, une modération innovante et des mesures anti-exploitation fortes. Grâce à une coopération étroite entre les entreprises, les gouvernements et les experts en sécurité, le jeu peut rester un environnement sûr et engageant, libre de toute influence extrémiste.
Soumya Awasthi est membre du Centre pour la sécurité, la stratégie et la technologie de l’Observer Research Foundation
Les opinions exprimées ci-dessus appartiennent au(x) auteur(s). Recherches et analyses ORF désormais disponibles sur Telegram ! Cliquez ici pour accéder à notre contenu organisé – blogs, formulaires longs et interviews.
