Les gardiens des médias sociaux

Aujourd’hui, les réseaux sociaux font partie intégrante de la vie de presque tout le monde. Les gens se rencontrent, écrivent des messages, commentent des messages et des photos. Malheureusement, les réseaux sociaux sont également utilisés par les cybercriminels pour diffuser des informations controversées – et souvent nuisibles. Les technologies numériques modernes attirent l’attention des trafiquants de drogue, des terroristes, des pédophiles et des trafiquants d’êtres humains. Les créateurs de médias sociaux s’efforcent d’éradiquer les contenus potentiellement dangereux. Ils ont même créé une industrie entière qui emploie certains des véritables gardiens de l’Internet. Faisons connaissance avec eux.

Les gardiens de l’Internet : qui sont-ils ?

Il existe aujourd’hui de nombreux sites de réseaux sociaux différents, et sur chacun d’entre eux, on peut tomber sur des contenus inappropriés, dangereux et illégaux. Rien que sur Facebook, les utilisateurs téléchargent chaque jour plus de 350 millions de photos, plusieurs millions d’animations, de vidéos et de messages texte. Et chaque élément de ce contenu volumineux peut contenir un contenu malveillant qui viole les lois.
Lorsque les sites de socialisation ont fait leur apparition, des bénévoles se sont chargés de protéger les utilisateurs contre les risques. Les modérateurs examinent les informations en ligne, les filtrent et suppriment les contenus inappropriés. Ils ont ensuite été remplacés par des défenseurs professionnels de l’Internet qui surveillaient le réseau 24 heures sur 24, sept jours sur sept.

Une nouvelle industrie est née à l’intersection de la gestion de crise des activités de publicité et d’information, de l’analyse de l’opinion publique et de la sécurité en ligne.

L’expansion de l’industrie des médias sociaux pour se protéger contre les contenus dangereux se produit presque quotidiennement. Cela est principalement dû au développement rapide de l’internet lui-même, à l’augmentation significative de la quantité de contenu publié par les utilisateurs et au passage de nombreuses nouvelles entreprises des réseaux sociaux hors ligne aux réseaux sociaux en ligne.

Les statistiques citées par Hemanshu Nigam, ancien responsable de la sécurité de MySpace, indiquent qu’entre 250 000 et 300 000 personnes dans le monde sont impliquées dans la surveillance des médias sociaux aujourd’hui. Environ un million d’employés supplémentaires sont chargés de protéger les informations personnelles et la sécurité en ligne. Hemanshu Nigam note également que les informations tirées de ces statistiques sont conservatrices et en constante évolution.

Que font les gardiens de l’Internet ?

Emma Monks est responsable de la modération et de la sécurité chez Crisp Thinking, basé à Leeds, au Royaume-Uni. Selon elle, les gardiens des médias sociaux d’aujourd’hui sont les descendants directs des modérateurs qui ont été les pionniers des réseaux sociaux et qui étaient à la fois rédacteurs et propriétaires de communautés.

L’entreprise, dirigée par Emma Monks, est représentée par des experts de premier plan dans le secteur de la protection contre les risques liés aux médias sociaux. D’après Emma elle-même, ce travail était auparavant effectué principalement par des volontaires sur une base bénévole. Il s’agissait d’une sorte de passe-temps, et les membres de la communauté des modérateurs pouvaient décider de supprimer ou non certains contenus, en se fondant uniquement sur leur propre opinion.

Il existe désormais des professionnels plutôt que des amateurs dans le domaine de la modération des médias sociaux. Crisp interagit avec des algorithmes informatiques sophistiqués qui recherchent des contenus potentiellement inappropriés et dangereux.
L’équipe d’analyse des médias sociaux et d’évaluation des risques de Crisp parcourt chaque jour les sites web et les pages de médias sociaux des entreprises populaires à la recherche de contenus dangereux contenant des informations illégales.

gardiens des médias sociaux

Nettoyeurs virtuels

Les nettoyeurs virtuels, ou gestionnaires de contenu, partent du principe que la présence des consommateurs et des marques sur les médias sociaux doit se faire sans problème. Selon Adam Hildreth, directeur général de Crisp, la conformité est importante avant tout pour les entreprises elles-mêmes et leur permet d’éviter de nombreux problèmes. Si la sécurité hors ligne est assurée par la police, la fonction de sécurité en ligne est prise en charge par la police de Crisp Internet.

M. Hildreth travaille dans le domaine des médias sociaux depuis l’âge de 14 ans. C’est alors qu’il a développé le site de réseau social Dubit Limited, qui est devenu le site pour adolescents le plus visité au Royaume-Uni. La popularité croissante de Dubit s’est accompagnée d’une augmentation des risques de contenus inappropriés et d’une crainte des agresseurs d’enfants, qui pourraient bien chercher des victimes dans les médias sociaux. Le personnel de Dubit a découvert d’autres menaces pour les visiteurs du site. La réponse naturelle des créateurs à ces tendances a donc été de créer Crisp en 2006 sous la direction d’Adam Hildreth.

Au fil des ans, Crisp a considérablement étendu sa portée. Aujourd’hui, l’entreprise surveille les médias sociaux pour détecter les problèmes et les menaces, qu’il s’agisse de volontaires agressifs pour animaux de compagnie postant des menaces sur les sites web de fabricants de vêtements en fourrure ou d’alertes à la bombe sur la page Facebook d’une compagnie aérienne ou d’un aéroport.

Adam Hildreth indique que la clientèle de son entreprise compte environ 200 marques internationales, et que son contenu, qui représente plusieurs milliards de dollars, est examiné chaque mois par 200 analystes professionnels. Lorsque des risques apparaissent ou qu’un contenu inapproprié est publié, ils corrigent eux-mêmes le problème (en supprimant la publication de la page de la marque, par exemple).

Les analystes de contenu des médias sociaux de Crisp sont professionnellement formés pour identifier les différents types de risques (notamment le risque de réputation dû à une publicité négative ou la sécurité des utilisateurs due à des risques de représailles physiques).

Une fois le risque identifié, ils appliquent des critères établis au contenu, le classant en différents types de menaces. La liste des tâches des analystes de Crisp comprend également l’information des clients sur les risques émergents et la prise de mesures globales pour éliminer les contenus non sollicités (suppression, signalement des informations illégales aux administrateurs de réseau ou aux organismes d’application de la loi).

Expérience non nécessaire

Emma Monks note que l’expérience n’est pas nécessaire pour l’analyse des médias sociaux. Les personnes qui postulent à ce poste doivent simplement faire preuve d’observation et être capables d’identifier rapidement les différents types de risques et de les appliquer de manière cohérente au contenu publié sur les médias sociaux. Selon M. Monks, la cohérence est le garant d’une expérience client de haute qualité et contribue à un environnement en ligne sain et sûr.

L’analyste des médias sociaux doit être impartial, objectif et résistant au stress, car le contenu peut inclure de la pornographie enfantine, le démembrement de corps humains et d’autres informations choquantes. L’optimisme et les compétences en matière de communication sont également utiles dans le travail analytique.

De nombreuses entreprises modernes ont besoin d’une protection de qualité contre les risques liés aux réseaux sociaux. Il est tout simplement impossible d’exister dans l’espace en ligne d’aujourd’hui sans une telle protection », déclare Hemanshu Nigam.