Guardiões das redes sociais

Hoje em dia as redes sociais são parte integrante da vida de quase todos. Lá as pessoas socializam, escrevem mensagens umas para as outras, comentam mensagens e fotos. Infelizmente, as redes sociais são também utilizadas por cibercriminosos para divulgar informação controversa – e muitas vezes prejudicial. As tecnologias digitais modernas estão a atrair a atenção de traficantes de droga, terroristas, pedófilos e traficantes de seres humanos. Os criadores das redes sociais estão a trabalhar para erradicar conteúdos potencialmente nocivos. Até criaram uma indústria inteira que emprega alguns dos verdadeiros portais da Internet. Vamos conhecê-los melhor.

Guardiões da Internet: Quem são eles?

Actualmente existem muitas redes sociais diferentes, e em cada uma delas é possível encontrar conteúdos inadequados, perigosos e ilegais. Só no Facebook, os utilizadores carregam mais de 350 milhões de fotos, vários milhões de animações, vídeos e mensagens de texto todos os dias. E cada pedaço de tal conteúdo volumoso pode conter conteúdos maliciosos que violam as leis.
Quando os sítios de redes sociais apareceram pela primeira vez, os voluntários assumiram o papel de proteger os utilizadores dos riscos. Os moderadores examinaram a informação em linha, filtraram-na e removeram o conteúdo inadequado. Mais tarde foram substituídos por advogados profissionais da Internet que monitorizaram a rede 24 horas por dia, sete dias por semana.

Nasceu uma nova indústria na intersecção da gestão de crises das actividades de publicidade e informação, análise da opinião pública e segurança em linha.

A expansão da indústria dos meios de comunicação social para proteger contra conteúdos perigosos está a ocorrer quase diariamente. Isto deve-se principalmente ao rápido desenvolvimento da própria Internet, ao aumento significativo da quantidade de conteúdo publicado pelos utilizadores e à mudança de muitas novas empresas da actividade off-line para as redes sociais em linha.

As estatísticas citadas por Hemanshu Nigam, antigo chefe de segurança do MySpace, sugerem que entre 250.000 e 300.000 pessoas em todo o mundo estão hoje envolvidas na monitorização dos meios de comunicação social. Cerca de mais 1 milhão de empregados são responsáveis pela protecção de informações pessoais e segurança em linha. Hemanshu Nigam observa também que a informação proveniente destas estatísticas é conservadora e está em constante mudança.

O que fazem os porteiros da Internet?

Emma Monks é chefe de moderação e segurança na Crisp Thinking, sediada em Leeds, Reino Unido. Os actuais guardiões das redes sociais, diz ela, são descendentes directos dos moderadores que foram pioneiros das redes sociais e serviram tanto como editores como como proprietários da comunidade.

A empresa, liderada por Emma Monks, é representada por especialistas líderes na indústria de protecção de risco dos meios de comunicação social. De acordo com a própria Emma, este trabalho costumava ser feito principalmente por voluntários numa base voluntária. Era uma espécie de hobby, e os membros da comunidade moderadora podiam tomar decisões sobre a remoção ou não de certos conteúdos com base apenas nas suas próprias opiniões.

Agora há mais profissionais do que amadores no campo da moderação das redes sociais. Crisp interage com sofisticados algoritmos informáticos que procuram conteúdos potencialmente inapropriados e perigosos.
A equipa de análise dos meios de comunicação social e de avaliação de risco da Crisp vasculha diariamente os sítios Web das empresas populares e as páginas dos meios de comunicação social em busca de conteúdos perigosos que contenham informação ilegal.

Limpadores virtuais

Os limpadores virtuais, ou gestores de conteúdos, operam com base no princípio de que a presença do consumidor e da marca nos meios de comunicação social deve ser livre de problemas. Segundo o chefe executivo da Crisp, Adam Hildreth, o cumprimento é importante antes de mais nada para as próprias empresas e ajuda-as a evitar muitos problemas. Se a segurança fora de linha for assegurada pela polícia, a função de segurança online é tratada pela polícia da Internet Crisp.

Hildreth tem trabalhado nas redes sociais desde os 14 anos de idade. Foi então que desenvolveu o site de redes sociais Dubit Limited, que passou a ser o site de adolescentes mais visitado no Reino Unido. À medida que Dubit se tornou mais popular, os riscos de conteúdo inapropriado aumentaram e houve receios de molestadores de crianças, que poderiam muito bem procurar vítimas nas redes sociais. O pessoal da Dubit descobriu outras ameaças aos visitantes do site, pelo que a resposta natural dos criadores a tais tendências foi criar a Crisp em 2006 sob a liderança de Adam Hildreth.

Ao longo dos anos, Crisp expandiu significativamente o seu alcance. Hoje, a empresa monitoriza os meios de comunicação social para questões e ameaças que vão desde voluntários agressivos de animais de estimação que colocam ameaças em websites de fabricantes de vestuário de peles a ameaças de aviões ou de bombardeiros de aeroportos colocados na página de uma companhia aérea no Facebook.

Adam Hildreth diz que a base de clientes da sua empresa inclui cerca de 200 marcas internacionais, com o seu conteúdo multibilionário revisto por 200 analistas profissionais todos os meses. Quando surgem riscos ou é publicado conteúdo inadequado, corrigem eles próprios o problema (retirando a publicação da página da marca, por exemplo).

Os analistas de conteúdos de redes sociais da Crisp são profissionalmente treinados para identificar os vários tipos de riscos (incluindo risco de reputação devido a publicidade negativa ou segurança do utilizador devido a riscos de represálias físicas).

Uma vez identificado um risco, eles aplicam estes critérios ao seu conteúdo, classificando-o em diferentes tipos de ameaças. A lista de tarefas dos analistas Crisp também inclui notificar os clientes sobre riscos emergentes e tomar medidas abrangentes para eliminar conteúdos não solicitados (eliminação, denúncia de informação ilegal a administradores ou agências de aplicação da lei).

Experiência não necessária

Emma Monks observa que a experiência não é necessária para a análise dos meios de comunicação social. As pessoas que se candidatam ao emprego só precisam de ser observadoras, capazes de identificar rapidamente diferentes tipos de riscos e aplicá-los de forma consistente aos conteúdos das redes sociais. A coerência, segundo os monges, é o que garante uma experiência de cliente de alta qualidade, bem como a contribuição para um ambiente em linha saudável e seguro.

O analista dos media sociais deve ser imparcial, objectivo e resistente ao stress, pois o conteúdo pode incluir pornografia infantil, desmembramento de corpos humanos e outras informações chocantes. O optimismo e a capacidade de comunicação são também úteis no trabalho analítico.

Muitas empresas modernas necessitam de protecção de qualidade contra riscos nas redes sociais. É simplesmente impossível existir no espaço online actual sem tal protecção”, diz Hemanshu Nigam.