I guardiani dei social media

Oggi le reti sociali sono parte integrante della vita di quasi tutti. Lì le persone socializzano, si scrivono messaggi, commentano i post e le foto. Purtroppo i social network sono anche usati dai criminali informatici per diffondere informazioni controverse – e spesso dannose. Le moderne tecnologie digitali stanno attirando l’attenzione di trafficanti di droga, terroristi, pedofili e trafficanti di esseri umani. I creatori di social media stanno lavorando per sradicare i contenuti potenzialmente dannosi. Hanno persino creato un’intera industria che impiega alcuni dei veri guardiani di Internet. Andiamo a conoscerli.

Guardiani di Internet: chi sono?

Oggi ci sono molti social network diversi, e su ognuno di essi ci si può imbattere in contenuti inappropriati, pericolosi e illegali. Solo su Facebook, gli utenti caricano più di 350 milioni di foto, diversi milioni di animazioni, video e messaggi di testo ogni giorno. E ogni bit di un contenuto così voluminoso può contenere contenuti dannosi che violano le leggi.
Quando i siti di social network sono apparsi per la prima volta, i volontari hanno assunto il ruolo di proteggere gli utenti dai rischi. I moderatori esaminavano le informazioni online, le filtravano e rimuovevano i contenuti inappropriati. Sono stati poi sostituiti da avvocati professionisti di Internet che monitoravano la rete 24 ore al giorno, sette giorni alla settimana.

Una nuova industria è nata all’intersezione tra la gestione delle crisi della pubblicità e delle attività di informazione, l’analisi dell’opinione pubblica e la sicurezza online.

L’espansione dell’industria dei social media per proteggere dai contenuti pericolosi avviene quasi quotidianamente. Ciò è dovuto principalmente al rapido sviluppo di Internet stesso, al significativo aumento della quantità di contenuti postati dagli utenti e al passaggio di molte nuove aziende dall’attività offline a quella online dei social media.

Le cifre citate dall’ex responsabile della sicurezza di MySpace, Hemanshu Nigam, mostrano che tra 250.000 e 300.000 persone in tutto il mondo ora controllano i siti di social networking. Circa 1 milione di dipendenti in più sono responsabili della protezione delle informazioni personali e della sicurezza online. Hemanshu Nigam nota anche che le informazioni di queste statistiche sono conservative e cambiano costantemente.

Cosa fanno i guardiani di Internet?

Emma Monks è responsabile della moderazione e della sicurezza di Crisp Thinking, con sede a Leeds, Regno Unito. I guardiani dei social media di oggi, dice, sono i discendenti diretti di quei moderatori che sono stati i pionieri del social networking e hanno servito sia come redattori che come proprietari di comunità.

L’azienda, guidata da Emma Monks, è rappresentata da esperti leader nel settore della protezione dai rischi dei social media. Secondo la stessa Emma, questo lavoro veniva fatto per lo più da volontari su base volontaria. Era una specie di hobby, e i membri della comunità di moderatori potevano prendere decisioni sulla rimozione o meno di certi contenuti, basandosi esclusivamente sulle loro opinioni.

Ora ci sono professionisti piuttosto che dilettanti nel campo della moderazione dei social media. Crisp interagisce con sofisticati algoritmi informatici che cercano contenuti potenzialmente inappropriati e pericolosi.
Il team di analisi dei social media e di valutazione dei rischi di Crisp setaccia ogni giorno i siti web e le pagine dei social media delle aziende più popolari alla ricerca di contenuti pericolosi che contengono informazioni illegali.

Pulitori virtuali

I pulitori virtuali, o content manager, operano sul principio che la presenza del consumatore e del marchio sui social media dovrebbe essere senza problemi. Secondo l’amministratore delegato di Crisp, Adam Hildreth, la conformità è importante prima di tutto per le aziende stesse e le aiuta ad evitare molti problemi. Se la sicurezza off-line è assicurata dalla polizia, la funzione di sicurezza online è gestita dalle forze dell’ordine di Crisp Internet.

Hildreth lavora nei social media da quando aveva 14 anni. È stato allora che ha sviluppato il sito di social networking Dubit Limited, che è diventato il sito per adolescenti più visitato nel Regno Unito. Mentre Dubit cresceva in popolarità, i rischi di contenuti inappropriati aumentavano e c’erano timori di molestatori di bambini, che potrebbero cercare vittime nei social media. Lo staff di Dubit ha scoperto altre minacce per i visitatori del sito, quindi la risposta naturale dei creatori a tali tendenze è stata quella di creare Crisp nel 2006 sotto la guida di Adam Hildreth.

Nel corso degli anni Crisp ha ampliato il suo raggio d’azione in modo significativo. Oggi, l’azienda monitora i social media per problemi e minacce che vanno da volontari aggressivi di animali domestici che pubblicano minacce su siti web di produttori di pellicce a minacce di bombe su aerei di linea o aeroporti pubblicate sulla pagina Facebook di una compagnia aerea.

Adam Hildreth dice che la base di clienti della sua azienda include circa 200 marchi internazionali, con i suoi contenuti multimiliardari rivisti da 200 analisti professionisti ogni mese. Quando sorgono dei rischi o viene pubblicato un contenuto inappropriato, correggono il problema da soli (rimuovendo la pubblicazione dalla pagina del marchio, per esempio).

Gli analisti dei contenuti dei social media di Crisp sono professionalmente addestrati per identificare i vari tipi di rischi (compreso il rischio reputazionale dovuto alla pubblicità negativa o la sicurezza degli utenti dovuta ai rischi di rappresaglia fisica).

Una volta identificato un rischio, applicano questi criteri al contenuto, classificandolo in diversi tipi di minacce. La lista dei compiti degli analisti di Crisp comprende anche la notifica ai clienti dei rischi emergenti e l’adozione di misure complete per eliminare i contenuti non richiesti (cancellazione, segnalazione di informazioni illegali agli amministratori o alle forze dell’ordine).

Esperienza non necessaria

Emma Monks nota che l’esperienza non è necessaria per l’analisi dei social media. Le persone che si candidano per il lavoro devono solo essere osservanti e capaci di identificare rapidamente diversi tipi di rischi e applicarli in modo coerente al contenuto pubblicato sui social media. La coerenza, secondo Monks, è ciò che assicura un’esperienza del cliente di alta qualità, oltre a contribuire a un ambiente online sano e sicuro.

L’analista dei social media deve essere imparziale, obiettivo e resistente allo stress, poiché il contenuto può includere pornografia infantile, smembramento di corpi umani e altre informazioni scioccanti. L’ottimismo e le capacità di comunicazione sono utili anche nel lavoro analitico.

Molte aziende moderne hanno bisogno di una protezione di qualità contro i rischi nelle reti sociali. È semplicemente impossibile esistere nello spazio online di oggi senza questa protezione”, dice Hemanshu Nigam.