Torwächter der sozialen Medien

Soziale Netzwerke sind heute ein fester Bestandteil des Lebens von fast allen Menschen. Menschen knüpfen Kontakte, schreiben Nachrichten, kommentieren Beiträge und Fotos. Leider werden soziale Netzwerke auch von Cyberkriminellen genutzt, um kontroverse – und oft schädliche – Informationen zu verbreiten. Die modernen digitalen Technologien ziehen die Aufmerksamkeit von Drogenhändlern, Terroristen, Pädophilen und Menschenhändlern auf sich. Die Macher sozialer Medien arbeiten daran, potenziell schädliche Inhalte zu beseitigen. Sie haben sogar einen ganzen Wirtschaftszweig geschaffen, der einige der wirklichen Torwächter des Internets beschäftigt. Lernen wir sie kennen.

Internet-Wächter: Wer sind sie?

Heute gibt es viele verschiedene soziale Netzwerke, und in jedem von ihnen kann man auf unangemessene, gefährliche und illegale Inhalte stoßen. Allein auf Facebook laden die Nutzer jeden Tag mehr als 350 Millionen Fotos, mehrere Millionen Animationen, Videos und Textnachrichten hoch. Und jedes Stückchen dieser umfangreichen Inhalte kann bösartige Inhalte enthalten, die gegen Gesetze verstoßen.
Als die ersten Social-Networking-Sites entstanden, übernahmen Freiwillige die Aufgabe, die Nutzer vor Risiken zu schützen. Die Moderatoren überprüften die Online-Informationen, filterten sie und entfernten unangemessene Inhalte. Später wurden sie durch professionelle Internet-Anwälte ersetzt, die das Netz 24 Stunden am Tag, sieben Tage die Woche überwachten.

An der Schnittstelle zwischen dem Krisenmanagement von Werbe- und Informationsmaßnahmen, der Analyse der öffentlichen Meinung und der Online-Sicherheit ist eine neue Branche entstanden.

Der Ausbau der sozialen Medien zum Schutz vor gefährlichen Inhalten findet fast täglich statt. Dies ist vor allem auf die rasante Entwicklung des Internets selbst, die erhebliche Zunahme der von den Nutzern eingestellten Inhalte und den Wechsel vieler neuer Unternehmen von Offline- zu Online-Social-Networks zurückzuführen.

Statistiken, die Hemanshu Nigam, der ehemalige Sicherheitsbeauftragte von MySpace, zitiert, deuten darauf hin, dass heute weltweit zwischen 250.000 und 300.000 Personen mit der Überwachung sozialer Medien beschäftigt sind. Etwa 1 Million mehr Mitarbeiter sind für den Schutz persönlicher Daten und die Online-Sicherheit zuständig. Hemanshu Nigam weist auch darauf hin, dass die Informationen aus diesen Statistiken konservativ sind und sich ständig ändern.

Was machen die Internet-Gatekeeper?

Emma Monks ist Leiterin der Abteilung Moderation und Sicherheit bei Crisp Thinking mit Sitz in Leeds, Großbritannien. Die heutigen Gatekeeper der sozialen Medien sind ihrer Meinung nach direkte Nachfahren jener Moderatoren, die Pionierarbeit in den sozialen Netzwerken geleistet haben und sowohl als Redakteure als auch als Community-Eigentümer fungierten.

Das Unternehmen, das von Emma Monks geleitet wird, wird von führenden Experten der Branche für den Schutz vor Risiken in sozialen Medien vertreten. Nach Emmas eigener Aussage wurde diese Arbeit früher hauptsächlich von Freiwilligen auf ehrenamtlicher Basis geleistet. Es war eine Art Hobby, und die Mitglieder der Moderatorengemeinschaft konnten allein auf der Grundlage ihrer eigenen Meinung entscheiden, ob bestimmte Inhalte entfernt werden sollten oder nicht.

Inzwischen gibt es keine Amateure mehr, sondern Profis auf dem Gebiet der Moderation sozialer Medien. Crisp interagiert mit hochentwickelten Computeralgorithmen, die nach potenziell unangemessenen und gefährlichen Inhalten suchen.
Das Analyse- und Risikobewertungsteam von Crisp für soziale Medien durchsucht täglich die Websites und Social-Media-Seiten beliebter Unternehmen nach gefährlichen Inhalten, die illegale Informationen enthalten.

Wächter der sozialen Medien

Virtuelle Reinigungskräfte

Virtuelle Reinigungskräfte oder Content Manager arbeiten nach dem Prinzip, dass die Präsenz von Verbrauchern und Marken in den sozialen Medien problemlos sein sollte. Laut Adam Hildreth, dem Geschäftsführer von Crisp, ist die Einhaltung der Vorschriften in erster Linie für die Unternehmen selbst wichtig und hilft ihnen, eine Menge Ärger zu vermeiden. Wenn die Offline-Sicherheit von der Polizei gewährleistet wird, wird die Online-Sicherheitsfunktion von der Crisp Internet Strafverfolgungsbehörde übernommen.

Hildreth ist seit seinem 14. Lebensjahr im Bereich der sozialen Medien tätig. Damals entwickelte er die Social-Networking-Website Dubit Limited, die sich zur meistbesuchten Teenager-Website im Vereinigten Königreich entwickelt hat. Mit der zunehmenden Popularität von Dubit wuchs auch das Risiko unangemessener Inhalte, und man befürchtete Kinderschänder, die in den sozialen Medien Opfer suchen könnten. Die Mitarbeiter von Dubit entdeckten weitere Bedrohungen für die Besucher der Website, so dass die natürliche Reaktion der Macher auf solche Trends die Gründung von Crisp im Jahr 2006 unter der Leitung von Adam Hildreth war.

Im Laufe der Jahre hat Crisp seine Reichweite erheblich erweitert. Heute überwacht das Unternehmen die sozialen Medien auf Probleme und Drohungen, die von aggressiven Freiwilligen aus dem Tierschutz, die Drohungen auf Websites von Pelzbekleidungsherstellern posten, bis hin zu Bombendrohungen für Flugzeuge oder Flughäfen reichen, die auf der Facebook-Seite einer Fluggesellschaft gepostet werden.

Adam Hildreth sagt, dass der Kundenstamm seines Unternehmens etwa 200 internationale Marken umfasst, deren milliardenschwere Inhalte jeden Monat von 200 professionellen Analysten überprüft werden. Wenn Risiken auftreten oder unangemessene Inhalte veröffentlicht werden, beheben sie das Problem selbst (indem sie beispielsweise die Veröffentlichung von der Seite der Marke entfernen).

Die Inhaltsanalysten von Crisp sind professionell geschult, um die verschiedenen Arten von Risiken zu erkennen (einschließlich des Reputationsrisikos aufgrund negativer Publicity oder der Sicherheit der Nutzer aufgrund des Risikos physischer Repressalien).

Sobald ein Risiko identifiziert ist, wenden sie festgelegte Kriterien auf den Inhalt an und klassifizieren ihn in verschiedene Arten von Bedrohungen. Zu den Aufgaben der Crisp-Analysten gehört es auch, die Kunden über aufkommende Risiken zu informieren und umfassende Maßnahmen zur Beseitigung unerwünschter Inhalte zu ergreifen (Löschung, Meldung illegaler Informationen an Netzadministratoren oder Strafverfolgungsbehörden).

Erfahrung nicht erforderlich

Emma Monks stellt fest, dass für die Analyse sozialer Medien keine Erfahrung erforderlich ist. Wer sich für diese Stelle bewirbt, muss lediglich aufmerksam sein und in der Lage sein, verschiedene Arten von Risiken schnell zu erkennen und sie konsequent auf die in den sozialen Medien veröffentlichten Inhalte anzuwenden. Konsistenz, so Monks, sorgt für ein hochwertiges Kundenerlebnis und trägt zu einem gesunden und sicheren Online-Umfeld bei.

Der Social-Media-Analyst muss unparteiisch, objektiv und stressresistent sein, da die Inhalte Kinderpornografie, die Zerstückelung von menschlichen Körpern und andere schockierende Informationen enthalten können. Optimismus und Kommunikationsfähigkeit sind auch bei analytischen Arbeiten von Nutzen.

Viele moderne Unternehmen benötigen einen hochwertigen Schutz gegen Risiken in sozialen Netzwerken. Es ist einfach unmöglich, im heutigen Online-Bereich ohne einen solchen Schutz zu existieren“, sagt Hemanshu Nigam.