Tool

28.06.2018
Hate Speech Content Filter
Quelle: Unsplash/T. Chick McClure
Um Hasskommentaren entgegen zu wirken, können Plattformbetreiber auf User Generated Content Filter setzen

Clevere Anti-Hate-Speech-Lösung

[Lesezeit: 4-6 Minuten] Unerwünschte, teils rechtwidrige Nutzerkommentare auf Online-Plattformen und Facebook-Fanseiten haben sich in den letzten Jahren für Verlage und E-Commerce-Unternehmen zu einem immer größeren Problem entwickelt. Mit Smartpurge, einem User Generated Content Filter, kriegen Administratoren dieses Problem in den Griff.

Hasskommentare in sozialen Netzwerken und unangemessene Bewertungen auf E-Commerce-Plattformen werden zu einem immer größeren Problem. Tagtäglich posten unzufriedene oder auch nur gelangweilte User tausende von Beleidigungen, unflätige Kommentare oder andere unpassende Bemerkungen. So viele, dass „menschliche Filter“ den Massen an Kommentaren nicht mehr Herr werden können.

Neben dem eigenen Interesse, solche Beiträge von den Seiten zu entfernen, erhalten die Plattform-Betreiber auch Druck seitens des Gesetzgebers – werden Hasskommentare nicht rechtzeitig gelöscht, erwarten den Betreiber teils hohe Strafen.

Was also tun? Riesige Teams beschäftigen, die nicht anderes tun, als von morgens bis abends unpassende Kommentare zu löschen? Plattform-Betreiber wie Facebook tun genau das und brauchen dafür viel Personal und Budget. Dass es auch anders geht, zeigt der Kommentar-Spamfilter SMARTPURGE der Firma worldweb.

Kommentar-Spamfilter

Lösungen zur Filterung und Löschung von unerwünschten Nutzerbeiträgen sind bereits seit einigen Jahren auf dem Markt. Sie basieren jedoch zu großen Teilen auf Blacklisten, die regelmäßig um neueste Wortkreationen ergänzt und aktualisiert werden müssen. Oder aber auf einer semantischen Struktur, die nur eine Sprache beherrscht. Dialekte, Fremdsprachen und unterschiedliche Schreibweisen müssen daher berücksichtigt und erlernt werden. Der Zeit- und Personalaufwand für die Seitenbetreiber bleibt durch das Anlernen und Befüllen der Filterlösungen also weiterhin hoch.

Neben diesen semantischen Filtern gibt es inzwischen aber auch solche, die auf mathematischen Mustern basieren – so wie Smartpurge. Der Vorteil der mathematischen Lösung: Mathematik ist eine universelle Sprache, der Filter kann daher auf praktisch jede Sprache angewendet werden.

Mit Mathematik gegen Hasskommentare

Die Software zerlegt einen Kommentar oder Beitrag in Blöcke zu je fünf Zeichen und setzt jedes Wort mit jedem anderen Wort des Kommentars in Beziehung. Diese identifizierten Wortkombinationen vergleicht das System anschließend mit den zuvor vorgenommenen Bewertungen. Dieses Prinzip funktioniert bis auf wenige Ausnahmen mit praktisch jeder Sprache der Welt. Smartpurge kann dabei bereits mit Basiseinträgen erworben werden, die allgemein gängigen Kriterien entsprechen. Die Software kann und soll aber auch mit den eigenen Kriterien gefüttert werden. Redakteure oder Verantwortliche geben der Software dabei vor, welche Kommentare in Ordnung sind und welche gelöscht werden. Smartpurge merkt sich diese Entscheidungen und entwickelt daraus mit Hilfe künstlicher Intelligenz eine eigene Entscheidungsgrundlage.

Die Bewertung

Bewertet werden die Beiträge nach einem Ampelsystem: Grün bedeutet alles ok, der Beitrag beinhaltet keine unpassenden Inhalte. Rot bedeutet direkte Löschung des Kommentars, da die Inhalte gegen die Vorgaben verstoßen. Orange markierte Beiträge sind neutral, sollten aber noch weiter durch die Verantwortlichen beurteilt werden.

Für die weitere Bearbeitung der gescannten Beiträge bietet Smartpurge zwei verschiedene Modi. Im Assistenten-Modus markiert SMARTPURGE Kommentare und Beiträge nach dem Ampelsystem und gibt den Mitarbeitern Hinweise darauf, welche Beiträge geprüft, gelöscht oder freigegeben werden sollen.

Im sogenannten Flightcontrol-Modus kann die Software auch komplett eigenständig über die Freigabe eines Beitrags entscheiden, basierend auf den vorgegebenen Einstellungen. Das ist besonders nachts und an Wochenenden ein großer Vorteil. Die mit rot markierten Beiträge löscht die Software automatisch, ohne vorherige Bestätigung durch einen Verantwortlichen. Orange hingegen bedeutet, dass Smartpurge einen neutralen Kommentar identifiziert hat, der jedoch erst noch vom Verantwortlichen bestätigt oder gelöscht werden muss. Entscheidungen der Software können nachträglich immer durch den Verantwortlichen rückgängig gemacht werden.

„Content-Filter-Software funktioniert sowohl bei kleinen als auch großen Unternehmen und Verlagen“, so Sven Oerke, Inhaber von worldweb. „Bei der mathematischen, auf künstlicher Intelligenz basierenden Version gilt aber, je mehr Beiträge veröffentlicht werden, desto genauer und erfahrener wird die Software. Die Trefferquote für unerwünschte Kommentare liegt dabei bei etwa 80 bis 85 Prozent, die übrigen muss der Mensch bearbeiten.“

Marketeers‘ Summary

Hasskommentare werden zu einem immer größeren Problem für Betreiber von Online-Plattformen und Social-Media-Kanälen. Damit sie nicht Unmengen an Personal und Budget für die Filterung und Löschung solcher Kommentare aufwenden müssen, können Verantwortliche auf Software-Lösungen wie Smartpurge setzen, die sie im Kampf gegen unerwünschte Nutzerkommentare unterstützen und sie vor hohen Strafen bewahren.

Autor: Mareike Redder

Neuen Kommentar schreiben

Im Rahmen der Kommentarfunktion erheben wir personenbezogene Daten (Name, IP-Adresse) im Falle einer Kommentierung eines Beitrags. Beachten Sie dazu bitte unsere Datenschutzerklärung.

Unsere Themen

Bei TONNO DIGITALE dreht sich alles um spannende Tipps und Praxiseinsichten zu folgenden Aspekten:

Brain@plü)com

Sie wollen noch mehr Impulse für Ihre B2B-Kommunikation? Bitteschön:

Lead Generierung: Mit „Leads as a Service“ sofort startklar

Unsere All-in-One-Lösung sorgt dafür, dass die digitale Lead Generierung Unternehmen auch ohne Investitionen in teure Marketing-Technologie und die Qualifikationen Ihrer Mitarbeiter zugänglich ist. Sie sind innerhalb kürzester Zeit startbereit.
PDF (2 Seiten) ansehen

MESSAGE HOUSE Workshop

Mit unserem Workshop sorgen Sie für klare, einheitliche Botschaften über die Abteilungsgrenzen hinweg.
PDF (2 Seiten) ansehen

RESHAPE Workshop

Mit diesem Workshop schaffen wir die Voraussetzungen dafür, um aus Ihrem Change-Projekt eine Erfolgsstory zu machen.
PDF (2 Seiten) ansehen

Content Marketing

So gelingen Content-Produktion, -Distribution und -Promotion

Thought Leadership

und welche Substanz – en détail – wirklich hinter dem Begriff steckt