Wie gehen wir in Zeiten von steigendem Hate Speech mit Hasskommentaren und toxischen Usern um? Und warum müssen wir schon tätig werden, bevor es strafrechtlich relevant wird?
Marylin Marx, Lead Community Managerin bei Webedia Deutschland, erläutert, was Hate Speech ausmacht und welche User:innen dazu neigen. Zudem berichtet sie aus ihrer umfangreichen Praxiserfahrung im Community Management: Wie lässt sich eine Community „erziehen“? Wo können KI-Tools unterstützen? Und warum spielt Mental Health dabei eine zentrale Rolle?
Wir freuen uns, sie als Referentin für unseren nächsten Online-Themenstammtisch im März gewonnen zu haben. Ihr Vortrag „Zwischen Netzfreiheit und roten Linien: Wann Hate Speech anfängt – und wie wir handeln sollten“ verspricht spannende Einblicke, wie sich eine Online-Community wirksam schützen lässt. In einem ersten Gespräch mit ihr hat sie uns bereits einen Vorgeschmack auf das Thema gegeben – und macht jetzt Lust auf ihren Vortrag.
Wo fängt für dich Hate Speech an?
„Hate Speech fängt da an, wo Kommentare andere Menschen/Gruppen gezielt und bewusst massiv verletzen. Die Betonung liegt hier auf „massiv”. Denn nicht jede Beleidigung ist automatisch Hate Speech. Aber wenn es um menschenverachtende Aussagen geht, ist die Grenze deutlich überschritten.“
Wie gehst du als Lead Community Managerin mit Hasskommentaren und „toxischen“ Nutzern um?
„Das kommt immer darauf an, was das für ein User ist. Ist er/sie schon lange aktiv? Gab es schon vorher Probleme? Manchmal haben Menschen einen schlechten Tag und posten Dinge, die sie später bereuen. Dann kann man mit ihnen meist in den Dialog gehen. Sind das keine Ausrutscher oder sind die Äußerungen menschenverachtend oder gar strafrechtlich relevant, wird streng moderiert und im Härtefall auch angezeigt.“
Welchen Einfluss hat der Umgang mit Hate Speech auf die mentale Gesundheit von Community Manager:innen?
„Je nachdem, wie lange und in welcher Intensität wir Hass ausgesetzt sind, kann das unterschiedliche Einflüsse haben. Vom Aufregen vorm Bildschirm bis hin zum Alptraum kann einen Hass sehr mitnehmen. Da ist es wichtig, Warnsignale des Körpers und seiner Umwelt zu respektieren und auch mal die Reißleine zu ziehen. Genauso wichtig ist es, sich nicht nur auf die negativen Kommentare, sondern auch auf die positiven und ihre Stärkung zu fokussieren.“
Inwiefern kann KI oder automatisierte Moderation helfen, Hate Speech zu erkennen und zu unterbinden?
„KI kann dabei helfen, problematische Kommentare schneller zu erkennen und das Community Management darauf aufmerksam zu machen – also als eine Art Vorfilter, wie es zum Beispiel auch algorithmisch mit Wortfiltern in vielen sozialen Netzwerke bereits gemacht wird.“
Wo liegt die Grenze von KI, und ab welchem Punkt braucht es den menschlichen Blick?
„Stand jetzt sollte die aktive Moderation, also das ausblenden, löschen oder Bannen immer von menschlicher Hand passieren. Gerade in Experten-Communitys versteht eine KI noch nicht die verschiedenen Redensarten, Insider oder Besonderheiten. Es macht beispielsweise einen Unterschied, ob ein User einen Tod in einem Spiel oder unter einer News positiv bewertet.“
Wie wichtig ist das regelmäßige Training und die Sensibilisierung des gesamten Teams im Hinblick auf Hassrede und Diskriminierung?
„Menschen, die aktiv moderieren, entwickeln sehr schnell ein gutes Gespür dafür, was Hassrede ist und was nicht. Sie sind die ersten, die neue Strömungen und Veränderungen mitbekommen. Viel wichtiger ist es, den Zusammenhalt als Team und das Thema Mental Health aktiv in den Vordergrund zu rücken.“
Vielen Dank für das Interview und für den Einblick in dieses spannende und zugleich sehr aktuelle Thema.
Der Online-Vortrag mit Marylin Marx findet am Mittwoch, 12. März 2025 von 12:00 Uhr – 13:00 Uhr statt. Die Teilnahme ist kostenlos. Das Angebot richtet sich an alle, die im Community- und Social-Media-Management tätig sind. Eine Mitgliedschaft im BVCM e.V. ist nicht erforderlich. Nicht-Mitglieder des Verbandes mögen sich bitte für den Vortrag per Mail an marilena.berlan@bvcm.org melden. Der Zugangslink wird an externe Teilnehmer:innen einige Tage vor Veranstaltungsbeginn versendet.
Wir freuen uns auf eure Teilnahme!