«Hassrede sollte man nicht stehen lassen»

ZHAW: Im Zusammenhang mit Hassrede im Internet hört man oft den Grundsatz: «Don’t feed the trolls», also: Geht nicht auf Online-Provokationen ein, sonst bekommen Trolle erst recht eine Bühne.  In eurem Projekt «Social Influencer:in» habt ihr Personen dazu ausgebildet, Hate Speech in Online-Kommentarspalten methodengeleitet und KI-assistiert zu deeskalieren – also Trolle eben doch zu füttern?

Judith Bühler: Erst kürzlich habe ich mich wieder mit jungen Erwachsenen über Hass im Netz und die Bedeutung von Counter Speech, also Widerrede gegen Hate Speech, unterhalten. Ein Mann fand:  «Vielleicht folgen wir Jungen dem Mantra ‹Don’t feed the trolls› einfach zu sehr und entziehen uns damit der Verantwortung.»

Wie steht ihr nach zwei Jahren Projektarbeit zum Troll-Grundsatz?

Pius von Däniken: Wir sind zum Schluss gekommen: Hassrede sollte man nicht stehen lassen. Der Grund dafür sind unsere Forschungserkenntnisse. So konnten wir nicht feststellen, dass der Counter Speech unserer Social Influencer:innen gegen Kommentare von Trollen einen negativen Effekt auf die Diskussionsqualität hatte. Teilweise stellten wir sogar einen leicht positiven Effekt fest.

JB: Man muss noch hinzufügen, dass die Wirkung von Counter Speech, wie wir sie untersucht haben, sich nicht primär an die Hater selbst richtet, sondern an die stillen Mitlesenden, die sogenannten Bystander. Sie machen 80 bis 90 Prozent der Personen im Internet aus. Diese wollen wir in ihrer Haltung und Meinung adressieren, um dem Hass etwas entgegenzusetzen.

Kann KI in diesem Fall sozialarbeiterische Methoden übernehmen? 

JB: Grundsätzlich konnten wir nachweisen, dass Counter Speech eine valide sozialarbeiterische Intervention im digitalen Raum ist. KI kann Sozialarbeitende unterstützen, sowohl beim Finden von Hassrede wie auch bei der Gegenrede. Aber KI kann Menschen nicht ersetzen.

Inwiefern? 

PvD: Der Mensch muss nochmal kontrollieren, ob KI das Richtige gefunden hat. Ob sie den Kontext richtig erkannt hat. 

Könnt ihr ein Beispiel geben? 

JB: Wir fanden eine antisemitische Aussage in einem Kommentar unter einem Newsartikel. Diese Aussage konnte jedoch nur im Kontext der Artikelüberschrift und der Bilder als antisemitisch eingeordnet werden. KI war dazu nicht in der Lage – die Menschen hingegen schon. 

PvD: KI so zu trainieren, dass sie zuverlässig Hate Speech irgendwo im Internet findet, ist viel schwieriger, als wenn man eine Programmierschnittstelle hat wie in einem unserer früheren Projekte mit «X» beziehungsweise damals noch «Twitter». Wie findet KI den algorithmischen Kontext in dieser Flut an Daten, von denen vieles von Bots selbst produziert wurde? Das ist die grosse Herausforderung. KI im Kampf gegen Hate Speech fit zu machen – das geht nicht auf Knopfdruck.

Wie geht es mit dem Projekt «Social Influencer:in» weiter? 

JB: Dieses Jahr werden wir mittels Befragungen die Effekte der Counter-Speech-Methoden auf Personen, die von Hate Speech betroffen sind und solche, die Hass verbreiten sowie auf Bystander:innen erforschen. Ausserdem arbeiten wir an der Automatisierung von Counter Speech über KI und erstellen Begleitmaterialien für Fachpersonen, damit diese Hate Speech mit Schüler:innen oder Freiwilligen oder im soziokulturellen Kontext thematisieren können. Die Materialien werden frei verfügbar sein. Darunter befindet sich auch das Spiel «Counter Speech Hero» zum selbst Ausdrucken, das in den bisherigen Tests und Präsentationen auf grossen Anklang stiess.