Springe direkt zum: Inhalt

Gastbeitrag von REspect! im Netz zum Civic Coding-Schlaglicht „Zivilgesellschaft als Trusted Flagger“ - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Gastbeitrag: Hass im Netz: Alltag für viele

In unserem gemeinsamen Civic Coding-Schlaglicht mit RESPECT! im Netz im Mai 2025 gaben Vertreter*innen von REspect! sowie von HateAid und der Bildungsstätte Anne Frank Einblicke in ihre Arbeit und zeigten, wie sogenannte „Trusted Flagger“ Hass im Netz bekämpfen können. Der Gastbeitrag von REspect! beleuchtet dieses Thema näher: Er zeigt die aktuellen Herausforderungen durch digitale Gewalt, wie sie die Demokratie gefährdet und mit welchen Maßnahmen das REspect!-Team Betroffene unterstützt.

Am 14. Mai 2025 fand unser Civic Coding-Schlaglicht in Kooperation mit REspect! im Netz zum Thema „Zivilgesellschaft als Trusted Flagger“ statt. Gemeinsam mit Vertreter*innen von REspect! sowie Katharina Goede von HateAid und Leo Fischer von der Bildungsstätte Anne Frank diskutierten wir über das Ausmaß von Hass im Netz, die Auswirkungen auf unsere Demokratie und die Rolle von Trusted Flaggern bei der Regulierung von Plattformen.

Mehr über die aktuellen Bedrohungen durch Hass und Hetze im Netz und die Arbeit von REspect! im Netz sowie über die von REspect! betriebene Meldestelle, die als Trusted Flagger zu diesem Thema anerkannt wurde, erfährst du hier in ihrem Expert*innenbeitrag.

Fast 90 % der Internetnutzer*innen haben den Eindruck, dass Hass im Netz in den letzten Jahren zugenommen hat. Knapp die Hälfte gibt an, selbst schon einmal online beleidigt worden zu sein – und oft bleibt es nicht bei bloßen Beschimpfungen. Drohungen mit körperlicher oder sexualisierter Gewalt, sexuelle Belästigung, das Zusenden unerwünschter Nacktbilder, die Veröffentlichung privater Informationen oder Bilder („Doxing“), falsche oder diffamierende Behauptungen bis hin zu pornographischen Deepfakes: Fast ein Viertel der Menschen in Deutschland hat eines oder mehrere dieser Phänomene wiederholt im Netz erlebt.

Diese Zahlen stammen aus der Studie „Lauter Hass – leiser Rückzug“, die die Ergebnisse einer repräsentativen Befragung von Internetnutzer*innen ab 16 Jahren vorstellt. Herausgegeben wurde die Studie vom Kompetenznetzwerk gegen Hass im Netz – seit 2025 unter dem Namen toneshift – Netzwerk gegen Hass im Netz und Desinformation.

Doch was genau versteht man eigentlich unter Hass im Netz? toneshift definiert ihn als eine Vielzahl unterschiedlicher Online-Phänomene, die etwa abwertend, entwürdigend, einschüchternd oder hetzerisch gegenüber Einzelpersonen oder Gruppen wirken. Gemeint sind dabei sowohl Inhalte als auch Handlungen.

Schweigen statt Diskurs: Wenn Hass im Netz die Demokratie gefährdet

Hass im Netz hinterlässt Spuren. Er verletzt, schüchtert ein – und bringt Menschen zum Schweigen. Rund 70 % derjenigen, die selbst betroffen waren, beteiligen sich seltener an Online-Diskussionen. Besonders häufig fehlen dann die Stimmen junger Frauen, queerer Menschen oder Personen mit (sichtbarem) Migrationshintergrund – also genau jener Personen, die gesellschaftliche Vielfalt sichtbar machen. Aber auch viele, die nicht selbst Zielscheibe waren, ziehen sich aus Angst zurück.

Die Grenze zwischen digitaler und analoger Gewalt ist dabei fließend. Übergriffe auf Politiker*innen belegen das eindrücklich: Wer im Netz angegriffen wurde, ist laut einer Befragung der TU München und HateAid auch im realen Leben deutlich häufiger von Gewalt betroffen. Viele politisch Engagierte ziehen deshalb in Erwägung, sich aus der Öffentlichkeit zurückzuziehen. Unter Frauen ist dieser Gedanke sogar signifikant häufiger als unter Männern – mit der Folge, dass bestimmte Gruppen aus dem politischen Leben systematisch verdrängt werden könnten.

Dabei ist es nicht allein der Hass, der Menschen verstummen lässt. Viele fühlen sich mit den Angriffen allein gelassen. Es mangelt an Unterstützung, Solidarität und öffentlicher Gegenwehr. Genau hier muss die gesellschaftliche Antwort auf Onlinehass ansetzen.

Eine solche Antwort kann jede und jeder geben – zum Beispiel durch Gegenrede in Kommentarspalten, wenn andere beleidigt, bedroht oder herabgewürdigt werden. Dabei sollte man sich über die eigenen Ziele im Klaren sein: Die meisten Hetzer*innen wird man nicht durch ein paar Kommentare bekehren. Die Motive für Hasspostings sind komplex. Doch Gegenrede wirkt – wenn auch nicht primär auf die Täter*innen, sondern auf die Betroffenen und das oft stille Publikum. Solidarität zeigen und Haltung beziehen, darum geht es.

Dabei gilt: Wie im analogen Leben geht Selbstschutz vor Fremdschutz. Wer sich gegen Hass im Netz engagiert, sollte sich fragen, ob er oder sie aktuell die zeitlichen und psychischen Ressourcen dafür hat. Wird es zu viel, darf man blockieren – digitale Grenzen zu ziehen ist legitim und notwendig.

Denn wenn Angst den Diskurs bestimmt, wird Meinungsfreiheit zur leeren Hülle. Zwar schützt das Grundgesetz die Meinungsfreiheit, doch sie findet laut Artikel 5 Absatz 2 ihre Grenzen dort, wo strafbare Inhalte beginnen – etwa Volksverhetzung (§ 130), Bedrohungen (§ 241), Verleumdung (§ 187) oder das Verwenden von Kennzeichen verfassungswidriger und terroristischer Organisationen (§ 86a). Hass im Netz ist an sich kein eigener Straftatbestand (und im Übrigen auch kein juristischer Begriff), er ist aber dann strafbar, wenn er einen konkreten Tatbestand erfüllt. Was offline strafbar ist, ist es auch online. Trotzdem melden nur 5 % der Nutzer*innen Hass im Netz der Polizei – die Hemmschwelle ist offenbar hoch.

REspect! im Netz unterstützt jene, die Hass nicht einfach stehen lassen wollen

Genau hier setzt REspect! im Netz an – ein Angebot der Jugendstiftung Baden-Württemberg. Über eine einfache Online-Meldemaske können Nutzer*innen Hassinhalte melden. Ein juristisches Team prüft dann, ob der gemeldete Inhalt strafrechtlich relevant ist und gibt der meldenden Person eine rechtliche Einschätzung – vertraulich, sicher und ohne Risiko. 2024 gingen 32.587 Meldungen – etwa 89 durchschnittlich pro Tag – bei REspect! im Netz ein.

Bei strafbaren Inhalten unterscheidet das Strafrecht zwischen Antrags- und Offizialdelikten: Antragsdelikte – etwa Beleidigung (§ 185) oder Verleumdung (§ 187) – werden nur dann strafrechtlich verfolgt, wenn die jeweils betroffene Person einen Strafantrag stellt. Offizialdelikte wie Volksverhetzung (§ 130) oder das Verwenden verbotener Kennzeichen (§ 86a) werden dagegen von Amts wegen verfolgt. Gelangt das juristische Team von REspect! im Netz zur Einschätzung, dass ein Offizialdelikt vorliegt, leitet es den Fall an das Bundeskriminalamt (BKA) weiter.

Stuft auch das BKA den Inhalt als strafbar ein und ist er weiterhin online verfügbar, stellt REspect! im Netz beim jeweiligen Hostingdienst eine Löschbitte – in seiner Funktion als Trusted Flagger nach dem EU-weiten Digital Services Act (DSA). Seit Oktober 2024 ist REspect! im Netz offiziell zertifizierter Trusted Flagger. Solche Organisationen zeichnen sich durch besondere Kompetenz bei der Erkennung illegaler Inhalte aus. Bereits in der Vergangenheit arbeiteten viele großen Social Media-Plattformen auf freiwilliger Basis mit von ihnen selbst bestimmten Trusted Flaggern zusammen, um illegale Inhalte schneller und effektiver zu entfernen. Neu ist, dass der Trusted-Flagger-Status in der EU nun auf gesetzlicher Grundlage basiert und von staatlichen Stellen – in Deutschland durch die Bundesnetzagentur – vergeben wird. Plattformen sind verpflichtet, auf Hinweise dieser Stellen priorisiert und unverzüglich zu reagieren. Die endgültige Entscheidung über Löschung oder Einschränkung trifft jedoch weiterhin die jeweilige Plattform. Die ersten Ergebnisse als Trusted-Flagger hat REspect! im Netz beim Civic Coding-Schlaglicht im Mai vorgestellt.

Der gesellschaftliche Konsens ist klar: Inhalte, die gegen Gesetze verstoßen, sollten gelöscht werden – das befürworten rund 90 % der Internetnutzer*innen, quer durch alle politischen Lager. Auch das zeigte die Studie "Lauter Hass – leiser Rückzug".

Bildung, Beratung, Bündnisse: Mit REspect! im Netz gegen digitalen Hass

Doch was ist mit antisemitischen, rassistischen, queerfeindlichen oder anderweitig verletzenden Inhalten, die unterhalb der Strafbarkeitsgrenze bleiben – also mit Aussagen, die man als „awful but lawful“ bezeichnen könnte? Zwei Drittel der Nutzer*innen sind der Meinung, dass auch solche Inhalte nicht einfach hingenommen werden sollten. Ein Fall für das Strafrecht ist das jedoch nicht – und damit auch nicht für einen Trusted Flagger.

Die Arbeit von REspect! im Netz erschöpft sich jedoch nicht in der Tätigkeit als Trusted Flagger. Betroffene dürfen mit Hass nicht allein gelassen werden. Eine bereits dargelegte Möglichkeit, sich solidarisch zu zeigen, ist Gegenrede. Daneben gibt es aber eine Vielzahl an spezialisierten Beratungsstellen, an die sich Betroffene wenden können. REspect! im Netz vermittelt bei Bedarf passgenaue Kontakte. Ein weiterer wichtiger Baustein der Arbeit von REspect! im Netz und der Jugendstiftung Baden-Württemberg sind pädagogische Angebote, Arbeitsmaterialien und Fortbildungen für Fachkräfte. In Workshops für Schüler*innen, Fachkräfte und die Zivilgesellschaft wird Wissen über das Ausmaß und die Mechanismen von Hass im Netz vermittelt sowie Resilienz und Handlungskompetenz gegenüber Hass im Netz gefördert. Das Peer-to-Peer Konzept Vielfaltcoach regt Jugendliche zu einer handlungsorientierten Auseinandersetzung mit den Menschenrechten, demokratischen Werten und der Demokratie im Netz an. Hierzu entwickelt die Jugendstiftung bis Ende 2025 einen umfangreichen Materialordner für Lehr- und pädagogische Fachkräfte. Das Browsergame Join-the-comfortzone für Jugendliche ab 14 Jahren zeigt, was es bedeutet, in einem Unrechtsstaat zu leben, in dem Meinungsfreiheit kein Grundrecht ist.

Der Kampf gegen Hass im Netz erfordert ein Zusammenspiel verschiedener Ansätze: Zivilgesellschaftliches Engagement, pädagogische Präventionsarbeit und ein konsequentes strafrechtliches Vorgehen entfalten erst im Verbund ihre Wirkung. Deswegen kommt es auch auf die Vernetzung der verschiedenen Akteur*innen an, die sich tagtäglich für ein demokratisches Miteinander im Netz einsetzen. Hier kommt toneshift – Netzwerk gegen Hass im Netz und Desinformation ins Spiel. Unter diesem Banner bündeln Das NETTZ, die Gesellschaft für Medienpädagogik und Kommunikationskultur, HateAid, das Institut für Demokratie und Zivilgesellschaft, die Neuen deutschen Medienmacher*innen und REspect! im Netz ihre Erfahrungen und Expertise, um eine bundeszentrale Infrastruktur gegen Hass im Netz und Desinformation aufzubauen. Nur gemeinsam lässt sich ein digitales Umfeld gestalten, in dem Respekt, Vielfalt und eine demokratische Debattenkultur wieder mehr Raum bekommen.

Quellen

Für die Einführung ins Themenfeld empfohlen:

Brodnig, I. (2024): Wider die Verrohung. Über die gezielte Zerstörung öffentlicher Debatten. Strategien & Tipps, um auf Emotionalisierung und Fake News besser antworten zu können. Wien.

Civic Coding-Updates

Jetzt anmelden und keine Neuigkeiten verpassen! Mit dem Civic Coding-Update wollen wir dich über Veranstaltungen, Förderangebote und Projekte aus der Initiative und der KI-Welt auf dem Laufenden halten. Außerdem informieren wir dich exklusiv über themenrelevante Großveranstaltungen.