Welche Potenziale und Gefahren bergen KI-Anwendungen im Umgang mit Hass und Gewalt im Netz? Während beispielsweise Algorithmen einerseits polarisierende und extremistische Inhalte verstärken und damit zu einem Anstieg von Feindseligkeit beitragen können, bieten KI-Technologien auf der anderen Seite die Möglichkeit, Hassrede zu erkennen, dagegen vorzugehen sowie positive Inhalte stärker zu verbreiten. Gemeinsam mit Expert*innen beleuchten wir im Civic Coding-Schlaglicht verschiedene Perspektiven dieses Themas.
Die Zunahme von Gewalt und Hass im Internet stellt eine wachsende Bedrohung für unsere Gesellschaft dar. Sie hat das Potenzial, unser soziales Gefüge zu destabilisieren und die Grundlagen einer toleranten, pluralistischen Gesellschaft zu untergraben. Hasskommentare, Drohungen und Diskriminierung im Netz verschärfen gesellschaftliche Spaltungen und fördern das Misstrauen zwischen verschiedenen sozialen Gruppen. Künstliche Intelligenz (KI) bringt dabei sowohl Risiken als auch Chancen mit sich.
Algorithmen, die auf personalisierten Empfehlungen basieren, verstärken oft Inhalte, die eine hohe Interaktion erzeugen – darunter auch polarisierende und gewaltfördernde Aussagen. Dies führt dazu, dass KI-gesteuerte Plattformen die Verbreitung von Hassreden begünstigen können, da kontroverse Inhalte die Aufmerksamkeit und Emotionen der Nutzer*innen stärker anziehen.
Gleichzeitig bietet KI aber auch vielversprechende Möglichkeiten, um Gewalt und Hass im Netz wirksam zu bekämpfen: So kann sie genutzt werden, um Hassrede automatisch zu erkennen und zu filtern. Frühwarnsysteme für Plattformen zu schaffen oder Tools für Nutzer*innen bereitzustellen, mit denen diese selbst Hasskommentare melden können. Braucht es also eine ganzheitliche Strategie, die auf der Zusammenarbeit von Plattformbetreibenden, Regierungen, zivilgesellschaftlichen Organisationen und den Nutzer*innen basiert, um diese Potenziale in Gänze auszuschöpfen und Gewalt im Netz nachhaltig zu bekämpfen?
In diesem Schlaglicht diskutieren wir mit Dr. Laura Braam von der Landesanstalt für Medien NRW und Dr. Bernd Zywietz von jugendschutz.net über die Möglichkeiten und Grenzen von KI zur Bekämpfung von Gewalt und Hass im Netz. Dabei stehen Fragen im Vordergrund, wie KI-Systeme so gestaltet werden können, dass sie gewaltvolle Inhalte effektiv identifizieren und wie zivilgesellschaftliche Akteur*innen und die breite Öffentlichkeit in diesen Prozess einbezogen werden können.
Melde dich jetzt an und sei am Dienstag, 03.12.2024 um 16:00 Uhr live dabei!
Hinweis: Die Veranstaltung wird aufgezeichnet und im Nachgang im Community-Bereich unseres Webportals zur Verfügung gestellt.
ist seit dem 1. Januar 2024 Leiterin der Abteilung Recht und Justiziarin der Landesanstalt für Medien NRW. Sie hat Rechtswissenschaften an der Universität Bonn studiert und dort 2014 zu einem medienrechtlichen Thema promoviert. 2015 begann sie ihre Laufbahn in der Landesanstalt für Medien NRW. 2019 übernahm sie die Leitung des Teams Aufsicht. Zuvor war sie als stellvertretende Leiterin der Gruppe Medienpolitik und -ökonomie der Landesanstalt für Medien NRW und als wissenschaftliche Mitarbeiterin in einer Rechtsanwaltskanzlei für Presse- und Äußerungsrecht tätig.
© Landesanstalt für Medien NRW
ist Leiter des Bereichs Politischer Extremismus bei jugendschutz.net, dem Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet. Daneben arbeitet er als freier Medienwissenschaftler und ist Herausgeber der Buchreihe „Aktivismus- und Propagandaforschung“.
© Privat
Jetzt anmelden und keine Neuigkeiten verpassen! Mit dem Civic Coding-Update wollen wir dich über Veranstaltungen, Förderangebote und Projekte aus der Initiative und der KI-Welt auf dem Laufenden halten.