Die aktuellen Debatten und die rasante Entwicklung von KI rücken immer wieder bestimmte Themen im Hinblick auf Gemeinwohl und die Zivilgesellschaft in den Vordergrund. Daher haben wir fünf zentrale Jahresthemen definiert, auf die wir unseren Fokus in diesem Jahr richten – von Benchmarking für Gemeinwohlorientierte KI (GeKI) bis zur Nachhaltigkeit von KI-Systemen. Diese Themen vernetzen Forschung, Praxis und Rahmensetzung und zahlen auf die Stärkung von KI für das Gemeinwohl ein.
Der AI Act der EU schafft einen verbindlichen Rechtsrahmen für vertrauenswürdige KI. Der risikobasierte Ansatz und die klaren Anforderungen für Hochrisiko-KI-Systeme an die Qualität der Trainingsdaten, Transparenz und menschliche Aufsicht sollen dabei helfen, nachhaltige Innovation zu fördern und ein hohes Schutzniveau für Grundrechte und demokratische Werte zu gewährleisten.
Um die Arbeit mit dem EU-Rechtsakt zu erleichtern, sind im AI Act Normen und Standards sowie Praxisleitfäden. Weitere Hilfestellungen wie freiwillige Standards (z. B.Mission KI des BMDV) und Selbstverpflichtungen (z. B. Code of Conduct Demokratische KI von D64) ergänzen diese Maßnahmen.
Eine beispielhafte Übersicht über bestehende Zertifizierungen, Regularien und toolbasierte Hilfestellungen bietet etwa der International AI Safety Report.
Ob und welche der bislang erarbeiteten Leitlinien und Handlungsmaßstäbe zukünftig als Benchmarks für vertrauenswürdige und Gemeinwohlorientierte KI in Frage kommen, gilt es in einem offenen Dialog von Wirtschaft, Zivilgesellschaft und öffentlicher Hand zu klären.
Für die Civic Coding-Community stellt sich die Frage, wie sie rechtskonforme KI-Systeme entwickeln kann: Welche Dokumentationspflichten gelten? Wie lassen sich Verzerrungen in Trainingsdaten erkennen? Und welche zusätzlichen Maßnahmen – beispielsweise im Bereich Nachhaltigkeit – sind sinnvoll? Doch begrenzte Ressourcen, unterschiedliche fachliche Hintergründe, fragmentierte Strukturen und fehlende Sensibilisierung erschweren den Austausch über Anforderungen an vertrauenswürdige und transparente KI. Mit unserer Initiative wollen wir dazu einen Beitrag leisten – als Treffpunkt unterschiedlicher Akteur*innen und zentraler Ort für Diskussion, Befähigung und konkrete Beteiligung, an dem Impulse für Gemeinwohlorientierte KI entstehen.
Die nachhaltige Finanzierung gemeinwohlorientierter KI-Projekte wurde unter anderem in der Civic Coding-Projektberatung als eine der zentralen Herausforderungen identifiziert. Viele dieser Projekte scheitern nicht an der Innovationskraft, sondern an unzureichender finanzieller und struktureller Unterstützung. Kleinere Organisationen stehen bei der Integration von KI durch begrenzte finanzielle Ressourcen vor besonderen Herausforderungen. Sie verfügen selten über ausreichend IT-Fachpersonal und können spezifische Anforderungen wie den Zugang zu spezialisierter KI-Infrastruktur kaum stemmen. Zudem bleibt der Zugang zu passenden Förderprogrammen aufgrund administrativer Hürden oft begrenzt.
Parallel dazu werden Fragen des Investitionsvolumens in europäische KI-Projekte angesichts der aktuellen globalen Entwicklungen auch auf politischer Ebene dringlicher. Während der Deutsche KI-Bundesverband ein privates Investment-Netzwerk aufbaut, setzt die EU auf nachhaltige öffentliche Förderung und den Ausbau von Impact-Investments. Beispiele sind Initiativen wie die PHINEO AG, die sich auf Finanzierung gemeinwohlorientierter Projekte spezialisiert hat, oder das Programm der Anthropia GmbH, das Soziale Innovationen durch vernetzte Unterstützung fördert.
Die Entwicklung von Finanzierungsmodellen für Gemeinwohlorientierte KI wird auch angesichts eines globalen Technologiewettbewerbs ein entscheidender Faktor und damit zentrales Diskussionsthema innerhalb der Civic Coding-Community, Financiers und der Wirtschaft im Allgemeinen sein.
Civic Coding leistet einen Beitrag zur Befähigung gemeinwohlorientierter KI-Projekte, private und öffentlich-rechtliche Förderungen und Investitionsmöglichkeiten zu erschließen, um so auf die Stärkung eines GeKI-Ökosystems hinzuwirken.
Die Entwicklung ausreichender Fachexpertise für KI wächst bisher nicht im gleichen Tempo wie der technologische Fortschritt. Besonders deutlich wird dies im Kontext zivilgesellschaftlicher Organisationen, die aufgrund des Mangels an Fachkräften in besonderer Weise in ihrer Fähigkeit eingeschränkt sind, KI zu nutzen und zu implementieren. Fehlendes technisches Know-how und begrenzte finanzielle Ressourcen erschweren den Zugang zu spezialisierter KI-Infrastruktur zusätzlich, oft liegen zudem – wie die ZiViZ-Survey 2023 dokumentiert – auch strukturelle Digitalisierungsdefizite vor.
Verbände, Gewerkschaften und Arbeitgeber*innen haben sich in den vergangenen Monaten verstärkt um Befähigungsangebote für Arbeitnehmer*innen bemüht. Gleichzeitig haben sich Wissenschaft und Forschung verstärkt auf KI-Entwicklung und -Anwendung ausgerichtet, was sich in steigenden Investitionen in KI-Studiengänge, Forschungscluster und interdisziplinären Programme zeigt. Politische Maßnahmen wie die nationale KI-Strategie oder sektorale Förderprogramme flankieren das Bemühen um eine Verbesserung der KI-Kompetenzen in der deutschen Wirtschaft.
In den kommenden Jahren wird die Relevanz der Debatte um KI-Kompetenzen weiter zunehmen. Auch der AI Act der EU verpflichtet Anbieter und Betreiber von KI-Systemen zu Maßnahmen zur KI-Kompetenz zu ergreifen.
Bereits seit mehreren Jahren setzt Civic Coding Angebote um, die insbesondere gemeinwohlorientierte KI-Projekte stärken sollen. Mit der Unterstützung zivilgesellschaftlicher Organisationen in den Bereichen Personal, Expertise und Weiterbildung trägt unsere Initiative dazu bei, auf bestehende Bedarfe zu reagieren und die Akteur*innen zu befähigen, sich aktiv in den Diskurs um eine werteorientierte KI-Gestaltung einzubringen.
Das internationale Vordringen von Autokratien und die Zurückdrängung pluralistischer Diskursräume waren und sind zentrale Themen der öffentlichen Debatte und medialen Berichterstattung. Technologische Neuerungen wie KI-generierte Deepfakes, automatisierte Propaganda oder algorithmische Manipulation stellen zusätzliche Herausforderungen für demokratische Prozesse dar. Die hiermit verbundene Diskussion reicht über politische und gesellschaftliche Sphären hinaus und berührt verschiedene Fragestellungen: Welche Verantwortung tragen Journalismus, klassische Medien und soziale Netzwerke für eine demokratische Gesellschaft? Wie beeinflusst das veränderte Informationsverhalten die öffentliche Meinungsbildung? Wie können bekannte Informations- und Diskursräume geschützt oder neue Angebote geschaffen werden? Was kann man auch von jeder/jedem Einzelnen erwarten, um entsprechend aufmerksam im Umgang mit KI zu werden?
Bei der Suche nach Antworten spielen Akteur*innen aus Politik, Wirtschaft und Journalismus, vor allem aber auch der Zivilgesellschaft eine entscheidende Rolle: Faktencheck-Organisationen wie CORRECTIV, der Faktenfinder der Tagesschau und EUvsDisinfo arbeiten daran, den Wahrheitsgehalt von Informationen zu überprüfen, Fehl- und Desinformationen aufzudecken und Inhalte richtigzustellen. Der europäische Digital Services Act (DSA) hat zum Ziel, ein sicheres, berechenbares und vertrauenswürdiges Online-Umfeld zu schaffen und verpflichtet Plattformen unter bestimmten Voraussetzungen zum Vorgehen gegen rechtswidrige Inhalte. Um dies schnell und zuverlässig zu erreichen, setzt der DSA auf sogenannte „Trusted Flagger“, die bei der Identifizierung und Entfernung von rechtswidrigen Inhalten wie ggf. systematisch verbreiteten Desinformationen unterstützen sollen. Im Bereich der Medienkompetenz fördern Projekte wie Lie Detectors und klicksafe das kritische Denken im Umgang mit digitalen Inhalten. Vermehrt kommen zudem auch KI-basierte Anwendungen zum Einsatz, beispielsweise Initiativen wie Bellingcat Crowdsourcing und Open-Source-Methoden, um Falschinformationen zu entlarven. Inwieweit gerade gemeinwohlorientierte KI-Systeme die Initiativen aus Zivilgesellschaft, Medien, Wirtschaft und Politik bei ihren Bemühungen gegen Desinformation unterstützen können, wird in den kommenden Monaten zu diskutieren sein.
Mit diesem Themenschwerpunkt – Gemeinwohlorientierte KI zur Identifikation und Bekämpfung von Desinformation – trägt Civic Coding dazu bei, die vielen unterschiedlichen Aspekte und Diskussionsräume zum Thema Desinformation miteinander zu vernetzen. Insbesondere für Sozialunternehmen und Entwickler*innen aus der Civic Coding-Community ist dies relevant, da sie durch Teilnahme an Fachdiskursen und Tagungen außerhalb der klassischen KI- und Digital-Community sichtbarer werden können: bei klassischen Medienhäusern, in der Journalismusforschung, in der IT-Forschung, in der politischen Bildung oder auch bei Verbraucherschutzorganisationen.
Die von KI hervorgerufenen Umweltbelastungen werden in Zivilgesellschaft, Wirtschaft, Wissenschaft und Politik zunehmend diskutiert.
KI hat einen immensen Energie- und Ressourcenverbrauch sowie CO₂-Ausstoß über den gesamten Wertschöpfungszyklus – von Entwicklung und Training bis zu Anwendung der KI, E-Waste und Hardwareherstellung. Besonders der hohe Energieverbrauch von KI-Modellen stellt aktuell eine zunehmende Herausforderung dar: So zeigt eine aktuelle Studie der Deutschen Energie-Agentur aus dem Jahr 2024, dass das Training eines State-of-the-Art-KI-Modells Emissionen verursacht, die vergleichbar sind mit dem CO₂-Ausstoß von 300 Hin- und Rückflügen einer Person zwischen San Francisco und New York. Neben dem hohen Strombedarf für Training und Nutzung von KI-Modellen ist auch der Wasserverbrauch von Rechenzentren für die Kühlung ein wesentlicher Faktor. Hinzu kommen Umweltbelastungen beim Ressourcenabbau für die Herstellung spezialisierter Chips und Hochleistungsprozessoren.
Gleichzeitig argumentieren Befürworter*innen großer Datenmodelle und KI-Systeme, dass die Technologie zur Bewältigung der Klimakrise und zur Beschleunigung der ökologischen Transformation der Wirtschaft beitragen kann.
Ob und unter welchen Voraussetzungen das angesichts der genannten Nachhaltigkeitsaspekte tatsächlich der Fall sein kann, wird im Jahr 2025 differenzierter zu diskutieren sein.
Als Initiative für Gemeinwohlorientierte KI trägt Civic Coding zur Information und Sensibilisierung über das Zukunftsthema KI und Nachhaltigkeit sowie zur Mobilisierung für die aktive Teilnahme an der Normung nachhaltiger KI-Systeme bei.
Weitere Informationen zu unseren Veranstaltungen und aktuelle Ankündigungen findest du auf der Veranstaltungsseite.
Jetzt anmelden und keine Neuigkeiten verpassen! Mit dem Civic Coding-Update wollen wir dich über Veranstaltungen, Förderangebote und Projekte aus der Initiative und der KI-Welt auf dem Laufenden halten.