Springe direkt zum: Inhalt

Open Source im Innovationsfeld KI | Civic Coding-Schlaglicht - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Unser Nachbericht zum dritten Civic Coding-Schlaglicht

Wie können offene Technologiebewegungen ein gemeinwohlorientiertes KI-Ökosystem stärken? Diese und weitere Fragen haben wir in unserem dritten Civic Coding-Schlaglicht „Open-Source- und Graswurzelbewegungen im Innovationsfeld KI: Auf dem Weg zu einem gemeinwohlorientierten Ökosystem?” am 06.12.2023 mit Expert*innen diskutiert und unterschiedliche Perspektiven beleuchtet.  

Julian Stubbe von der Civic Coding-Geschäftsstelle moderierte die virtuelle Veranstaltung und diskutierte mit folgenden Expert*innen über die Potenziale von Open-Source- und Graswurzelbewegungen (politische oder gesellschaftliche Initiativen aus der Bevölkerung): 

Die Philosophie hinter Open Source

Open Source bedeutet zunächst, dass der Quellcode einer Software frei zugänglich und nutzbar ist. Dr. Henriette Litta betonte während der Veranstaltung, dass die Open-Source-Bewegung jedoch noch darüber hinausgehe und Teil einer umfassenden Philosophie der Offenheit sei. Es gehe darum, Wissen gemeinsam und partizipativ zu erarbeiten und gemeinsame Wissensprozesse reproduzierbar zu machen.

„Offenheit ist eine Grundvoraussetzung für gelingende Innovationsökosysteme mit Gemeinwohlorientierung. Auf technologischer Ebene bedeutet Offenheit, Daten zugänglich zu machen und Anwendungen als Open Source zu entwickeln. Aber auch die Governance muss offen sein: Sie muss Beteiligung und Kooperationen stärken und diese auch selber leben.“

Dr. Henriette Litta, Geschäftsführerin der Open Knowledge Foundation Deutschland e.V.

Obwohl die meisten Open-Source-Projekte keinen Profit anstreben, schließen sich Open Source und eine Marktorientierung nicht aus. Zudem zeigen Beispiele wie Browser Firefox, der Messenger Signal oder OpenStreetMap, dass sich auch Open-Source-Anwendungen als erfolgreiche Player im Markt etablieren können. Open Source sei inzwischen keine Nische mehr, so Litta.

KI und Open Source in Verwaltung und Politik

Als Plattform für Themen zur Digitalisierung der öffentlichen Verwaltung beschäftigt sich das NEGZ in Bezug auf Künstliche Intelligenz hauptsächlich mit zwei Fragen: Wo können KI-Technologien in der öffentlichen Verwaltung eingesetzt werden, um einen gewinnbringenden Nutzen für die Bürger*innen zu schaffen? Und wie kann sichergestellt werden, dass die eingesetzten KI-Anwendungen zuverlässig und für das jeweilige Einsatzgebiet geeignet sind?

Basanta Thapa betonte, dass bei einem Einsatz von KI für eine automatisierte Verwaltung besonders darauf zu achten sei, dass die getroffenen Entscheidungen für die Bürger*innen nachvollziehbar sind. Außerdem spielten die Trainingsdaten der KI-Systeme eine entscheidende Rolle. Denn hier könnten unter Umständen diskriminierende Algorithmen entstehen, die auf Entscheidungen der letzten Jahre basieren. Open Source sei hier ein Weg, um für mehr Transparenz zu sorgen und sogenannte Datenverzerrungen (biases) zu erkennen.

Für mehr Transparenz in Politik und Verwaltung mit digitalen und offenen Technologien zu sorgen, ist auch das Ziel des Programms „Frag den Staat“ der OKF, das Dr. Henriette Litta ausführlicher vorstellte. So zeigt sich, dass Open Source sowohl von politischer als auch von zivilgesellschaftlicher Seite vielfältige Möglichkeiten bietet, durch seine transparenten und partizipativen Eigenschaften die politische Bildung und die Demokratie zu stärken.

Übrigens: In unserem 2. Civic Coding-Schlaglicht „KI und Demokratie“ haben wir uns genauer damit beschäftigt, wie KI-Anwendungen unsere demokratischen Prozesse stären können. Du hast die Veranstaltung verpasst? Dann registriere dich jetzt in der Civic Coding-Community, um die Aufzeichnung und einen Nachbericht anzusehen! 

Das Thema Open Source werde in der Verwaltung bisher eher losgelöst von KI diskutiert, so Thapa. Aus seiner Sicht können Open-Source-Anwendungen aber ein wichtiger Baustein jenseits kommerzieller Systeme für leistungsfähige KI-Lösungen sein und ohne Open Source werde es in der Verwaltung aufgrund der Komplexität und Sensibilität der Themen nicht gehen.

„Open-Source-Software kann für den Staat viele Vorteile haben – auch über digitale Souveränität hinaus. Das entsprechende Denken und Handeln ist für die Verwaltung aber noch ungewohnt.“

Basanta Thapa, Geschäftsführer des NEGZ Nationales E-Government Kompetenzzentrum

Als konkretes Beispiel für Open-Source-KI-Anwendungen nannte Basanta Thapa die Bundesbots der Bundesverwaltung, denen man per Chat Fragen zu verschiedenen Themen wie Kfz-Steuer, Ausweisdokumenten oder grenzüberschreitendem Waren- und Dienstleistungsverkehr stellen kann. Thapa sieht in der Open-Source-Basis und der damit verbundenen Transparenz und Anpassbarkeit einen großen Mehrwert.

Teilhabe und Sichtbarkeit für marginalisierte Gruppen mithilfe von KI und Open Source

Die Non-Profit-Organisation Queer in AI, in der Dr. Sabine Weber aktiv ist, bietet Unterstützung für queere Menschen, indem es Workshops und Konferenzen organisiert und akademische Stipendienprogramme zur Verfügung stellt. Auf diese Weise fördert die Organisation die Teilhabe und Sichtbarkeit queerer Menschen in Wissenschaft und Tech-Industrie.

Da die Organisation in der Wissenschaft verwurzelt ist, sieht Weber das offene Schaffen und Teilen von Wissen als eines ihrer Hauptprinzipien. Neben wissenschaftlichen Publikationen entstehen auch immer wieder Open-Source-Projekte aus dem Netzwerk heraus, wie zum Beispiel eine Software, die dabei hilft, sogenanntes Deadnaming, das heißt die Verwendung eines alten Namens einer Transperson, in wissenschaftlichen Publikationen zu vermeiden.

Als zweites Beispiel stellte Dr. Weber, die auf Sprachsysteme und multilinguale Anwendungen spezialisiert ist, die Graswurzelbewegung Masakhane (Wir erschaffen gemeinsam” auf isiZulu) vor. Dabei handelt es sich um eine Gemeinschaft aus Afrikaner*innen des gesamten Kontinents, die das Ziel verfolgen, Übersetzungssysteme für unterrepräsentierte afrikanische Sprachen als Open-Source-Anwendungen zur Verfügung zu stellen. Seit 2020 hat die Masakhane-Bewegung bereits mehr als 40 Open-Source-Übersetzungssysteme für diese Sprachen entwickelt und wissenschaftliche Publikationen zum Thema veröffentlicht.

„Open Source ermöglicht es den Communities, die eine Lösung suchen, sich diese Lösung selbst zu erstellen. Damit Communities eigenständig mit KI effizient und gut Probleme lösen können.“

Dr. Sabine Weber, Organisatorin bei Queer in AI

Wie lassen sich strukturelle Ungleichheiten der Gesellschaft in KI-Anwendungen verhindern?

Neben den Chancen, die KI-Technologien für marginalisierte Gruppen bieten, wurde auf der Veranstaltung auch die Gefahr struktureller Benachteiligung thematisiert. Dr. Sabine Weber betonte, dass es ein essenzieller Bestandteil von KI sei, aus großen Datenmengen Muster zu erkennen und damit Vorhersagen für die Zukunft zu treffen. Im gesellschaftlichen Kontext stelle sich hier die Frage, inwiefern Daten aus der Vergangenheit, die aus einer von Diskriminierung geprägten Gesellschaft stammen, diese Muster und Biases reproduzieren. Daher müssen diese Muster sowohl in unserer Gesellschaft als auch in den Technologien, erkannt und aufgelöst werden. Dr. Henriette Litta nannte hier Watchdog-Organisationen wie AlgorithmWatch, die entsprechende Diskussionen vorantreiben. Beide betonten, diese Kontrollmechanismen nicht als Innovationsbremse zu sehen, sondern sie als wichtige Chance für die Gestaltung von inklusiven und gerechten Technologien zu begreifen. Open Source biete hier die ideale Möglichkeit, nicht erst nach Veröffentlichung eines Produkts einen kritischen Blick auf den Code zu werfen.

Das Innovationspotenzial von Open-Source- und Graswurzelbewegungen

Insgesamt sehen die Expert*innen ein großes Innovationspotenzial in Open-Source-Bewegungen, die es unterschiedlichsten Akteur*innen und Communities ermöglicht, selbstorganisiert an Lösungen zu arbeiten. In niederschwelligen Graswurzelbewegungen können so unterschiedliche Ressourcen und Stärken zusammengeführt werden, um ein Problem zu lösen, ohne dass dabei Profitorientierung im Vordergrund steht. Über digitale Plattformen, wie GitHub, Slack und Discord, entstehen hier niedrigschwellige, dezentrale Ökosysteme, auf denen sich Entwickler*innen, Nutzer*innen, aber auch Unternehmen und Dienstleister zusammenfinden, um kollaborativ an einem offenen Code zu arbeiten.

Du hast die Veranstaltung verpasst? In der Civic Coding-Community kannst du dir in Kürze die Aufzeichnung des dritten Schlaglichts ansehen – registriere dich jetzt!