Vertrauenswürdige Künstliche Intelligenz – das ist ein wichtiges Ziel der Regulierung von KI in Europa. Ein zentrales Element: der AI Act der EU, die verbindliche Regeln für KI-Systeme auf dem europäischen Markt schafft. Anforderungen an Trainingsdaten, Transparenz und menschliche Aufsicht sollen Grundrechte schützen und Vertrauen in KI-Systeme schaffen. Doch wie lassen sich diese Vorgaben in der Praxis umsetzen? Und welche Rolle nimmt die Zivilgesellschaft bei der Gestaltung von technischen Standards und ethischen Leitlinien ein?
In unterschiedlichen Veranstaltungsreihen haben wir gemeinsam mit Expert*innen aus Zivilgesellschaft, Forschung und Verwaltung beleuchtet, wie KI-Regulierung, -Standardisierung und die Entwicklung ethischer Leitlinien funktionieren – und wie die Zivilgesellschaft daran mitwirken kann.
Auf dieser Seite bündeln wir alle Inhalte rund um Vertrauenswürdige KI: Entdecke hier Perspektiven, Nachberichte und Impulse zum Thema!
Was bedeutet der EU-AI Act für gemeinwohlorientierte Projekte? Welche Rolle spielen Leitlinien und Verhaltenskodizes für einen ethischen KI-Einsatz und eine effektive KI-Governance? Und wie kann die Zivilgesellschaft bei der Gestaltung solcher KI-Leitlinien mitwirken? In unseren Live-Talks und auf Veranstaltungen haben wir diese und weitere Fragen mit Expert*innen diskutiert. Entdecke hier unsere Beiträge zum Thema:
Du möchtest dir die Videos zum Thema anschauen? Finde die Aufzeichnungen der virtuellen Veranstaltungen in der Mediathek unserer Civic Coding-Community!
Damit Menschen KI-Systemen vertrauen können, müssen sie sich bei ihrer Nutzung sicher fühlen. Voraussetzung dafür ist, dass die Technologie zum Beispiel transparent, nachvollziehbar und fair gestaltet ist. Menschen müssen verstehen können, auf welcher Datengrundlage und nach welchen Kriterien ein KI-System eine bestimmte Empfehlung formuliert. Ebenso wichtig ist, dass sie Einfluss auf das System nehmen und die Kontrolle behalten können. Und sie müssen erkennen können, wenn das System einen Fehler macht. Diese Maßnahmen sind ein wichtiges Mittel, damit das Vertrauen in die Technologie steigt.
Diese und weitere Werte bilden die Grundlage für Vertrauenswürdige KI. Manche dieser Werte sind rechtlich verankert, zum Beispiel in der europäischen KI-Verordnung oder im Datenschutz. Andere hingegen sind Teil ethischer Leitlinien und Selbstverpflichtungen.
Welche Werte und Kriterien eingehalten werden müssen, damit KI-Systeme von der Gesellschaft als vertrauenswürdig erachtet und auch in sensiblen Bereichen wie Sozialer Arbeit, der Bildung oder Umweltschutz eingesetzt werden, ist ein offener Diskurs. Civic Coding begleitet diesen Austausch mit verschiedenen Maßnahmen und Veröffentlichungen.
Mit dem AI Act hat die EU erstmals einen umfassenden Rechtsrahmen für KI geschaffen. Wichtig ist jetzt, wie die gesetzlichen Vorgaben in der Praxis rechtssicher umgesetzt werden können. Dabei sollen vor allem technische Standards eine wichtige Rolle spielen. In unserer ersten Reihe „Civic Coding x“ informierten wir in Kooperation mit dem Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) über den Sinn und Zweck solcher Standards, ihre Bedeutung für die Praxis – und wie die Zivilgesellschaft ihre Forderungen nach KI-Governance und KI-Ethik aktiv in Normungsprozesse einbringen kann. Hier findest du alle fünf Berichte der Reihe, von der Einführung in den AI Act der EU bis zum Abschlussworkshop zur zivilgesellschaftlichen Beteiligung an der KI-Normung.
Du möchtest wissen, welche Projekte Civic Coding noch unterstützt? Dann wirf einen Blick auf unsere Civic Coding-Projektlandkarte! In unserer Community kannst du außerdem viele weitere gemeinwohlorientierte KI-Projekte entdecken – schau vorbei!
„Wenn wir Vertrauen in die Technologie aufbauen wollen, müssen wir Standards entwickeln, die für die Gesellschaft funktionieren. Wir brauchen Standards, die die unterschiedlichen Bedürfnisse und Anliegen der Gesellschaft widerspiegeln.“
Natalia Giorgi – European Trade Union Confederation (ETUC)
Zum ganzen Beitrag: Niederschwellige Beteiligungsformate zur KI-Standardisierung
„Wir glauben, dass wir in die Konzeption, die Entwicklung und den Einsatz dieser Technologien einbezogen werden müssen, bevor sie allgegenwärtig werden, um die potenziellen Gefahren für die Menschenrechte wirksam bekämpfen zu können.“ (Zitat aus dem Englischen übersetzt)
Don Le – ARTICLE 19
Zum Ganzen Beitrag: Welche Möglichkeiten zur zivilgesellschaftlichen Beteiligung gibt es am Ende des Standardisierungsprozesses?
„Wir können die großen Tech-Unternehmen nicht ändern. Aber wir können als Zivilgesellschaft mithilfe des Code of Conduct schauen, wie wir ethisch korrekt mit den KI-Lösungen dieser Unternehmen umgehen.“
Christoph Hassler – Youna
Zum ganzen Beitrag: Code of Conduct – Werte und Leitlinien für die zivilgesellschaftliche KI-Nutzung
„Wir sind noch nicht am Ziel. Die Ableitung der Normen hin zur tatsächlichen Prüfung ist hochkomplex. Es geht nicht nur um gut oder schlecht, sondern um viele Dimensionen wie Transparenz, Verlässlichkeit oder Erklärbarkeit über den gesamten Lebenszyklus eines KI-Systems hinweg. Unabhängige Prüfungen können dabei helfen. Und die Zivilgesellschaft sollte in dieser Phase der Normierung deutlich präsenter sein.“
Dr. Patrick Gilroy – TÜV Verband e.V.
Zum ganzen Beitrag: Civic Coding-Schlaglicht auf dem transform_D Summit
„Um Planungssicherheit in der Entwicklung von KI-Anwendungen zu schaffen und das Vertrauen in die Nutzung zu stärken, brauchen wir transparente und einheitliche KI-Qualitäts- und Prüfstandards im Einklang europäischer Werte.“
Verena Zink – MISSION KI
Zum ganzen Beitrag: Der AI Act – Bedeutung für gemeinwohlorientierte KI-Projekte
„Die Zugänglichkeit zur Normung durch zivilgesellschaftliche Akteur*innen ist da; die Möglichkeit zur Beteiligung besteht. Über nationale Organisationen kann man sich direkt einbringen und sich zum Beispiel als Expert*in in die genannten Arbeitsgruppen schicken lassen.“
Dr. Stefan Weisgerber – Deutsches Institut für Normung (DIN)
Zum ganzen Beitrag: Standards für KI: Warum der AI Act nur der Anfang der europäischen KI-Regulierung ist
Hier findest du weitere Beiträge und Materialien unserer zahlreichen Partner*innen rund um Vertrauenswürdige KI:
Du möchtest weitere spannende Themen rund um Künstliche Intelligenz und Gemeinwohl entdecken? Hier findest du unsere Civic Coding-Themenwelten.
Die wichtigsten Fragen und Antworten auf einen Blick.
Auf dieser Seite findest du eine kuratierte Sammlung von Civic Coding-Inhalten rund um das Thema „Vertrauenswürdige KI“. Dazu gehören Studien, Aufzeichnungen und Nachberichte von Live-Talks sowie Praxisbeispiele von Organisationen. Du erfährst beispielsweise, welche Bedeutung der AI Act der EU für gemeinwohlorientierte Projekte hat. Die Seite wächst mit jeder Veranstaltung und jedem neuen Beitrag zu diesem Thema.
Diese Themenwelt bündelt zentrale Inhalte von Civic Coding rund um die Themen Vertrauenswürdige KI, Regulierung und KI-Ethik. Die Seite dient als thematischer Einstieg und zeigt auf, wie vielfältig das Thema bereits erforscht und diskutiert wird. Durch unterschiedliche Formate und inhaltliche Schwerpunkte erhältst du einen Überblick über aktuelle Debatten, Herausforderungen und Chancen. Darüber hinaus kannst du tiefer in Themenbereiche einsteigen, die dich besonders interessieren.
Mit dem AI Act hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für KI geschaffen und Anforderungen für KI-Systeme und -Modelle festgelegt. Dabei verfolgt die EU einen risikobasierten Ansatz, um Risiken von Künstlicher Intelligenz angemessen zu begegnen und gleichzeitig Innovationen zu unterstützen.
Bei der praktischen Umsetzung werden Standards und Normen von zentraler Bedeutung sein. Sie sollen dabei helfen, rechtliche Vorgaben in technische Spezifikationen sowie in Entwicklungs- und Managementprozesse zu übersetzen. Diese können in der Praxis eine ähnlich große Rolle spielen wie der eigentliche Gesetzestext.
Die Aufzeichnungen der virtuellen Veranstaltungen findest du in der Mediathek unsere Community-Bereich. Als registrierte*r Nutzer*in kannst du dort alle Videos ansehen. Die Registrierung ist kostenlos und bietet dir viele weitere Mehrwerte – etwa die Möglichkeit, dich mit Gleichgesinnten zu vernetzen und auszutauschen.
Damit Menschen KI-Systemen vertrauen können, müssen sie sich bei ihrer Nutzung sicher fühlen. Voraussetzung dafür ist, dass die Technologie zum Beispiel transparent, nachvollziehbar und fair gestaltet ist. Menschen müssen verstehen können, auf welcher Datengrundlage und nach welchen Kriterien ein KI-System eine bestimmte Empfehlung formuliert. Ebenso wichtig ist, dass sie Einfluss auf das System nehmen und die Kontrolle behalten können. Und sie müssen erkennen können, wenn das System einen Fehler macht. Diese Maßnahmen sind ein wichtiges Mittel, damit das Vertrauen in die Technologie steigt.
Diese und weitere Werte bilden die Grundlage für vertrauenswürdige KI. Manche dieser Werte sind rechtlich verankert, zum Beispiel in der europäischen KI-Verordnung oder im Datenschutz. Andere hingegen sind Teil ethischer Leitlinien und Selbstverpflichtungen.
Welche Werte und Kriterien eingehalten werden müssen, damit KI-Systeme von der Gesellschaft als vertrauenswürdig erachtet und auch in sensiblen Bereichen wie Sozialer Arbeit, der Bildung oder Umweltschutz eingesetzt werden, ist ein offener Diskurs. Civic Coding begleitet diesen Austausch mit verschiedenen Maßnahmen und Veröffentlichungen.
KI-Governance meint den übergreifenden, oft freiwilligen Rahmen für den verantwortungsvollen Umgang mit Künstlicher Intelligenz, etwa in Form von Leitlinien und Abkommen. KI-Regulierung beschreibt hingegen die gesetzlich verbindliche Steuerung und Kontrolle durch Staaten.
Wenn du Fragen oder Anmerkungen hast, schreib uns gerne eine Mail an info[at]civic-coding.de.
Jetzt anmelden und keine Neuigkeiten verpassen! Mit den Civic Coding-Updates wollen wir dich über Veranstaltungen, Förderangebote und Projekte aus der Initiative und der KI-Welt auf dem Laufenden halten. Außerdem informieren wir dich exklusiv über themenrelevante Großveranstaltungen.
