Themenwelt „Vertrauenswürdige KI“

Auf dieser Seite findest du eine kuratierte Sammlung von Civic Coding-Inhalten rund um das Thema „Vertrauenswürdige KI“. Dazu gehören Studien, Aufzeichnungen und Nachberichte von Live-Talks sowie Praxisbeispiele von Organisationen. Du erfährst beispielsweise, welche Bedeutung der AI Act der EU für gemeinwohlorientierte Projekte hat. Die Seite wächst mit jeder Veranstaltung und jedem neuen Beitrag zu diesem Thema.

Diese Themenwelt bündelt zentrale Inhalte von Civic Coding rund um die Themen Vertrauenswürdige KI, Regulierung und KI-Ethik. Die Seite dient als thematischer Einstieg und zeigt auf, wie vielfältig das Thema bereits erforscht und diskutiert wird. Durch unterschiedliche Formate und inhaltliche Schwerpunkte erhältst du einen Überblick über aktuelle Debatten, Herausforderungen und Chancen. Darüber hinaus kannst du tiefer in Themenbereiche einsteigen, die dich besonders interessieren.

Mit dem AI Act hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für KI geschaffen und Anforderungen für KI-Systeme und -Modelle festgelegt. Dabei verfolgt die EU einen risikobasierten Ansatz, um Risiken von Künstlicher Intelligenz angemessen zu begegnen und gleichzeitig Innovationen zu unterstützen.

Bei der praktischen Umsetzung werden Standards und Normen von zentraler Bedeutung sein. Sie sollen dabei helfen, rechtliche Vorgaben in technische Spezifikationen sowie in Entwicklungs- und Managementprozesse zu übersetzen. Diese können in der Praxis eine ähnlich große Rolle spielen wie der eigentliche Gesetzestext.

Die Aufzeichnungen der virtuellen Veranstaltungen findest du in der Mediathek unsere Community-Bereich. Als registrierte*r Nutzer*in kannst du dort alle Videos ansehen. Die Registrierung ist kostenlos und bietet dir viele weitere Mehrwerte – etwa die Möglichkeit, dich mit Gleichgesinnten zu vernetzen und auszutauschen.

Damit Menschen KI-Systemen vertrauen können, müssen sie sich bei ihrer Nutzung sicher fühlen. Voraussetzung dafür ist, dass die Technologie zum Beispiel transparent, nachvollziehbar und fair gestaltet ist. Menschen müssen verstehen können, auf welcher Datengrundlage und nach welchen Kriterien ein KI-System eine bestimmte Empfehlung formuliert. Ebenso wichtig ist, dass sie Einfluss auf das System nehmen und die Kontrolle behalten können. Und sie müssen erkennen können, wenn das System einen Fehler macht. Diese Maßnahmen sind ein wichtiges Mittel, damit das Vertrauen in die Technologie steigt.

Diese und weitere Werte bilden die Grundlage für vertrauenswürdige KI. Manche dieser Werte sind rechtlich verankert, zum Beispiel in der europäischen KI-Verordnung oder im Datenschutz. Andere hingegen sind Teil ethischer Leitlinien und Selbstverpflichtungen.

Welche Werte und Kriterien eingehalten werden müssen, damit KI-Systeme von der Gesellschaft als vertrauenswürdig erachtet und auch in sensiblen Bereichen wie Sozialer Arbeit, der Bildung oder Umweltschutz eingesetzt werden, ist ein offener Diskurs. Civic Coding begleitet diesen Austausch mit verschiedenen Maßnahmen und Veröffentlichungen.

KI-Governance meint den übergreifenden, oft freiwilligen Rahmen für den verantwortungsvollen Umgang mit Künstlicher Intelligenz, etwa in Form von Leitlinien und Abkommen. KI-Regulierung beschreibt hingegen die gesetzlich verbindliche Steuerung und Kontrolle durch Staaten.

Wenn du Fragen oder Anmerkungen hast, schreib uns gerne eine Mail an info[at]civic-coding.de.