Ressourcen, Reformen und neue Kooperationen: Was braucht es, um zivilgesellschaftliche Beteiligung an der KI-Normung zu ermöglichen?

Mit dem AI Act hat die EU den weltweit ersten umfassenden Rechtsrahmen für KI-Systeme und -Modelle geschaffen. In der Praxis werden vor allem technische Standards darüber entscheiden, wie mit KI und ihren Risiken umgegangen wird. Für eine angemessene KI-Normung ist die aktive Beteiligung der Zivilgesellschaft an der Entwicklung dieser Standards deshalb besonders wichtig – sei es durch eine unmittelbare Mitgliedschaft in den Arbeitsgruppen von DIN und CEN / CENELEC oder durch die Unterstützung einer nationalen oder europäischen Interessenvertretungen wie DIN Verbraucherrat, ANEC, ECOS oder ETUC. Ebenso können durch präzise Stellungnahmen im Rahmen des öffentlichen Beteiligungsverfahrens zivilgesellschaftliche Akteur*innen Einfluss auf die KI-Normung nehmen.

Obwohl formal verschiedene Möglichkeiten für die Zivilgesellschaft bestehen, sich aktiv in die Normung von KI-Systemen einzubringen, zeigen sich viele Akteur*innen zurückhaltend. Auch im Rahmen unserer gemeinsamen Veranstaltungsreihe mit dem Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI) haben Teilnehmer*innen und Expert*innen immer wieder auf Herausforderungen und Hürden hingewiesen, die einer effektiven Beteiligung im Wege stehen können. ​Zum Abschluss dieser Veranstaltungsreihe haben wir in einem interaktiven Workshop am 19.09.2024 die Hindernisse und Lösungsoptionen genauer in den Blick genommen.

Ina Gamp von der Civic Coding-Geschäftsstelle und Matthieu Binder vom ZVKI diskutierten darüber mit den Teilnehmenden und folgenden Expert*innen:

• Lajla Fetic, Senior Trustworthy AI Expert, appliedAI Institute for Europe
• Christian Grafenauer, Experte für Blockchain und KI-Standardisierung
• Camille Dornier, Expertin für KI-Normung

• Es bestehen mehrere Herausforderungen für die Zivilgesellschaft, die sie daran hindern, sich an der Normung von KI-Systemen zu beteiligen. Neben mangelnden finanziellen und personellen Ressourcen sowie fehlender Fachexpertise spielt vor allem das noch geringe Bewusstsein für die Relevanz einer Beteiligung und der eigenen Wirksamkeit eine wichtige Rolle.
• Ein Lösungsansatz ist die Bildung ungewöhnlicher Allianzen zwischen zivilgesellschaftlichen Akteur*innen und Vertreter*innen der Wirtschaft.
• Wichtig ist außerdem, Berührungsängste abzubauen und niedrigschwellige Erstkontakte mit Standardisierungsorganisationen zu ermöglichen.

Matthieu Binder gab zunächst einen Rückblick auf die bisherigen Veranstaltungen der Reihe und stellte vier bisher identifizierte Hindernisse für eine Beteiligung der Zivilgesellschaft an der KI-Normung vor: Fehlende finanzielle und personelle Ressourcen, Mangel an Expertise sowie die Frage nach der Effizienz.

Als weiterer Aspekt in der Diskussion mit den Teilnehmenden des Workshops wurde die Bedeutung eines stärkeren Bewusstseins in der Gesellschaft für das Thema besonders hervorgehoben. Neben den oben genannten Schwierigkeiten müsse auch in marginalisierten Gruppen dieses Bewusstsein für den Mehrwert einer Beteiligung am Normungsprozess durch eine spezifische Ansprache gestärkt werden, um sie zu motivieren, aktiv zu werden. Normungs- und Standardisierungsprozesse bieten eine Chance, Machtverhältnisse bei Innovationsprozessen auszuhebeln.

Die Teilnehmenden des Workshops diskutierten mögliche Lösungsansätze, um diese Hindernisse zu überwinden. Lajla Fetic stellte ihre Idee von (ungewöhnlichen) Tandems zwischen zivilgesellschaftlichen Organisationen und Unternehmen vor.

Für das Gelingen eines solchen Tandems ist der erste Schritt, motivierte Personen zu finden. Dafür brauche es eine gegenseitige Bereitschaft zur Zusammenarbeit sowohl von der Privatwirtschaft als auch von der Zivilgesellschaft. In den Unternehmen findet zunehmend ein Wandel hin zu transparenter Kommunikation gegenüber Verbraucher*innen statt. Durch solche Allianzen können sich KI-Expertise mit zivilgesellschaftlichen Interessen verknüpfen lassen.

Ausgehend von seinem eigenen Weg in die Standardisierung sprach sich Christian Grafenauer für den Abbau von Vorurteilen und Berührungsängsten aus. Dabei können beispielsweise Vorbilder helfen, die wie er positive Erfahrungen mit der Arbeit in Standardisierungsgremien gemacht haben, viel von den Expert*innen lernen sowie auch ihre eigenen Perspektiven einbringen konnten. Darüber hinaus wurden im Hinblick auf finanzielle Ressourcen unter anderem staatliche Förderungen und  damit verbundene Problematiken wie beispielsweise die zeitliche und inhaltliche Begrenzung diskutiert, um Teilhabe zu ermöglichen.

Camille Dornier gab abschließend einen Ausblick auf die nächsten Jahre der europäischen Normung und berichtete von den aktuellen Reformüberlegungen der Europäischen Kommission. Auch sie betonte die Notwendigkeit der zivilgesellschaftlichen Beteiligung am Normungsprozess und regte dazu an, verstärkt Allianzen zu bilden. Zivilgesellschaftliche Organisationen müssen sich aus ihrer Sicht nicht zwangsläufig selbst in der Standardisierung engagieren, aber können als Partner*innen in Bereichen der politischen Interessenvertretung aktiv sein.