Die Zivilgesellschaft hat die Chance, den europäischen Standardisierungsprozess für KI-Systeme mitzugestalten und so zu einer angemessenen KI-Normierung beizutragen. In der letzten Deep Dive-Session unserer gemeinsamen Veranstaltungsreihe mit dem ZVKI haben wir den Fokus vor allem auf das Ende des Standardisierungsprozesses und die Möglichkeiten und Herausforderungen für die Beteiligung in dieser Phase gelegt. Während des gesamten Prozesses bestehen jedoch zahlreiche Möglichkeiten, mitzuwirken, die wir in den vorherigen Deep Dive-Sessions der Reihe ausführlich besprochen haben.
Du hast die ersten beiden Deep Dive-Sessions verpasst? In den Nachberichten kannst du nachlesen, worum es darin ging:
Am 30. April 2025 sollen die von der Europäischen Kommission beauftragten Standards für KI-Systeme finalisiert sein. Abgestimmte und konsensfähige Normentwürfe müssen daher spätestens im Winter 2024 vorliegen. Wie können sich zivilgesellschaftliche Akteur*innen zu diesem späten Zeitpunkt der KI-Normung noch einbringen? Darüber hat Ina Gamp von der Civic Coding-Geschäftsstelle am 04.07.2024 mit folgenden Expert*innen diskutiert:llen Austausch mit Beiträgen von:
Möchtest du dich noch intensiver mit dem Thema beschäftigen? Die Nachberichte und Aufzeichnungen der bisherigen Veranstaltungen findest du auf unserem Webportal und in der Civic Coding-Community.
Zur Übersicht der Veranstaltungsreihe
Weiterführende Informationen zu den Inhalten der Deep Dive-Sessions kannst du auch in den Shortpapern zu den Veranstaltungen nachlesen:
Wie läuft der Standardisierungsprozess ab und wo stehen wir im Moment? Rita Tedesco gab einen Überblick über die notwendigen Schritte für die aktive Beteiligung am Standardisierungsprozess.
Abb: ECOS
Die Entwicklung der KI-Standards befindet sich aktuell in der ersten Phase, der 32-wöchigen Entwurfsphase. Es ist möglich, sich nach der anschließenden Bearbeitung und Übersetzung an der Konsultationsphase zu beteiligen. Diese dauert 12 Wochen und soll laut offiziellem Zeitplan der EU zwischen Oktober und November beginnen. In dieser Zeit werden alle Arten von Kommentierungen gesammelt und vom nationalen Normungsgremium weitergegeben, in dem mehrheitlich Mitglieder des Industriesektors vertreten sind, aber auch NGOs, Forschungsinstitute und weitere nationale Organisationen teilnehmen können. Bei der Kommentierung handelt es sich um die wichtigste Möglichkeit, sich zu beteiligen, wenn man kein Mitglied eines Normungsgremiums oder einer Annex III-Organisation ist, betonte Tedesco. Auf den Websites der jeweiligen nationalen Normungsorganisationen lassen sich die aktiven Konsultationen schnell finden und man kann dort direkt seine Kommentierung einbringen. (Zu den aktuellen Norm-Entwürfen bei DIN)
Alle Kommentare werden vom Normungsgremium gesammelt und in den Spiegelgremien diskutiert. Auch in formellen Abstimmungsphasen können noch redaktionelle Kommentierungen und förmliche Stellungnahmen abgegeben werden.
Nur Annex III-Organisationen (ANEC, ETUC, ECOS, SBS) haben außerdem das Recht, ihre Stellungnahmen abzugeben – entweder während der Umfragephase oder zum finalen Entwurf. Diese haben zwar keinen Einfluss auf die Abstimmung, können aber trotzdem ein deutliches Signal geben, ob eine zivilgesellschaftliche Organisation einen Standard unterstützt.
Neben der Kommentierung ist es möglich, mit den nationalen Normungsgremien und für Standardisierung verantwortliche Ministerien der Regierung (in Deutschland: Bundesministerium für Wirtschaft und Klimaschutz) in Kontakt zu treten.
„Es gibt viele Möglichkeiten, sich in den Standardisierungsprozess einzubringen. Eine davon ist die öffentliche Kommentierung durch euer nationales Normungsgremium - diese Möglichkeit besteht weiterhin.“
(Zitat aus dem Englischen übersetzt)
Rita Tedesco, Head of Energy Transition ECOS
Prof. Martin Ebers erläuterte, warum harmonisierte Standards so wichtig sind. In Bezug auf den AI Act sind sie besonders relevant, wenn es um Hochrisiko-KI-Systeme geht. Wenn ein Hochrisiko-KI-System vorliegt, müssen bestimmte Anforderungen erfüllt sein, bevor das System auf den Markt gebracht werden kann: An erster Stelle muss der/die Anbieter*in das Risikomanagement-System einrichten und umsetzen. Außerdem muss zum Beispiel eine hohe Datenqualität ein angemessenes Maß an Transparenz und menschlicher Aufsicht gewährleistet sein.
Allerdings definiert der AI Act nicht konkret, was hohe Datenqualität bedeutet und wie weitere Anforderungen wie Transparenz und menschliche Aufsicht sichergestellt werden. Der Grund dafür: Die Idee der Verordnung ist eine Co-Regulierung. Das bedeutet, dass die Regulierung teilweise über den AI Act stattfindet, aber auch die Normung eine Rolle spielen. Die spezifischen Anforderungen werden durch sogenannte harmonisierte Standards konkretisiert, die von CEN/CENELEC im Auftrag der Europäischen Kommission entwickelt und im offiziellen EU-Journal veröffentlicht werden.
In Artikel 40 des AI Acts ist eine Konformitätsvermutung festgelegt. Das heißt, bei KI-Anwendungen, die in Übereinstimmung mit harmonisierten Standards sind, besteht die Annahme, dass sie die gesetzlichen Anforderungen erfüllen.
„Ein Anbieter, der einen harmonisierten Standard verwendet und befolgt, ist auf der sicheren Seite. Denn wenn und soweit das KI-System den harmonisierten Standard erfüllt und befolgt, wird davon ausgegangen, dass das KI-System die verbindlichen Anforderungen erfüllt.“
(Zitat aus dem Englischen übersetzt)
Professor Martin Ebers, President Robotics & AI Law Society (RAILS)
Ebers hob hervor, dass die Standards nicht für bestimmte Anwendungsfälle entwickelt wurden. Die Idee der Normung besteht in erster Linie darin, Standards für alle Arten von KI-Systemen zu entwickeln. Daher sind die Standards oft recht allgemein formuliert.
Sowohl im Rahmen des Arbeitsprogramms als auch beim Standardisierungsantrag sind die europäischen Normungsorganisationen und die Stakeholder*innen beteiligt. Die Stakeholder*innen werden zu den Ausschusssitzungen eingeladen, müssen aber in beiden Fällen den Raum während der Abstimmung verlassen.
„Während der Compliance-Phase findet keine Beteiligung von Stakeholder*innen statt“ (Zitat aus dem Englischen übersetzt), erklärte Ebers. Die Europäische Kommission und auch die Berater*innen der Normungsgremien zu den harmonisierten Standards beschäftigen sich in dieser Phase mit zwei Fragen: Entspricht der Entwurf für den Standard dem Antrag? Und erfüllt er die im AI Act festgelegten Anforderungen? Insbesondere die zweite Frage sei sehr wichtig und gleichzeitig knifflig, so Ebers, denn viele Begriffe sind im AI Act nur grundsätzlich definiert. Das gesamte Genehmigungsverfahren basiert aber auf der Tatsache, dass die wesentlichen Anforderungen in der Verordnung selbst vorgesehen sein sollten. Letztendlich handelt es sich hierbei nicht nur um eine technische, sondern auch um eine juristische und ethische Frage – beispielsweise, wenn ein voreingenommenes Trainingsprogramm zu Diskriminierung führt.
In der Phase des Widerspruchverfahrens haben weder die Normungsorganisationen noch die Stakeholder*innen gesetzliches Einspruchsrecht. Der Inhalt von harmonisierten Standards sollte aus Ebers‘ Sicht nicht allein den Normungsorganisationen überlassen werden, sondern auch dem Gesetzgeber – also in diesem Fall Rat der EU und das EU-Parlament – da auch Grundrechte betroffen sind.
Ausgehend von der Annahme, dass harmonisierte Standards Teil des EU-Rechts sind, würden laut Ebers bestimmte verfassungsrechtliche Anforderungen ausgelöst, wie z. B. gute Verwaltung, Beteiligung, Transparenz, wirksamer Rechtsschutz, Rechtmäßigkeit und Rechtsstaatlichkeit. Das könnte bedeuten, dass der Gerichtshof auch bereit wäre, die Gültigkeit eines harmonisierten Standards und im Extremfall sogar die Gültigkeit der gesamten Verordnung zu überprüfen, um festzustellen, dass es keine wirksame Beteiligung der Zivilgesellschaft am Normungsprozess gibt. Dies könnte zur Ungültigkeit der entsprechenden Verordnung von 2012 führen, die kein Stimmrecht vorsieht. Der Europäische Gerichtshof könnte entweder durch ein nationales Gericht im Rahmen eines Vorabentscheidungsverfahrens oder durch eine Nichtigkeitsklage von NGOs über diese Themen entscheiden. Letztere Möglichkeit ist allerdings mit vielen verfahrenstechnischen Hürden verbunden, so Ebers.
Ebers fasste abschließend zusammen, dass die Einflussmöglichkeiten der Zivilgesellschaft – trotz der bestehenden Möglichkeiten zur Beteiligung – während und nach dem Normungsprozess aus juristischer Perspektive nicht sehr hoch sind. Gewisse Tendenzen im europäischen Recht deuten aber darauf hin, dass der Prozess korrigiert werden muss, was derzeit von der Europäischen Kommission geprüft wird. Er hält eine umfassendere Diskussion über die Implementierung des AI Acts für notwendig. Harmonisierte Standards seien nur ein Teil dieses Prozesses. Der AI Act sei sehr flexibel, um ihn zukunftssicher zu gestalten, und gebe der Europäischen Kommission und den nationalen Behörden viele Auslegungsinstrumente an die Hand. Die Europäische Kommission hat sogar die Möglichkeit, die Verordnung in bestimmten Konstellationen zu ändern.
Für die Menschenrechtsorganisation ARTICLE 19 ist die Beteiligung an der Standardisierung vor allem wichtig, um Bedrohungen von Menschenrechten wie Meinungsfreiheit durch digitale Technologien zu verhindern. ARTICLE 19 engagiert sich für den Schutz und die Förderung der Meinungsfreiheit durch Politik- und Interessenvertretung, unter anderem durch die Arbeit an digitalen Verwaltungen und Räumen. Der Schwerpunkt liegt dabei auf Online-Infrastruktur und den zugrundeliegenden Technologien. Diese Technologien gehören zu den wichtigsten Kanälen für Meinungs- und Informationsfreiheit und bestimmen das Ausmaß sowie auch die Beeinträchtigung der Ausübung von Meinungsfreiheit, wie Don Le erläutert. Oftmals werden solche Technologien ohne eine Überprüfung durch die Öffentlichkeit eingeführt und wenn sie Menschenrechte verletzen, ist dies sehr schwer rückgängig zu machen. Deshalb engagiert sich ARTICLE 19 in der Standardisierung als einem wichtigen Bestandteil der Technologieentwicklung.
„Wir glauben, dass wir in die Konzeption, die Entwicklung und den Einsatz dieser Technologien einbezogen werden müssen, bevor sie allgegenwärtig werden, um die potenziellen Gefahren für die Menschenrechte wirksam bekämpfen zu können.“
(Zitat aus dem Englischen übersetzt)
Don Le, Digital Programme Coordination Officer ARTICLE 19
ARTICLE 19 engagiert sich beim Institute of Electrical and Electronics Engineers (IEEE), das technische Standards für Hard- und Software entwickelt. Die Organisation ist außerdem Mitglied der IEEE Global Initiative für die Sicherstellung, dass Menschenrechte als erstes Leitprinzip im Ethically Aligned Design Report anerkannt wurden. Dieser Report ermutigt technologische Akteur*innen, ethischen Überlegungen bei der Entwicklung von KI-Systemen Priorität einzuräumen. Im Rahmen der technischen Standardisierung hat sich das ARTICLE 19-Team direkt an den technischen Anforderungen für Gesichtserkennungstechnologien beteiligt.
Rita Tedesco von der internationalen Umwelt-NGO ECOS stimmte Don Le zu, dass die Zivilgesellschaft zur Entwicklung qualitativ hochwertiger Standards beitragen könne, wenn sie sich am Standardisierungsprozess beteiligt. Sie habe dadurch die Möglichkeit, zu definieren, wie sich regulatorische Anforderungen erfüllen lassen. Zivilgesellschaftliche Beteiligung führt außerdem zu einer demokratischen Kontrolle über den Markt und es können Standards entstehen, die einen positiven Effekt auf Umwelt und Gesellschaft haben. Darüber hinaus kann ein größeres Vertrauen in Standards und das Standardisierungssystem entstehen. Mit einem Netzwerk an Mitgliedern und Expert*innen setzt sich ECOS – die zudem eine Schwesterorganisation von ANEC und ETUC, Annex III-Organisation und damit Partner der Normungsgremien CEN/CENELEC ist – für umweltfreundliche technische Standards, Strategien und Gesetze ein.
Standards seien jedoch kein „Zaubertrank“, betonte Le. Wenn ein Entwurf zum Standard wird, müssen Unternehmen diesen nicht umsetzen, es sei denn, sie werden dazu verpflichtet. Doch es gibt Möglichkeiten für die Zivilgesellschaft, einzugreifen, bevor eine Technologie zum Einsatz kommt. So müssen Technologieunternehmen Beschaffungsprozesse durchlaufen, damit ihre Produkte sowohl im öffentlichen als auch im privaten Sektor eingesetzt werden können. Für ARTICLE 19 hat sich gezeigt, dass diese Beschaffungsprozesse eine gute Gelegenheit für zivilgesellschaftliche Organisationen sind, mit öffentlichen Verwaltungen und privaten Akteur*innen in Kontakt zu treten, um sicherzustellen, dass die Technologien die Menschenrechte respektieren.
Le machte außerdem deutlich, dass Standards nicht in einer Blase existieren, sondern in der Gesamtgesellschaft und dem größeren rechtlichen Umfeld. Als Organisation mit umfangreicher Erfahrung in der Beteiligung an politischen und rechtlichen Rahmenbedingungen kann ARTICLE 19 mit Beamt*innen und Parlamentarier*innen auf regionalem, nationalem und internationalem Level zusammenarbeiten. Gemeinsam mit ihnen kann die Organisation Rahmenbedingungen diskutieren und entwickeln, die die Anwendung „schlechter Standards“ verhindern oder die Anwendung „guter Standards“ fördern können.
Organisationen der Zivilgesellschaft sind mit einigen Hürden konfrontiert, die sie daran hindern, sich an der technischen Standardisierung zu beteiligen. Tedesco und Le nannten mangelndes Fachwissen und Expertise in Bezug auf den Prozess, den hohen zeitlichen und finanziellen Aufwand, oftmals undurchsichtige Strukturen der Normungsgremien und geringe Inklusivität sowie kulturelle Barrieren, da die technische Community stark von der Industrie dominiert ist, als zentrale Herausforderungen für eine effektive Beteiligung.
Dennoch biete sich eine klare Chance für zivilgesellschaftliche Organisationen und Journalist*innen, die Technologien vor ihrem Einsatz auf potenzielle Menschenrechtsverletzungen untersuchen wollen, so Le. Technische Normen sind aus seiner Sicht ein Mittel, um die Industrie zur Weiterentwicklung zu zwingen. „Technische Standardisierung ist ein langfristiges Spiel und wer Schach, strategische Aufgaben und Problemlösungen mag, ist hier an der richtigen Stelle. Sie bietet die Möglichkeit, über die Verbesserung technischer Innovationen nachzudenken, um die Menschheit und die Welt zu unterstützen“ (Zitat aus dem Englischen übersetzt), resümierte Don Le.
Du hast die Veranstaltung verpasst? In der Civic Coding-Community kannst du dir die Aufzeichnung ansehen – registriere dich jetzt!
Jetzt anmelden und keine Neuigkeiten verpassen! Mit den Civic Coding-Updates wollen wir dich über Veranstaltungen, Förderangebote und Projekte aus der Initiative und der KI-Welt auf dem Laufenden halten. Außerdem informieren wir dich exklusiv über themenrelevante Großveranstaltungen.