EU-Parlament verabschiedet KI-Regulierung: Das kommt auf Anbieter zu

Startup Coach Moritz Grumbach

Das wegweisende wie umstrittene Gesetz für KI Anbieter ist weltweit das erste seiner Art.

Flaggen der Europäischen Union wehen vor dem Gebäude des EU-Parlaments mit horizontalen Jalousien.
März 14, 2024

Mit einem Ergebnis von 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen hat das EU-Parlament den Weg für den AI Act geebnet: ein wegweisendes wie umstrittenes Gesetz, das die Anwendung künstlicher Intelligenz (KI) in der Europäischen Union regelt. Dieser historische Schritt markiert das weltweit erste umfassende KI-Gesetz und zielt darauf ab, klare Richtlinien für den Einsatz von KI-Systemen zu schaffen, indem es sie in drei Risikokategorien einteilt: von unzulässigen Anwendungen, die ein inakzeptables Risiko darstellen, über Hochrisikoanwendungen mit speziellen rechtlichen Anforderungen bis hin zu weniger kritischen Anwendungen, die weitgehend unreguliert bleiben.

Besondere Aufmerksamkeit gilt den sogenannten General-Purpose AI Systems (GPAI), wie z.B. GPT-4 von OpenAI oder Gemini von Google, die ab sofort strengen Regulierungen und Transparenzanforderungen unterliegen müssen. Diese Maßnahmen umfassen die Einhaltung des EU-Urheberrechts, die Veröffentlichung detaillierter Zusammenfassungen der Trainingsdaten und für leistungsfähigere Modelle zusätzliche Anforderungen zur Risikobewertung und -minderung sowie zur Berichterstattung über Vorfälle.

Der AI Act bringt zudem strenge Verbote für eine Reihe von Anwendungsfällen, wie die biometrische Kategorisierung aufgrund sensibler Merkmale, das ungezielte Auslesen von Gesichtsbildern zur Erstellung von Datenbanken, Emotionserkennung am Arbeitsplatz und in Schulen, Social Scoring, prädiktive Polizeiarbeit und die Manipulation menschlichen Verhaltens.

Die Debatte um die Regulierung von KI wird seit Ihrem Aufkommen jedoch von auch kritischen Stimmen begleitet, welche hauptsächlich von DeepTech Experten, Datenschützern und Wissenschaftlern geäußert werden. Sie beziehen sich vor allem auf folgende Punkte:

1. Innovation und Wettbewerbsfähigkeit

Kritiker befürchten, dass die strengen Vorschriften des AI Acts die Innovation und Wettbewerbsfähigkeit europäischer Unternehmen gegenüber internationalen Akteuren, insbesondere aus den USA und China, einschränken könnten. Sie argumentieren, dass die Regulierung zu einem Innovationshemmnis wird, indem sie Startups und KMU mit zusätzlichen Kosten und bürokratischen Hürden belastet.

2. Unklare Definitionen und Kategorisierungen

Die Kritik richtet sich auch gegen unklare und breit gefasste Definitionen von KI-Systemen und Risikokategorien. Kritiker argumentieren, dass diese Unklarheiten zu Rechtsunsicherheit führen und es für KI Anbieter schwierig machen, zu verstehen, welche Anforderungen auf ihre Systeme zutreffen.

3. Übermäßige Regulierung

Manche sehen in dem AI Act ein Beispiel für übermäßige Regulierung, die den technologischen Fortschritt behindert. Sie befürchten, dass die EU durch zu strenge Vorschriften den Anschluss an die führenden KI-Nationen verlieren könnte.

4. Ausnahmen und Schlupflöcher

Einige Datenschutzaktivisten und Bürgerrechtsorganisationen kritisieren, dass der AI Act bestimmte Ausnahmen und Schlupflöcher enthält, die missbraucht werden könnten. Dazu gehören beispielsweise die Regelungen für staatliche Überwachung und biometrische Identifikation, die unter bestimmten Umständen zugelassen werden.

5. Durchsetzung und Aufsicht

Die Wirksamkeit des AI Acts hängt stark von seiner Durchsetzung und der Aufsicht auf nationaler Ebene ab. Es gibt Bedenken, dass ohne ausreichende Ressourcen und klare Zuständigkeiten die Risiken durch KI-Systeme nicht effektiv kontrolliert werden können.

6. Technologieneutralität

Einige Experten argumentieren, dass der AI Act möglicherweise nicht technologieneutral ist, was bedeutet, dass er bestimmte Technologien bevorzugen oder benachteiligen könnte. Dies könnte zu einem Ungleichgewicht im Markt führen und bestimmte Innovationspfade bevorzugen.

Trotz dieser Kritik geht das Gesetz nun in seine Anwendung. Es wird erwartet, dass der AI Act noch vor dem Ende der aktuellen Legislaturperiode in Kraft tritt, wobei bestimmte Teile des Gesetzes bereits sechs Monate nach Inkrafttreten Anwendung finden. Dies beinhaltet Verbote für spezifische KI-Anwendungen, während andere Vorschriften und Pflichten für die genannten Hochrisikosysteme schrittweise über einen Zeitraum von bis zu drei Jahren eingeführt werden.

Mehr dazu bei Spiegel.de.

Moritz Grumbach

Hi, ich bin Moritz Grumbach - DeinStartup.Coach!
Vor meiner Zeit als Gründungsberater habe ich zwei Startups gegründet, mehrere Millionen Euro geraised und ein breites Netzwerk an Experten und Investoren aufgebaut. Heute berate ich Gründer*Innen beim Aufbau ihres Unternehmens, bin Mentor in einigen internationalen Accelerator-Programmen und unterrichte Entrepreneurship & Innovation an einer deutschen Hochschule.

Newsletter erhalten

Möchtest Du neue Inhalte aktuell in Deiner Inbox haben? Dann hinterlasse Deine Email und erhalte laufend Neuigkeiten über die Startup-Szene.

Hier findest Du weitere Startup-News
Büro Bochum

Kortumstr. 56
D-44787 Bochum
Tel 0234-68709823
Email

Büro München

Luise-Ullrich-Str. 20
D-80636 München
Tel 089-2488 61 370
Email

Förderbar durch
DSC-Footer-Logos
Gesetzliche Angaben
Kontaktiere mich über WhatsApp