Innovation hinter Gittern? Kalifornien plant neues KI-Gesetz

Das kalifornische Gesetzesvorhaben SB 1047, auch bekannt als das „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, hat weitreichende Implikationen für die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) in den USA. Es zielt darauf ab, potenzielle Katastrophen, die durch fortschrittliche KI-Modelle verursacht werden könnten, im Voraus zu verhindern. Dabei werden strenge Sicherheitsanforderungen an die Entwickler dieser Modelle gestellt, darunter die Implementierung von Notabschaltungen, umfassende Sicherheitsprotokolle und jährliche Audits durch Dritte.

SB 1047 richtet sich speziell an sogenannte „Frontier-Modelle“, also KI-Systeme, deren Entwicklungskosten mindestens 100 Millionen US-Dollar betragen und die eine extrem hohe Rechenleistung erfordern. Solche Modelle, wie GPT-4 von OpenAI, sind darauf ausgelegt, komplexe Muster in großen Datenmengen zu erkennen und Vorhersagen zu treffen. Die Gesetzgebung sieht vor, dass Entwickler solcher Modelle strenge Sicherheitsvorkehrungen treffen müssen, um „kritische Schäden“ zu verhindern, wie etwa den Einsatz von KI zur Herstellung von Massenvernichtungswaffen oder zur Durchführung groß angelegter Cyberangriffe.

Das Gesetz ist umstritten, insbesondere in Silicon Valley. Kritiker befürchten, dass es die Innovationskraft der Technologiebranche erheblich einschränken könnte. Unternehmen wie Google, Meta und OpenAI sowie zahlreiche Start-ups argumentieren, dass die strengen Auflagen den Fortschritt behindern und die Kosten für die Entwicklung neuer KI-Technologien in die Höhe treiben könnten. Zudem könnte das Gesetz den offenen Austausch von KI-Modellen einschränken, was insbesondere für die Open-Source-Community problematisch wäre).

Befürworter des Gesetzes, darunter prominente KI-Forscher wie Geoffrey Hinton und Yoshua Bengio, sehen in SB 1047 hingegen einen notwendigen Schritt, um die Risiken der KI-Entwicklung zu minimieren. Sie betonen, dass die Regulierung der KI-Sicherheit entscheidend sei, um zukünftige Katastrophen zu vermeiden und das Vertrauen der Öffentlichkeit in diese Technologien zu stärken).

Ein interessanter Vergleich lässt sich zum europäischen KI-Gesetz (EU AI Act) ziehen, das ebenfalls strenge Regeln für die Entwicklung und den Einsatz von Hochrisiko-KI-Systemen festlegt. Während der EU AI Act jedoch eine differenzierte Herangehensweise verfolgt und verschiedene Risikokategorien definiert, konzentriert sich SB 1047 stark auf die größten und potenziell gefährlichsten Modelle. Beide Gesetzgebungen verfolgen das Ziel, Innovation und Sicherheit in Einklang zu bringen, wobei die europäische Version stärker auf eine harmonisierte Regulierung auf supranationaler Ebene setzt.

Insgesamt könnte SB 1047, wenn es in Kraft tritt, nicht nur Kaliforniens Ansatz zur KI-Regulierung prägen, sondern auch als Modell für andere US-Bundesstaaten oder sogar für eine zukünftige nationale Regulierung dienen. Es bleibt jedoch abzuwarten, ob und in welcher Form das Gesetz verabschiedet wird, und welche Auswirkungen dies auf die Innovationslandschaft in Kalifornien und darüber hinaus haben wird.

Mehr dazu auf TechCrunch.

Möchtest Du neue Inhalte aktuell in Deiner Inbox haben? Dann hinterlasse Deine Email und erhalte laufend Neuigkeiten über die Startup-Szene.