DSC Original Logo

Innovation hinter Gittern? Kalifornien plant neues KI-Gesetz

Moritz Grumbach - Profilbild Orange

Wie auch schon in der EU, zieht der amerikanische Gesetzesentwurf ebenfalls Kritik prominenter Köpfe auf sich.

In einer schwach beleuchteten Gefängniszelle in Kalifornien steht auf einem Metallschreibtisch ein alter Computer mit einem grünen monochromen Bildschirm, ein klares Beispiel für Innovation hinter Gittern, eingerahmt von rostigen Gitterstäben.
November 15, 2024

Das kalifornische Gesetzesvorhaben SB 1047, auch bekannt als das „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, hat weitreichende Implikationen für die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) in den USA. Es zielt darauf ab, potenzielle Katastrophen, die durch fortschrittliche KI-Modelle verursacht werden könnten, im Voraus zu verhindern. Dabei werden strenge Sicherheitsanforderungen an die Entwickler dieser Modelle gestellt, darunter die Implementierung von Notabschaltungen, umfassende Sicherheitsprotokolle und jährliche Audits durch Dritte.

SB 1047 richtet sich speziell an sogenannte „Frontier-Modelle“, also KI-Systeme, deren Entwicklungskosten mindestens 100 Millionen US-Dollar betragen und die eine extrem hohe Rechenleistung erfordern. Solche Modelle, wie GPT-4 von OpenAI, sind darauf ausgelegt, komplexe Muster in großen Datenmengen zu erkennen und Vorhersagen zu treffen. Die Gesetzgebung sieht vor, dass Entwickler solcher Modelle strenge Sicherheitsvorkehrungen treffen müssen, um „kritische Schäden“ zu verhindern, wie etwa den Einsatz von KI zur Herstellung von Massenvernichtungswaffen oder zur Durchführung groß angelegter Cyberangriffe.

Das Gesetz ist umstritten, insbesondere in Silicon Valley. Kritiker befürchten, dass es die Innovationskraft der Technologiebranche erheblich einschränken könnte. Unternehmen wie Google, Meta und OpenAI sowie zahlreiche Start-ups argumentieren, dass die strengen Auflagen den Fortschritt behindern und die Kosten für die Entwicklung neuer KI-Technologien in die Höhe treiben könnten. Zudem könnte das Gesetz den offenen Austausch von KI-Modellen einschränken, was insbesondere für die Open-Source-Community problematisch wäre).

Befürworter des Gesetzes, darunter prominente KI-Forscher wie Geoffrey Hinton und Yoshua Bengio, sehen in SB 1047 hingegen einen notwendigen Schritt, um die Risiken der KI-Entwicklung zu minimieren. Sie betonen, dass die Regulierung der KI-Sicherheit entscheidend sei, um zukünftige Katastrophen zu vermeiden und das Vertrauen der Öffentlichkeit in diese Technologien zu stärken).

Ein interessanter Vergleich lässt sich zum europäischen KI-Gesetz (EU AI Act) ziehen, das ebenfalls strenge Regeln für die Entwicklung und den Einsatz von Hochrisiko-KI-Systemen festlegt. Während der EU AI Act jedoch eine differenzierte Herangehensweise verfolgt und verschiedene Risikokategorien definiert, konzentriert sich SB 1047 stark auf die größten und potenziell gefährlichsten Modelle. Beide Gesetzgebungen verfolgen das Ziel, Innovation und Sicherheit in Einklang zu bringen, wobei die europäische Version stärker auf eine harmonisierte Regulierung auf supranationaler Ebene setzt.

Insgesamt könnte SB 1047, wenn es in Kraft tritt, nicht nur Kaliforniens Ansatz zur KI-Regulierung prägen, sondern auch als Modell für andere US-Bundesstaaten oder sogar für eine zukünftige nationale Regulierung dienen. Es bleibt jedoch abzuwarten, ob und in welcher Form das Gesetz verabschiedet wird, und welche Auswirkungen dies auf die Innovationslandschaft in Kalifornien und darüber hinaus haben wird.

Mehr dazu auf TechCrunch.

Moritz Grumbach's avatar

Moritz Grumbach

Hallo, ich bin Moritz. Ich habe zwei Startups mit Millionenumsätzen gegründet, war Digitalberater bei Ernst & Young und Lehrbeauftragter für Innovation & Entrepreneurship an einer deutschen Hochschule. Heute begleite ich unter der Marke DeinStartup.Coach bundesweit Gründer*innnen beim Aufbau ihres Unternehmens.

Newsletter erhalten

Möchtest Du neue Inhalte aktuell in Deiner Inbox haben? Dann hinterlasse Deine Email und erhalte laufend Neuigkeiten über die Startup-Szene.

Hier findest Du weitere Artikel
Büro München

Luise-Ullrich-Str. 20
D-80636 München
Tel 089-2488 61 370
Email

Büro Bochum

Kortumstr. 56
D-44787 Bochum
Tel 0234-68709823
Email

Förderbar durch
DSC-Footer-Logos
1
Step 1
2
Step 2
Ich bin Moritz - Dein Startup Coach

Hi, hier ist Moritz!

Ich würde gerne alle offenen Fragen zu Deinem Projekt 🚀 beantworten - eine ganze Stunde ⏰ lang, und völlig kostenlos!

Hättest Du Lust?

Ich freue mich drauf! Wie kann ich Dich erreichen?

Kontaktiere mich über WhatsApp
Scan the code