Die Parlamentarier im US-Bundesstaat Kalifornien haben ein Gesetz über die Sicherheit von Künstlicher Intelligenz (KI) auf den Weg gebracht, das in der Tech-Branche kontrovers diskutiert wird und von wichtigen Akteuren und gewählten Vertretern abgelehnt wird.

Am 28. August passierte die Senate Bill (SB) 1047 entsprechend die parlamentarische State Assembly und wartet nun auf die endgültige Verabschiedung durch den Gouverneur Gavin Newsom. Newsom hat bis zum 30. September Zeit zu entscheiden, ob er das Gesetz unterzeichnet oder ein Veto einlegt.

Mehr Sicherheit für große KI-Modelle

SB 1047 stammt aus der Feder von Scott Wiener, einem demokratischen Senator aus San Francisco. Wiener argumentiert, dass Gesetze erlassen werden müssen, ehe weitere Fortschritte in der KI unkontrollierbar werden.

Der Gesetzentwurf schreibt Sicherheitstests für die meisten der fortschrittlichsten KI-Modelle vor; entweder für solche, deren Entwicklung mehr als 100 Millionen US-Dollar kostet, oder für solche, deren Betrieb eine bestimmte Menge an Rechenleistung übersteigt.

Es verlangt von den Entwicklern im Bundesstaat Kalifornien – zu denen große Namen wie der ChatGPT-Hersteller OpenAI, Meta und Google gehören – dass sie einen „Kill Switch“ (also einen „Notausschalter“) in solche Modelle einbauen, falls diese nicht mehr beherrschbar sind, und dass Prüfer von Drittanbietern an den Sicherheitsprüfungen der Modelle teilnehmen.

Die Entwickler können zudem vom Generalstaatsanwalt verklagt werden, falls deren Modelle eine große anhaltende Bedrohung für die Bevölkerung darstellen.

SB 1047 erntet Kritik

Während Wiener argumentiert, dass das Gesetz notwendig ist, um irreversible gesellschaftliche Schäden durch fehlgeleitete KI-Systeme zu verhindern, ist nicht jeder für SB 1047.

Der Gesetzentwurf wurde von wichtigen Akteuren der Technologiebranche und von Politikern des Bundesstaates heftig kritisiert, da er die Innovatoren des Bundesstaates behindern würde.

Nancy Pelosi, die emeritierte Parlamentspräsidentin, kommentierte den Gesetzesentwurf dementsprechend mit den Worten, er sei „eher schädlich als hilfreich“ in dem Bestreben, Kalifornien eine Vorreiterrolle in der KI-Entwicklung zu verschaffen.

Der Leiter des Bereichs KI-Politik am Abundance Institute, Neil Chilson, warnte, dass der Gesetzentwurf zwar in erster Linie auf Modelle eines bestimmten Preises und Kalibers abziele, aber nur „versuchsweise“ einen „angemessenen Sorgfaltsstandard“ für das KI-Training schaffe.

Quelle: Neil Chilson

Er sagte, dies könne zu einer Überregulierung führen und auch kleinere Unternehmen und Modelle betreffen.

Vor allem Tech-Unternehmen aus der Branche haben sich gegen den Gesetzentwurf ausgesprochen, allen voran OpenAI mit der Behauptung, er werde das Wachstum behindern. Wiener hat diese Behauptungen jedoch bestritten.

Google und Meta Platforms haben ihre Bedenken ebenfalls in einem Schreiben an den kalifornischen Gouverneur Newsom geäußert.

Im Tauziehen der Meinungen über den Gesetzesentwurf hat die Amazon-Tochter Anthropic jedoch Unterstützung gezeigt und gesagt, dass die Vorteile „wahrscheinlich die Kosten überwiegen werden“, obwohl es immer noch einige unklare Elemente gibt.

Eric Daimler, ein ehemaliger Informatikprofessor an der Carnegie Mellon University und ehemaliger Mitarbeiter der Obama-Regierung, sagte, er sei „zutiefst besorgt“ über die Sicherheit von KI und forderte Washington auf, SB 1047 als wegweisendes Beispiel zu sehen. Gleichsam ist er überzeugt, dass es einen „effektiveren Weg nach vorne“ gebe.

Quelle: Eric Daimler

SB 1047 ist nicht das einzige kalifornische KI-Gesetz, das derzeit diskutiert wird. SB 1220, das den Einsatz von KI in Call Centern verbietet, die Sozial- und Gesundheitsdienstleistungen wie SNAP und Medicaid anbieten, hat in der Branche ebenfalls Fragen aufgeworfen.

Die kalifornische Gesetzesvorlage AB 3211, die Wasserzeichen für KI-generierte Inhalte vorschreibt, wird wiederum von Technologieunternehmen wie OpenAI und Microsoft unterstützt.

Der Milliardär Elon Musk, der sein firmeneigenes Modell Grok entwickelt, hat sich ebenfalls für weitreichende KI-Regulierungsvorschriften ausgesprochen.

Cointelegraph hat sich an kalifornische Rechtsexperten und KI-Entwickler gewandt, um das Klima rund um die Gesetzesentwürfe besser zu verstehen, aber bis Redaktionsschluss noch keine Antwort erhalten.

Melde dich bei unseren Sozialen Medien an, um nichts zu verpassen: X, YouTube, Instagram und Telegram – aktuelle Nachrichten, Analysen, Expertenmeinungen und Interviews mit Fokus auf die DACH-Region.