Die Gesetzgeber der Europäischen Union haben die bahnbrechenden KI-Vorschriften des Blocks offiziell genehmigt und damit den Weg für die EU geebnet, bestimmte Nutzungen der Technologie zu verbieten und von den Anbietern Transparenz zu fordern. In einer Mehrheitsabstimmung stimmten am Mittwoch 523 Mitglieder des Europäischen Parlaments für die formelle Verabschiedung des Gesetzes über künstliche Intelligenz (KI-Gesetz) und werden nun an seiner Anwendung und Umsetzung arbeiten.
Das KI-Gesetz wurde seit seinem ersten Vorschlag im Jahr 2021 heftig diskutiert, wobei einige seiner strengsten Vorschriften – wie etwa ein vorgeschlagenes vollständiges Verbot biometrischer Systeme zur öffentlichen Massenüberwachung – durch einen Kompromiss in letzter Minute gelockert wurden. Obwohl die Ankündigung vom Mittwoch bedeutet, dass das Gesetz die letzte Hürde fast genommen hat, wird es noch dauern Jahre damit bestimmte Regeln angewendet werden.
Der rechtliche Wortlaut des Textes muss noch endgültig genehmigt werden, entweder durch eine gesonderte Ankündigung oder durch eine Abstimmung in der Plenarsitzung am 10. und 11. April. Das AI-Gesetz tritt dann offiziell 20 Tage nach seiner Veröffentlichung im Amtsblatt in Kraft. was geplant ist. die dieses Jahr im Mai oder Juni stattfinden wird. Die Bestimmungen treten dann schrittweise in Kraft: Länder haben sechs Monate Zeit, um verbotene KI-Systeme zu verbieten, zwölf Monate, um Regeln gegen „Allzweck-KI-Systeme“ wie Chatbots durchzusetzen, und bis zu 36 Monate für KI-Systeme, als die das Gesetz qualifiziert ist “hohes Level”. Risiko.”
Zu den verbotenen Systemen gehören Dinge wie soziale Bewertung, Emotionserkennung am Arbeitsplatz oder in der Schule oder Systeme, die darauf abzielen, das Verhalten zu beeinflussen oder Schwachstellen von Benutzern auszunutzen. Beispiele für KI-Systeme mit „hohem Risiko“ sind solche, die in kritischen Infrastrukturen, in der Bildung und Berufsausbildung, in einigen Strafverfolgungssystemen und solchen eingesetzt werden, die zur Beeinflussung demokratischer Prozesse wie Wahlen eingesetzt werden können.
„Kurzfristig wird der Kompromiss zum EU-KI-Gesetz keine großen direkten Auswirkungen auf etablierte US-amerikanische KI-Entwickler haben, da er seinen Bedingungen zufolge wahrscheinlich nicht vor 2025 in Kraft treten wird“, sagte Paul Barrett. kehrte im Dezember 2023, stellvertretender Direktor des NYU Stern Center for Business and Human Rights, zurück, als die EU vorläufig einer bahnbrechenden Verordnung zu KI zustimmte. Daher sagt Barrett, dass große KI-Akteure wie OpenAI, Microsoft, Google und Meta wahrscheinlich weiterhin um die Vorherrschaft kämpfen werden, insbesondere da sie in den Vereinigten Staaten mit regulatorischer Unsicherheit konfrontiert sind. Vereinigte Staaten.
Das KI-Gesetz entstand vor der Explosion von Allzweck-KI-Tools (GPAI) wie dem großen GPT-4-Sprachmodell von OpenAI, und ihre Regulierung ist zu einem bemerkenswert komplizierten Knackpunkt in Diskussionen in letzter Minute geworden. Das Gesetz unterteilt seine Regeln nach dem Grad des Risikos, das ein KI-System für die Gesellschaft darstellt, oder, wie die EU in einer Erklärung sagte: „Je höher das Risiko, desto strenger die Regeln.“
Einige Mitgliedstaaten befürchten jedoch, dass diese Strenge die EU zu einem unattraktiven Markt für KI machen könnte. Frankreich, Deutschland und Italien haben sich in den Verhandlungen allesamt für eine Lockerung der GPAI-Beschränkungen eingesetzt. Sie einigten sich auf Kompromisse, einschließlich der Begrenzung dessen, was als „Hochrisiko“-Systeme gelten kann, die dann einigen der strengsten Regeln unterliegen würden. Anstatt alle GPAIs als Hochrisiko einzustufen, wird es ein zweistufiges System und Ausnahmen für die Strafverfolgung für rein verbotene Anwendungen von KI, wie etwa die biometrische Fernidentifizierung, geben.
Damit sind noch nicht alle Kritiker zufriedengestellt. Der französische Präsident Emmanuel Macron griff die Regeln an und sagte, das KI-Gesetz schaffe ein strenges Regulierungsumfeld, das Innovationen behindere. Barrett sagte, einige neue europäische KI-Unternehmen könnten mit den aktuellen Regeln, die US-Unternehmen einen Vorteil verschaffen, Schwierigkeiten haben, Kapital zu beschaffen. Unternehmen außerhalb Europas könnten sich sogar dafür entscheiden, die Niederlassung in der Region zu vermeiden oder den Zugang zu Plattformen zu blockieren, um nicht wegen Verstoßes gegen die Regeln mit einer Geldstrafe belegt zu werden – ein potenzielles Risiko, mit dem Europa konfrontiert ist. Gemäß den Vorschriften ist es auch im Nicht-KI-Technologiesektor damit konfrontiert . wie dem Digital Markets Act und dem Digital Services Act.
Die Regeln umgehen aber auch einige der umstrittensten Themen im Zusammenhang mit generativer KI.
KI-Modelle, die auf öffentlich zugänglichen, aber sensiblen und möglicherweise urheberrechtlich geschützten Daten trainiert werden, sind beispielsweise für Organisationen zu einem erheblichen Streitpunkt geworden. Die genehmigten Regeln schaffen jedoch keine neuen Gesetze zur Datenerhebung. Auch wenn die EU als erste EU Datenschutzgesetze durch die DSGVO verabschiedet hat, verbieten ihre KI-Regeln Unternehmen nicht, Informationen zu sammeln, über die Verpflichtung zur Einhaltung der DSGVO-Richtlinien hinaus.
„Nach den Regeln können Unternehmen verpflichtet sein, eine Transparenzzusammenfassung oder Daten zur Nährwertkennzeichnung bereitzustellen“, sagte Susan Ariel Aaronson, Direktorin des Digital Trade and Data Governance Hub und Forschungsprofessorin für internationale Angelegenheiten an der George Washington University, als die EU vorläufig war genehmigte das Projekt. Regeln. „Aber es wird das Datenverhalten der Unternehmen nicht wirklich verändern.“
Aaronson weist darauf hin, dass das KI-Gesetz immer noch nicht klarstellt, wie Unternehmen mit urheberrechtlich geschütztem Material umgehen sollen, das Teil von Modelltrainingsdaten ist, sondern lediglich besagt, dass Entwickler bestehende Urheberrechtsgesetze respektieren sollten (die viele Grauzonen rund um die KI hinterlassen). Dies stellt für KI-Modellentwickler daher keinen Anreiz dar, die Verwendung urheberrechtlich geschützter Daten zu vermeiden.
Das KI-Gesetz sieht auch keine potenziell hohen Geldstrafen für Open-Source-Entwickler, Forscher und kleine Unternehmen vor, die weiter unten in der Wertschöpfungskette arbeiten – ein Schritt, der von Open-Source-Entwicklern in diesem Bereich begrüßt wurde. Shelley McKinley, Chief Legal Officer von GitHub, sagte, es sei eine „positive Entwicklung für offene Innovation und Entwickler, die an der Lösung einiger der dringendsten Probleme der Gesellschaft arbeiten“. (GitHub, ein beliebter Open-Source-Entwicklungshub, ist eine Tochtergesellschaft von Microsoft.)
Beobachter glauben, dass die konkreteste Wirkung darin bestehen könnte, Druck auf andere politische Persönlichkeiten, insbesondere amerikanische, auszuüben, damit sie schneller handeln. Dies ist nicht der erste große Regulierungsrahmen für KI: Im Juli verabschiedete China Richtlinien für Unternehmen, die KI-Dienste an die Öffentlichkeit verkaufen wollen. Doch der relativ transparente und heftig diskutierte Entwicklungsprozess der EU hat der KI-Industrie eine Vorstellung davon gegeben, was sie zu erwarten hat. Aaronson sagte, der Textentwurf (der inzwischen genehmigt wurde) zeige zumindest, dass die EU die öffentlichen Bedenken hinsichtlich der Technologie gehört und darauf reagiert habe.
Lothar Determann, Partner für Datenschutz und Informationstechnologie bei der Anwaltskanzlei Baker McKenzie, sagt, dass der Rückgriff auf bestehende Datenregeln Regierungen auch dazu ermutigen könnte, eine Bestandsaufnahme der geltenden Vorschriften vorzunehmen. Und Blake Brannon, Chief Strategy Officer der Datenschutzplattform OneTrust, sagte, dass ausgereiftere KI-Unternehmen Datenschutzrichtlinien im Einklang mit Gesetzen wie der DSGVO und in Erwartung strengerer Richtlinien festlegen. Er sagte, Unternehmen sagen, das KI-Gesetz sei „eine zusätzliche Wendung“ zu den bereits bestehenden Strategien.
Die Vereinigten Staaten hingegen haben es weitgehend versäumt, eine KI-Regulierung auf den Weg zu bringen, obwohl dort große Player wie Meta, Amazon, Adobe, Google, Nvidia und OpenAI beheimatet sind. Ihre bisher größte Initiative war eine Durchführungsverordnung der Biden-Regierung, die Regierungsbehörden anweist, Sicherheitsstandards zu entwickeln und sich auf freiwillige, unverbindliche Vereinbarungen zu verlassen, die von großen KI-Akteuren unterzeichnet wurden. Die wenigen im Senat eingebrachten Gesetzentwürfe drehten sich hauptsächlich um Deepfakes und Wasserzeichen, und nichtöffentliche Foren zum Thema KI, die von Senator Chuck Schumer (D-N.Y.) veranstaltet wurden, lieferten wenig Klarheit zu diesem Thema. Regierungsrichtung zur Technologie-Governance.
Die politischen Entscheidungsträger könnten nun den Ansatz der EU prüfen und daraus lernen.
Das bedeutet nicht, dass die Vereinigten Staaten den gleichen risikobasierten Ansatz verfolgen werden, aber sie könnten eine Ausweitung der Datentransparenzregeln in Betracht ziehen oder etwas mehr Nachsicht bei GPAI-Modellen zulassen.
Navrina Singh, Gründerin von Credo AI und Mitglied des National AI Advisory Committee, ist davon überzeugt, dass das KI-Gesetz zwar ein wichtiger Moment für die KI-Governance ist, die Dinge sich jedoch nicht so schnell ändern werden und es noch viel zu tun gibt.
„Das Ziel der Regulierungsbehörden auf beiden Seiten des Atlantiks sollte es sein, Organisationen jeder Größe dabei zu helfen, KI zu entwerfen, zu entwickeln und sicher einzusetzen, die sowohl transparent als auch rechenschaftspflichtig ist“, sagte Singh. Die Kante Im Dezember. Sie fügt hinzu, dass es noch immer an Standards und Benchmarking-Prozessen mangelt, insbesondere im Hinblick auf die Transparenz.
Das Gesetz regelt nicht rückwirkend bestehende Modelle oder Anwendungen, aber zukünftige Versionen von OpenAIs GPT, Metas Llama oder Googles Gemini müssen die von der EU festgelegten Transparenzanforderungen berücksichtigen. Das führt vielleicht nicht über Nacht zu dramatischen Veränderungen, aber es zeigt, wo die EU in Sachen KI steht.
Aktualisiert am 12. März um 8:30 Uhr ET: Aktualisierter Originalartikel nach offizieller Verabschiedung des europäischen Rechts.