Meldepflichten seien der Schlüssel, um die Regierung auf potenziell gefährliche neue Fähigkeiten immer leistungsfähigerer KI-Modelle aufmerksam zu machen, sagt ein US-Regierungsbeamter, der an KI-Themen arbeitet. Der Manager, der anonym bleiben wollte, um sich frei äußern zu können, hebt das Eingeständnis von OpenAI bezüglich der „inkonsequenten Ablehnung von Anfragen zur Synthese von Nervenkampfstoffen“ seines neuesten Modells hervor.
Der Beamte sagt, die Meldepflicht sei nicht allzu belastend. Sie argumentieren, dass Bidens EO im Gegensatz zu den KI-Vorschriften in der Europäischen Union und China „einen sehr breiten, lockeren Ansatz widerspiegelt, der weiterhin Innovationen fördert“.
Nick Reese, der von 2019 bis 2023 als erster Direktor für neue Technologien im US-Heimatschutzministerium tätig war, weist konservative Behauptungen zurück, dass die Meldepflicht das geistige Eigentum von Unternehmen gefährden würde. Und er sagt, es könnte Start-ups tatsächlich zugute kommen, indem es sie dazu ermutigt, KI-Modelle zu entwickeln, die „recheneffizienter“ und weniger datenintensiv sind und unter der Meldeschwelle liegen.
Die Macht der KI macht eine Überwachung durch die Regierung unerlässlich, sagt Ami Fields-Meyer, die als technische Leiterin des Weißen Hauses an der Erstellung von Bidens EO beteiligt war.
„Wir sprechen von Unternehmen, die behaupten, die leistungsstärksten Systeme in der Geschichte der Welt zu bauen“, sagt Fields-Meyer. „Die erste Verpflichtung der Regierung besteht darin, die Menschen zu schützen. „Vertrau mir, wir verstehen das“ ist kein besonders überzeugendes Argument. »
Experten begrüßen die NIST-Sicherheitsrichtlinien als wichtige Ressource für die Integration von Schutzmaßnahmen in neue Technologien. Sie stellen fest, dass fehlerhafte KI-Modelle schwerwiegende soziale Schäden verursachen können, einschließlich Diskriminierung bei Miete und Kreditvergabe und ungerechtfertigten Verlust staatlicher Leistungen.
Trumps erste KI-Anordnung verlangte von den KI-Systemen des Bundes, die Bürgerrechte zu respektieren, was Untersuchungen zu sozialen Schäden erfordert.
Die KI-Branche hat Bidens Sicherheitsagenda weitgehend begrüßt. „Was wir hören, ist, dass es sehr wertvoll ist, diese Dinge zu klären“, sagte der US-Beamte. Für neue Unternehmen mit kleinen Teams „erweitert dies die Fähigkeit ihrer Mitarbeiter, auf diese Bedenken einzugehen.“
Eine Umkehrung von Bidens EO würde ein alarmierendes Signal senden, dass „die US-Regierung bei der KI-Sicherheit einen unkomplizierten Ansatz verfolgen wird“, sagt Michael Daniel, ein ehemaliger Cybersicherheitsberater des Präsidenten, der jetzt die Cyber Threat Alliance leitet, eine gemeinnützige Organisation für den Informationsaustausch .
Was den Wettbewerb mit China betrifft, sagen EO-Befürworter, dass die Sicherheitsregeln Amerika tatsächlich zum Sieg verhelfen werden, indem sie sicherstellen, dass amerikanische KI-Modelle besser funktionieren als ihre chinesischen Konkurrenten und vor Wirtschaftsspionage aus Peking geschützt sind.
Zwei sehr unterschiedliche Wege
Wenn Trump nächsten Monat das Weiße Haus gewinnt, ist mit einer grundlegenden Veränderung in der Herangehensweise der Regierung an die KI-Sicherheit zu rechnen.
Die Republikaner wollen Schaden durch KI verhindern, indem sie „bestehende Delikts- und Gesetzesgesetze“ durchsetzen, anstatt neue pauschale Beschränkungen für die Technologie einzuführen, sagt Helberg, und sie bevorzugen „eine viel stärkere Konzentration auf die Maximierung der von KI gebotenen Möglichkeiten, anstatt sich zu sehr zu konzentrieren.“ über die Risiken.“ „Dies würde wahrscheinlich eine Katastrophe für die Meldepflicht und möglicherweise für einige NIST-Richtlinien bedeuten.
Auch die Meldepflicht könnte vor rechtlichen Herausforderungen stehen, da der Oberste Gerichtshof die Rücksichtnahme geschwächt hat, die Gerichte den Behörden bei der Bewertung ihrer Vorschriften einräumen.
Und die Weigerung der Republikaner könnte sogar die freiwilligen KI-Testpartnerschaften des NIST mit führenden Unternehmen gefährden. „Was passiert mit diesen Verpflichtungen in einer neuen Regierung? » fragt der amerikanische Beamte.
Diese Polarisierung rund um die KI hat Technologen frustriert, die befürchten, dass Trump die Suche nach sichereren Modellen untergraben wird.
„Das Versprechen der KI birgt Gefahren“, sagt Nicol Turner Lee, Direktor des Center for Technology Innovation an der Brookings Institution, „und es ist von entscheidender Bedeutung, dass der nächste Präsident weiterhin die Sicherheit dieser Systeme gewährleistet.“