5 Möglichkeiten zur Stärkung des KI-Akquisitionsprozesses

In unserem letzten Artikel „Ein praktischer Leitfaden zum Erwerb von KI-Systemen“ haben wir erklärt, warum der IEEE P3119-Standard für den Erwerb künstlicher Intelligenz (KI) und automatisierter Entscheidungssysteme (ADS) notwendig ist.

In diesem Artikel stellen wir weitere Details zum Standardentwurf und zur Verwendung regulatorischer „Sandboxen“ bereit, um den sich entwickelnden Standard anhand realer Anwendungsfälle für die KI-Beschaffung zu testen.

Stärkung der KI-Beschaffungspraktiken

Der Entwurf des IEEE P3119-Standards soll dazu beitragen, KI-Beschaffungsansätze zu stärken und eine Due-Diligence-Prüfung vorzusehen, um sicherzustellen, dass Agenturen die von ihnen erworbenen KI-Dienste und -Tools kritisch bewerten. Der Standard kann Regierungsbehörden eine Methode an die Hand geben, um bei KI-Anbietern Transparenz über die damit verbundenen Risiken sicherzustellen.

Ziel des Standards ist es nicht, traditionelle Beschaffungsprozesse zu ersetzen, sondern etablierte Praktiken zu optimieren. Der risikobasierte Ansatz von IEEE P3119 für die KI-Beschaffung folgt den allgemeinen Grundsätzen der IEEE-Abhandlung „Ethically Aligned Design“, die das menschliche Wohlergehen in den Vordergrund stellt.

Die Richtlinienentwürfe sind in einer verständlichen Sprache verfasst und enthalten praktische Tools und Abschnitte. Es enthält beispielsweise einen Bewertungsleitfaden, der bei der Analyse der Behauptungen der Anbieter zu ihren KI-Lösungen hilft.

IEEE P3119 besteht aus fünf Prozessen, die Benutzern dabei helfen, Schäden zu identifizieren, zu mindern und zu überwachen, die typischerweise mit hochriskanten KI-Systemen verbunden sind, wie z. B. automatisierten Entscheidungssystemen, die in Bildung, Gesundheit, Beschäftigung und vielen Bereichen des öffentlichen Sektors zu finden sind.

Nachfolgend finden Sie einen Überblick über die fünf Prozesse im Standard.

Gisèle Waters

Schritte zur Definition von Geschäftsproblemen und -anforderungen

Die fünf Prozesse sind 1) Definition von Problem- und Lösungsanforderungen, 2) Lieferantenbewertung, 3) Lösungsbewertung, 4) Vertragsverhandlung und 5) Vertragsüberwachung. Diese finden in vier Phasen statt: Pre-Procurement, Procurement, Contracting und Post-Procurement. Die Prozesse werden in das integriert, was bereits in herkömmlichen globalen Beschaffungszyklen geschieht.

Als die Arbeitsgruppe den Standard entwickelte, stellte sie fest, dass herkömmliche Beschaffungsansätze häufig einen Schritt vor der Beschaffung überspringen, bei dem das Problem oder der Geschäftsbedarf definiert wird. Heutzutage bieten KI-Anbieter Lösungen auf der Suche nach Problemen an, anstatt Probleme anzugehen, die Lösungen erfordern. Aus diesem Grund hat die Task Force Tools entwickelt, die Behörden dabei helfen, ein Problem zu definieren und die Risikobereitschaft der Organisation einzuschätzen. Diese Tools helfen Agenturen proaktiv Sie planen Anschaffungen und beschreiben Anforderungen an entsprechende Lösungen.

Während der Phase, in der Angebote von Lieferanten eingeholt werden (oft als „Angebotsanfrage“- oder „Ausschreibungsphase“ bezeichnet), arbeiten die Lösungen für die Lieferantenbewertung und die Angebotsbewertung zusammen, um eine tiefergehende Analyse zu ermöglichen. Die KI-Organisations-Governance-Praktiken und -Richtlinien des Anbieters sowie seine Lösungen werden bewertet und bewertet. Mit dem Standard müssen Käufer detaillierte Informationen über Ziel-KI-Systeme erhalten, um besser zu verstehen, was verkauft wird. Diese KI-Transparenzanforderungen fehlen in den bestehenden Beschaffungspraktiken.

In der Vertragsphase werden Lücken in bestehenden Software- und Informationstechnologie-Vertragsmodellen behoben, die die Nuancen und Risiken von KI-Systemen nicht angemessen bewerten. Der Standard bietet eine Referenzvertragssprache, die von den Amsterdamer Vertragsbedingungen für Algorithmen, europäischen Mustervertragsklauseln und von der Society for Computers and Law AI Group veröffentlichten Klauseln inspiriert ist.

„Die Arbeitsgruppe hat Tools entwickelt, die Behörden dabei helfen sollen, ein Problem zu definieren und die Risikobereitschaft der Organisation einzuschätzen. Diese Tools helfen Agenturen proaktiv Planen Sie Einkäufe und definieren Sie Anforderungen für geeignete Lösungen.

Dienstleister können dabei helfen, die Risiken zu kontrollieren, die sie in früheren Prozessen identifiziert haben, indem sie diese mit ihnen abgleichen organisiert Klauseln in ihren Verträgen. Diese Referenzvertragssprache kann für Agenturen, die mit KI-Anbietern verhandeln, von entscheidender Bedeutung sein. Wenn das technische Wissen über das gekaufte Produkt äußerst begrenzt ist, sollten Sie dies tun organisiert Klauseln können Agenturen helfen verhandeln mit KI-Anbietern zusammen und setzen sich für den Schutz des öffentlichen Interesses ein.

In der Nachbeschaffungsphase werden die identifizierten Risiken sowie die im Vertrag enthaltenen Bedingungen überwacht. Darüber hinaus werden wichtige Leistungsindikatoren und -maßnahmen kontinuierlich evaluiert.

Die fünf Prozesse bieten einen risikobasierten Ansatz, den die meisten Agenturen auf eine Vielzahl von Anwendungsfällen im Bereich der KI-Beschaffung anwenden können.

Sandboxes erforschen Innovationen und bestehende Prozesse

Bevor KI-Systeme auf dem Markt eingesetzt werden, bieten Sandboxes die Möglichkeit, bestehende Prozesse für den Kauf von KI-Lösungen zu erkunden und zu bewerten.

Sandboxes werden manchmal in der Softwareentwicklung verwendet. Dabei handelt es sich um isolierte Umgebungen, in denen neue Konzepte und Simulationen getestet werden können. Die KI-Sandbox von Harvard beispielsweise ermöglicht es akademischen Forschern, die Sicherheits- und Datenschutzrisiken generativer KI zu untersuchen.

Regulatorische Sandboxen sind reale Testumgebungen für Technologien und Verfahren, die den aktuellen Gesetzen und Vorschriften noch nicht vollständig entsprechen. Sie werden in der Regel über einen begrenzten Zeitraum in einem „sicheren Raum“ aktiviert, in dem rechtliche Beschränkungen häufig „reduziert“ werden und eine agile Erforschung von Innovationen stattfinden kann. Regulatorische Sandboxen können zur Entwicklung evidenzbasierter Gesetze beitragen und Informationen für Behörden bereitstellen, um mögliche Herausforderungen im Zusammenhang mit neuen Gesetzen, Standards und Technologien zu identifizieren.

Wir suchten nach einer regulatorischen Sandbox, um unsere Hypothesen und die Komponenten des sich entwickelnden Standards zu testen, mit dem Ziel zu untersuchen, wie sich der Standard in realen KI-Anwendungsfällen verhalten würde.

Letztes Jahr haben wir auf der Suche nach Sandbox-Partnern mit 12 Regierungsbehörden zusammengearbeitet, die lokale, regionale und transnationale Gerichtsbarkeiten vertreten. Die Agenturen haben alle Interesse an einer verantwortungsvollen KI-Beschaffung bekundet. Gemeinsam haben wir uns für eine Proof-of-Concept-Zusammenarbeit eingesetzt, bei der die IEEE Standards Association, Mitglieder der IEEE P3119-Arbeitsgruppe und unsere Partner die Leitlinien und Tools des Standards anhand eines retrospektiven oder zukünftigen Anwendungsfalls des Kaufs von KI testen könnten. In mehrmonatigen Meetings haben wir herausgefunden, welche Agenturen über Mitarbeiter verfügen, die sowohl über die Autorität als auch über die Bandbreite verfügen, um mit uns zusammenzuarbeiten.

Als potenzielle Sandbox-Partner haben sich insbesondere zwei Unternehmen als vielversprechend erwiesen: eine Agentur, die die Europäische Union vertritt, und ein Konsortium lokaler Regierungsräte im Vereinigten Königreich.

Unser Anspruch ist es, mithilfe einer Sandbox die Unterschiede zwischen zu bewerten aktuell KI-Einkaufsverfahren und was könnte ob der Normentwurf den Status quo anpasst. Zum gegenseitigen Nutzen würde die Sandbox die Stärken und Schwächen bestehender Beschaffungspraktiken und unserer entworfenen IEEE P3119-Komponenten testen.

Nach Gesprächen mit Regierungsbehörden wurden wir mit der Realität konfrontiert, dass eine Sandbox-Zusammenarbeit langwierige Genehmigungen und Überlegungen sowohl seitens des IEEE als auch der Regierungsbehörde erfordert. Beispielsweise stellt die europäische Agentur bei der Verwaltung von Beschaffungsprozessen die Einhaltung des europäischen KI-Gesetzes, der Datenschutz-Grundverordnung und ihrer eigenen Beschaffungsregime sicher. In ähnlicher Weise legen die Kommunen im Vereinigten Königreich auf mehreren Ebenen Anforderungen fest, die sich aus ihrem Regulierungsumfeld ergeben.

Diese Anforderungen sind zwar nicht überraschend, müssen jedoch als erhebliche technische und politische Herausforderungen für die Sandbox-Genehmigung angesehen werden. Die Rolle regulatorischer Sandboxen, insbesondere für KI-gestützte Versorgungsunternehmen in Hochrisikogebieten, ist von entscheidender Bedeutung für die Information über Innovationen in der öffentlichen Beschaffungspraxis.

Mithilfe einer regulatorischen Sandbox können wir feststellen, ob ein freiwilliger, konsensbasierter Standard bei der Beschaffung von KI-Lösungen einen Unterschied machen kann. Das Testen des Standards in Zusammenarbeit mit Sandbox-Partnern würde die Chancen auf eine erfolgreiche Einführung erhöhen. Wir freuen uns darauf, unsere Gespräche und Engagements mit unseren potenziellen Partnern fortzusetzen.

Der genehmigte IEEE 3119-Standard wird voraussichtlich Anfang nächsten Jahres und möglicherweise noch in diesem Jahr veröffentlicht.