Angesichts der rasanten Verbreitung von KI-Systemen fordern politische Entscheidungsträger und Branchenführer klarere Leitlinien für die Steuerung dieser Technologie. Die Mehrheit der US-amerikanischen IEEE-Mitglieder ist der Ansicht, dass der aktuelle Regulierungsansatz für die Verwaltung von Systemen der künstlichen Intelligenz (KI) unzureichend ist. Sie argumentieren auch, dass die Priorisierung der KI-Governance eine Frage der öffentlichen Ordnung sein sollte, zusammen mit Themen wie Gesundheitsversorgung, Bildung, Einwanderung und Umwelt. Dies geht aus den Ergebnissen einer Umfrage hervor, die IEEE für das IEEE-USA AI Policy Committee durchgeführt hat.
Wir sind Vorsitzender des AI Policy Committee und wissen, dass IEEE-Mitglieder eine wichtige und unschätzbar wertvolle Quelle für fundierte Informationen über die Technologie sind. Um unsere politische Interessenvertretung in Washington, D.C. zu leiten und die Meinungen zur Governance von KI-Systemen in den Vereinigten Staaten besser zu verstehen, befragte IEEE eine Zufallsstichprobe von 9.000 aktiven Mitgliedern des IEEE-USA sowie 888 aktiven Mitgliedern, die im Bereich KI arbeiten und neuronale Netze.
In der Umfrage wurde der Begriff bewusst nicht definiert KI. Stattdessen wurden die Befragten gebeten, bei der Beantwortung ihre eigene Interpretation der Technologie zu verwenden. Die Ergebnisse zeigten, dass es selbst unter den IEEE-Mitgliedern keinen klaren Konsens über eine Definition von gibt KI. Es gibt erhebliche Unterschiede in der Sichtweise der Mitglieder auf KI-Systeme, und dieser Mangel an Konvergenz hat Auswirkungen auf die öffentliche Ordnung.
Insgesamt wurden die Mitglieder gefragt, wie der Einsatz von Algorithmen bei der Entscheidungsfindung und beim Datenschutz geregelt werden soll und ob die US-Regierung ihre Handarbeit und ihr Fachwissen im Bereich KI erhöhen sollte.
Der Stand der KI-Governance
IEEE-USA setzt sich seit Jahren für eine starke Governance ein, um die Auswirkungen der KI auf die Gesellschaft zu kontrollieren. Es ist klar, dass die politischen Entscheidungsträger in den USA Schwierigkeiten haben, die Daten zu regulieren, die KI-Systeme antreiben. Bestehende Bundesgesetze schützen bestimmte Arten von Gesundheits- und Finanzdaten, aber der Kongress muss trotz zahlreicher Versuche noch ein Gesetz zur Umsetzung eines nationalen Datenschutzstandards verabschieden. Der Datenschutz für Amerikaner ist lückenhaft und die Einhaltung komplexer Datenschutzgesetze auf Bundes- und Landesebene kann für die Branche kostspielig sein.
Viele politische Entscheidungsträger in den USA haben argumentiert, dass KI-Governance nicht ohne ein nationales Datenschutzgesetz möglich sein kann, das Standards und technische Leitlinien für die Datenerhebung und -nutzung vorsieht, insbesondere auf dem Markt für kommerziell verfügbare Informationen. Daten sind eine wichtige Ressource für große Sprachmodelle von Drittanbietern, die sie zum Trainieren von KI-Tools und zum Generieren von Inhalten verwenden. Wie die US-Regierung erkannt hat, ermöglicht der Markt für kommerziell verfügbare Informationen jedem Käufer den Zugriff auf eine Fülle von Daten über Einzelpersonen und Gruppen, darunter auch Daten, die ansonsten gesetzlich geschützt wären. Das Problem wirft erhebliche Bedenken hinsichtlich der Privatsphäre und der bürgerlichen Freiheiten auf.
Es stellt sich heraus, dass die Datenschutzregulierung ein Bereich ist, in dem die IEEE-Mitglieder einen starken und klaren Konsens vertreten.
Erkenntnisse aus der Umfrage
Die Mehrheit der Befragten – rund 70 Prozent – hielten den aktuellen Regulierungsansatz für unzureichend. Einzelne Antworten sagen uns mehr. Um einen Kontext bereitzustellen, haben wir die Ergebnisse in vier Diskussionsbereiche unterteilt: die Steuerung öffentlicher Richtlinien im Zusammenhang mit KI; Risiko und Haftung; Vertrauen; und vergleichende Perspektiven.
KI-Governance als öffentliche Ordnung
Obwohl es zu bestimmten Aspekten der KI-Governance unterschiedliche Meinungen gibt, besteht ein Konsens über die Regulierung von KI in bestimmten Fällen. Mehr als 93 % der Befragten befürworten den Schutz der Privatsphäre des Einzelnen und befürworten eine Regulierung zur Bekämpfung KI-generierter Fehlinformationen.
Etwa 84 Prozent befürworten die Forderung nach Risikobewertungen für KI-Produkte mit mittlerem und hohem Risiko. Achtzig Prozent forderten die Einführung von Transparenz- oder Erklärbarkeitsanforderungen für KI-Systeme und 78 Prozent forderten Beschränkungen für autonome Waffensysteme. Mehr als 72 Prozent der Mitglieder befürworten Richtlinien, die den Einsatz von Gesichtserkennung in bestimmten Kontexten einschränken oder regeln, und fast 68 Prozent unterstützen Richtlinien, die den Einsatz von Algorithmen bei Folgeentscheidungen regeln.
Die Befragten sind sich nachdrücklich darin einig, dass die KI-Governance als politisches Thema Vorrang haben sollte. Zwei Drittel sagten, dass der Technologie mindestens die gleiche Priorität eingeräumt werden sollte wie anderen Bereichen im Zuständigkeitsbereich der Regierung, etwa dem Gesundheitswesen, der Bildung, der Einwanderung und der Umwelt.
Achtzig Prozent befürworten die Entwicklung und den Einsatz von KI, und mehr als 85 Prozent sind der Meinung, dass sie sorgfältig verwaltet werden sollte. Die Befragten sind sich jedoch nicht einig darüber, wie und von wem dies geschehen soll. Das Management sollte durchgeführt werden. Auch wenn nur etwas mehr als die Hälfte der Befragten der Meinung sind, dass der Staat KI regulieren sollte, steht diesem Datenpunkt die klare Unterstützung der Mehrheit für staatliche Regulierung in bestimmten Bereichen oder Einsatzszenarien gegenüber.
Nur ein sehr kleiner Prozentsatz der Nicht-KI-Informatiker und Software-Ingenieure glaubt, dass private Unternehmen die KI mit minimaler staatlicher Aufsicht selbst regulieren sollten. Im Gegensatz dazu bevorzugen fast die Hälfte der KI-Experten eine staatliche Aufsicht.
Mehr als drei Viertel der IEEE-Mitglieder unterstützen die Idee, dass Leitungsgremien aller Art mehr tun sollten, um die Auswirkungen von KI zu bewältigen.
Risiko und Haftung
Eine Reihe von Fragen in der Umfrage konzentrierten sich auf die Wahrnehmung des KI-Risikos. Fast 83 % der Mitglieder gaben an, dass die Öffentlichkeit nicht ausreichend über KI informiert sei. Mehr als die Hälfte glaubt, dass die Vorteile der KI ihre Risiken überwiegen.
Wenn es um die Verantwortung für KI-Systeme geht, sagte etwas mehr als die Hälfte, dass Entwickler die Hauptverantwortung dafür übernehmen sollten, sicherzustellen, dass Systeme sicher und effektiv sind. Etwa ein Drittel meinte, die Regierung solle Verantwortung übernehmen.
Vertrauenswürdige Organisationen
Die Befragten bewerteten akademische Einrichtungen, gemeinnützige Organisationen sowie kleine und mittlere Technologieunternehmen als die vertrauenswürdigsten Einrichtungen für verantwortungsvolles Design, Entwicklung und Bereitstellung. Die drei am wenigsten vertrauenswürdigen Fraktionen sind große Technologieunternehmen, internationale Organisationen und Regierungen.
Die vertrauenswürdigsten Instanzen für die verantwortungsvolle Verwaltung oder Steuerung von KI sind akademische Einrichtungen und unabhängige Drittinstitutionen. Am wenigsten zuverlässig sind große Technologieunternehmen und internationale Organisationen.
Vergleichende Perspektiven
Die Mitglieder zeigten eine starke Präferenz für die Regulierung von KI, um soziale und ethische Risiken zu mindern, wobei 80 % der Nicht-KI-Fachkräfte in Wissenschaft und Technik und 72 % der KI-Arbeitskräfte diese Ansicht unterstützten.
Fast 30 % der Fachleute, die in der KI tätig sind, glauben, dass Regulierung Innovationen ersticken könnte, im Vergleich zu etwa 19 % ihrer Nicht-KI-Kollegen. Eine Mehrheit aller Gruppen ist sich einig, dass es entscheidend ist, mit der Regulierung von KI zu beginnen, anstatt zu warten, wobei 70 % der Nicht-KI-Fachkräfte und 62 % der KI-Mitarbeiter eine sofortige Regulierung befürworten.
Eine deutliche Mehrheit der Befragten erkennt die sozialen und ethischen Risiken von KI und betont die Notwendigkeit verantwortungsvoller Innovation. Mehr als die Hälfte der KI-Experten tendiert dazu, unverbindliche Regulierungsinstrumente wie Standards zu nutzen. Etwa die Hälfte der KI-Laien befürwortet bestimmte Regierungsregeln.
Ein gemischter Governance-Ansatz
Die Umfrage zeigt, dass die Mehrheit der in den USA ansässigen IEEE-Mitglieder die Entwicklung von KI unterstützt und sich nachdrücklich für deren sorgfältigen Umgang einsetzt. Die Ergebnisse werden IEEE-USA bei seiner Zusammenarbeit mit dem Kongress und dem Weißen Haus leiten.
Die Befragten erkennen die Vorteile von KI an, äußern jedoch Bedenken hinsichtlich ihrer gesellschaftlichen Auswirkungen, wie Ungleichheit und Fehlinformationen. Das Vertrauen in die für die Entwicklung und Verwaltung von KI verantwortlichen Stellen ist sehr unterschiedlich. Akademische Institutionen gelten als die vertrauenswürdigsten Einrichtungen.
Eine bemerkenswerte Minderheit ist gegen eine staatliche Beteiligung und bevorzugt nicht-regulierende Richtlinien und Standards, diese Zahlen sollten jedoch nicht isoliert betrachtet werden. Obwohl die konzeptionelle Haltung gegenüber staatlicher Regulierung unterschiedlich ist, besteht ein überwältigender Konsens für eine rasche Regulierung in bestimmten Szenarien wie Datenschutz, Einsatz von Algorithmen bei der Entscheidungsfindung, Gesichtserkennung und autonomen Waffensystemen.
Insgesamt wird ein gemischter Governance-Ansatz bevorzugt, der sich auf technische und industrielle Gesetze, Vorschriften und Standards stützt.