Die legendäre MIT-Robotikerin Daniela Rus hat ein neues Buch mit dem Titel veröffentlicht Das Herz und der Chip: unsere glänzende Zukunft mit Robotern. „Eine Robotik-Revolution ist im Gange“, sagt Rus in der Einleitung des Buches, „eine Revolution, die bereits jetzt zu massiven Veränderungen in unserer Gesellschaft und in unserem Leben führt.“ Sie hat natürlich vollkommen Recht, und obwohl einige von uns jahrzehntelang geglaubt haben, dass dies wahr sei, ist es heute wohl wahrer denn je. Aber Roboter sind schwierig und kompliziert, und die Art und Weise, wie ihr Fortschritt mit den Menschen verknüpft ist, die sie herstellen und mit ihnen arbeiten, bedeutet, dass diese Veränderungen nicht schnell oder einfach vonstatten gehen werden. Rus‘ Hintergrund gibt ihm einen tiefen und differenzierten Blick auf die Vergangenheit und Zukunft der Robotik, und wir können hier einiges davon mit Ihnen teilen.
Daniela Rus: Sollten Robotiker darüber nachdenken, ihren eigenen hippokratischen Eid zu unterzeichnen?
Der folgende Auszug stammt aus Kapitel 14 mit dem Titel „Was könnte schief gehen?“ Das ist, seien wir ehrlich, die richtige Frage, die Sie stellen (und dann versuchen sollten, schlüssig zu beantworten), wenn Sie darüber nachdenken, einen Roboter in die reale Welt zu schicken.
In diesem Buch habe ich mehrmals die fiktive Figur Tony Stark erwähnt, die sich mithilfe von Technologie in den Superhelden Iron Man verwandelt. Für mich ist dieser Charakter eine enorme Inspirationsquelle, aber ich werde oft daran erinnert, dass er in der Geschichte seine Karriere als am MIT ausgebildeter Waffenhersteller und Munitionsentwickler beginnt. Im Film von 2008 IronmanEr ändert sein Verhalten, weil er erfährt, dass die Spezialwaffen seines Unternehmens von Terroristen eingesetzt werden.
Denken Sie daran, Roboter sind Werkzeuge. Von Natur aus sind sie weder gut noch böse; Es kommt darauf an, wie wir sie nutzen. Im Jahr 2022 wurden Flugdrohnen von beiden Seiten in verheerenden Kriegen als Waffen eingesetzt. Jeder kann eine Drohne kaufen, es gibt jedoch Vorschriften für den Einsatz von Drohnen, die von Land zu Land und innerhalb der einzelnen Länder unterschiedlich sind. In den Vereinigten Staaten verlangt die Federal Aviation Administration, dass alle Drohnen registriert werden müssen, mit wenigen Ausnahmen, einschließlich Spielzeugmodellen mit einem Gewicht von weniger als 250 Gramm. Die Regeln hängen auch davon ab, ob die Drohne privat oder geschäftlich geflogen wird. Unabhängig von den Vorschriften kann jeder einen fliegenden Roboter nutzen, um Schaden anzurichten, genauso wie jeder einen Hammer schwingen kann, um jemandem Schaden zuzufügen, anstatt einen Nagel in ein Brett zu schlagen. Doch Drohnen werden auch eingesetzt, um wichtige medizinische Versorgung in schwer zugängliche Gebiete zu bringen, den Waldzustand zu verfolgen und Wissenschaftlern wie Roger Payne bei der Überwachung und Verteidigung gefährdeter Arten zu helfen. Meine Gruppe arbeitete 2012 mit der modernen Tanzkompanie Pilobolus zusammen, um mit einem Roboter namens Seraph die erste Theateraufführung mit einer Mischung aus Menschen und Drohnen zu inszenieren. Drohnen können also auch Tänzer sein. In Kim Stanley Robinsons vorausschauendem Science-Fiction-Roman Das Ministerium der Zukunft, wird ein Schwarm unbemannter Luftfahrzeuge eingesetzt, um ein Verkehrsflugzeug zum Absturz zu bringen. Ich kann mir vorstellen, dass ein Schwarm dieser mechanischen Vögel auch auf viele positive Arten genutzt wird. Zu Beginn seines Krieges gegen die Ukraine schränkte Russland den Zugang seiner Bürger zu unvoreingenommenen Informationen ein, in der Hoffnung, den Diskurs um den Konflikt zu kontrollieren und zu gestalten. Die wahre Geschichte der Invasion wurde unterdrückt, und ich fragte mich, ob wir einen Schwarm fliegender Videobildschirme, die sich zu einem einzigen riesigen Luftmonitor organisieren konnten, mitten auf beliebte Plätze in ganz Russland hätten schicken können, um echte, nicht reale Bilder des Krieges zu zeigen Bilder des Krieges. einfache, von der Regierung genehmigte Clips. Oder noch einfacher: Schwärme fliegender Digitalprojektoren hätten die Bilder für alle sichtbar an Gebäudewände und Wände projizieren können. Wenn wir genug eingesetzt hätten, wären es zu viele gewesen, um sie zu schließen.
Es mag Variationen davon geben, wie Tony Stark meine Universität oder die Labore meiner Kollegen auf der ganzen Welt durchläuft, und wir müssen alles tun, was wir können, um sicherzustellen, dass diese talentierten jungen Menschen danach streben, einen positiven Einfluss auf die Menschheit zu haben.
Tony Starks Charakter ist von seinen Erfahrungen geprägt und darauf ausgerichtet, einen positiven Einfluss auf die Welt zu haben, aber wir können nicht erwarten, dass alle unsere Technologen erschütternde und lebensverändernde Erfahrungen machen. Wir können auch nicht erwarten, dass jeder diese intelligenten Maschinen definitiv nutzen wird, sobald sie entwickelt und in den Verkehr gebracht wurden. Das bedeutet nicht, dass wir aufhören sollten, an diesen Technologien zu arbeiten: Die potenziellen Vorteile sind zu groß. Was wir tun können, ist, mehr über die Konsequenzen nachzudenken und Sicherheitsvorkehrungen zu treffen, um positive Vorteile zu gewährleisten. Meine Zeitgenossen und ich können nicht unbedingt kontrollieren, wie diese Werkzeuge in der Welt verwendet werden, aber wir können mehr tun, um diejenigen zu beeinflussen, die sie herstellen.
Es mag Variationen davon geben, wie Tony Stark meine Universität oder die Labore meiner Kollegen auf der ganzen Welt durchläuft, und wir müssen alles tun, was wir können, um sicherzustellen, dass diese talentierten jungen Menschen danach streben, einen positiven Einfluss auf die Menschheit zu haben. Wir brauchen unbedingt Vielfalt in unseren akademischen Labors und Forschungszentren, aber vielleicht können wir noch mehr tun, um die jungen Menschen, die bei uns studieren, zu formen. Beispielsweise könnten wir eine Untersuchung des Manhattan-Projekts und der moralischen und ethischen Dilemmata fordern, die mit den phänomenalen Anstrengungen zum Bau und Einsatz der Atombombe verbunden sind. Derzeit sind Ethikkurse keine weit verbreitete Voraussetzung für einen weiterführenden Abschluss in Robotik oder KI, aber vielleicht sollten sie es sein. Oder warum nicht von Absolventen verlangen, dass sie einen Eid auf eine Variation des hippokratischen Eides schwören, die auf Robotik und KI zugeschnitten ist?
Der Eid geht auf einen antiken griechischen medizinischen Text zurück, der möglicherweise vom Philosophen Hippokrates verfasst wurde, und hat sich im Laufe der Jahrhunderte weiterentwickelt. Im Grunde stellt es einen Standard der medizinischen Ethik dar, den Ärzte einhalten sollen. Das bekannteste davon ist das Versprechen, keinen Schaden anzurichten oder zu vermeiden absichtlich Unfug. Ich begrüße auch die Betonung des Eids auf das Engagement für die Ärztegemeinschaft und die Notwendigkeit, die heilige Verbindung zwischen Lehrer und Schülern aufrechtzuerhalten. Je mehr wir als Robotik-Community verbunden bleiben, je mehr wir unsere Beziehungen pflegen und pflegen, während unsere Schüler in die Welt hinausgehen, desto mehr können wir tun, um die Technologie in eine positive Zukunft zu lenken. Heutzutage ist der hippokratische Eid keine universelle Voraussetzung für den Erwerb eines medizinischen Abschlusses, und ich glaube auch nicht, dass er für Robotiker in dieser Weise funktionieren wird. Ich bin auch nicht der erste Robotiker oder KI-Führer, der diese Möglichkeit vorschlägt. Aber wir sollten ernsthaft darüber nachdenken, dies zu einer gängigen Praxis zu machen.
Nach der Entwicklung der Atombombe, als die Gefahr, dass Wissenschaftler Schaden anrichten könnten, plötzlich und erschreckend offensichtlich wurde, wurde über einen hippokratischen Eid für wissenschaftliche Forscher diskutiert. Die Idee taucht von Zeit zu Zeit wieder auf und setzt sich selten durch. Aber Wissenschaft ist grundsätzlich eine Suche nach Wissen; in diesem Sinne ist es rein. In Robotik und KI bauen wir Dinge es wird sich auf die Welt, ihre Bewohner und andere Lebensformen auswirken. In diesem Sinne ist unser Fachgebiet der Medizin etwas näher, da Ärzte ihre Ausbildung nutzen, um direkt Einfluss auf das Leben des Einzelnen zu nehmen. Die Aufforderung an Technologen, offiziell eine Version des hippokratischen Eides zu rezitieren, könnte eine Möglichkeit sein, unser Fachgebiet weiter in die richtige Richtung zu treiben, und vielleicht als Kontrolle für Personen dienen, die später gebeten werden, Roboter oder KIs ausdrücklich für schändliche Zwecke zu entwickeln.
Natürlich hängt die ganze Vorstellung davon, was gut oder schlecht im Hinblick auf die Verwendung eines Roboters ist, davon ab, wo Sie sich befinden. Ich lehne die Idee, bewaffnete oder militarisierte Roboter zu stärken, entschieden ab. Wir können und sollten nicht darauf vertrauen, dass künstliche Intelligenzen Entscheidungen darüber treffen, ob einer Person oder einer Gruppe von Menschen selbst Schaden zugefügt wird. Persönlich würde ich es vorziehen, wenn Roboter niemals dazu verwendet würden, jemandem Schaden zuzufügen, aber das ist mittlerweile unrealistisch. Roboter werden als Kriegswerkzeuge eingesetzt, und es liegt in unserer Verantwortung, alles zu tun, um ihren ethischen Einsatz zu gestalten. Daher entferne ich mich nicht von der Realität und agiere nur in einem utopischen Universum glücklicher und hilfsbereiter Roboter. Tatsächlich unterrichte ich nationale Sicherheitsbeamte in Kursen über künstliche Intelligenz und berate sie über die Stärken, Schwächen und Fähigkeiten der Technologie. Ich betrachte dies als eine patriotische Pflicht und fühle mich geehrt, unseren Führungskräften dabei zu helfen, die Grenzen, Stärken und Möglichkeiten von Robotern und anderen KI-gestützten physischen Systemen zu verstehen: was sie können und was nicht, was sie tun sollten und was nicht. und was sie meiner Meinung nach tun sollten.
Unabhängig davon, wie viel wir über die Grenzen der Technologie, die Ethik der KI oder die potenziellen Gefahren der Entwicklung solch leistungsstarker Werkzeuge lehren und predigen, werden die Menschen letztendlich ihre eigenen Entscheidungen treffen, egal, ob es sich um frischgebackene Studenten oder hochrangige Beamte der nationalen Sicherheit handelt. Was ich hoffe und was ich lehre, ist, dass wir uns dafür entscheiden sollten, Gutes zu tun. Trotz der Bemühungen von Lebensverlängerungsgesellschaften haben wir alle nur eine begrenzte Zeit auf diesem Planeten, was der Wissenschaftler Carl Sagan unseren „blassblauen Punkt“ nannte, und wir müssen alles tun, was wir können, um das Beste daraus zu machen. Machen Sie das Beste daraus dieses Mal und haben einen positiven Einfluss. über unsere wunderschöne Umwelt und die vielen Menschen und anderen Arten, mit denen wir sie teilen. Mein jahrzehntelanges Bestreben, intelligentere, leistungsfähigere Roboter zu bauen, hat meine Wertschätzung – nein, ich staune – für die wundersamen Kreaturen, die durch und um unseren Planeten kriechen, laufen, schwimmen, rennen, gleiten und gleiten, sowie für fantastische Pflanzen nur noch vertieft . , Auch. Wir sollten uns nicht mit der Entwicklung von Robotern beschäftigen, die in der Lage sind, diese kosmisch seltenen Schöpfungen zu eliminieren. Stattdessen sollten wir uns auf die Entwicklung von Technologien konzentrieren, um sie zu bewahren und ihnen sogar zum Gedeihen zu verhelfen. Dies gilt für alle Lebewesen, einschließlich der einen Spezies, die sich besonders um die Entstehung intelligenter Maschinen sorgt.
Auszug aus „Das Herz und der Chip: Unsere glänzende Zukunft mit Robotern“. Copyright 2024 bei Daniela Rus, Gregory Mone. Verwendung mit Genehmigung des Herausgebers WW Norton & Company. Alle Rechte vorbehalten.