Die drei Gesetze der Robotik von Rodney Brooks

Rodney Brooks ist emeritierter Professor für Robotik am MIT, wo er als Direktor des AI Lab und dann von CSAIL fungierte. Er war Mitbegründer von iRobot, Rethink Robotics und Robust AI, wo er derzeit technischer Leiter ist. Dieser Artikel wird mit Genehmigung seines Blogs geteilt.

Hier sind einige der Dinge, die ich über Robotik gelernt habe, nachdem ich fast fünf Jahrzehnte in diesem Bereich gearbeitet habe. Als Hommage an Isaac Asimov und Arthur C. Clarke, meine beiden Lieblings-Science-Fiction-Autoren seit meiner Kindheit, nenne ich sie meine drei Gesetze der Robotik.

1. Das optische Erscheinungsbild eines Roboters lässt erahnen, was er kann und wie intelligent er ist. Dieses Versprechen muss er einhalten oder sogar geringfügig übertreffen, sonst wird er nicht angenommen.
2. Wenn Roboter und Menschen in denselben Räumen koexistieren, sollten Roboter den Menschen nicht ihren freien Willen rauben, insbesondere wenn sie versagen, was manchmal unvermeidlich passieren wird.
3. Robotertechnologien benötigen mehr als zehn Jahre kontinuierlicher Verbesserung, die über Labordemonstrationen gezielter Aufgaben hinausgehen, um niedrige Kosten zu erzielen und ihre Grenzen so gut zu charakterisieren, dass sie in 99,9 % der Fälle funktionieren können. Alle weiteren 10 Jahre verbessert sich die Zuverlässigkeit um 9 Jahre.

Im Folgenden erkläre ich jedes dieser Gesetze genauer. Aber in einem verwandten Artikel sind hier meine drei Gesetze der künstlichen Intelligenz.

Es sollte beachtet werden, dass diese Gesetze mit dem Ziel verfasst wurden, Roboter in der realen Welt einzusetzen, wo Menschen für ihre Nutzung bezahlen und eine Rendite für ihre Investition erwarten. Dies unterscheidet sich stark von der Demonstration von Robotern oder Robotertechnologien im Labor.

Im Labor ist eine Phalanx von Doktoranden bestrebt, ihre neueste Idee, an der sie sehr hart gearbeitet haben, zu demonstrieren, um ihre Plausibilität zu demonstrieren. Sie wollen zeigen, dass eine von ihnen entwickelte Technik oder Technologie plausibel und erfolgsversprechend ist. Sie werden alles in ihrer Macht stehende tun, um den Roboter durch die Demonstration zu führen, um diesen Punkt zu verdeutlichen, und sie werden mit Begeisterung alles erklären, was sie entwickelt haben und was als nächstes passieren könnte.

In der realen Welt gibt es nur den Kunden, den Mitarbeiter oder den Verwandten des Kunden. Der Roboter muss ohne externes Eingreifen derjenigen funktionieren, die ihn entworfen und gebaut haben. Er muss den Menschen um ihn herum ein gutes Erlebnis bieten, sonst wird es nicht zu mehr Verkäufen an diese Kunden und vielleicht auch an andere kommen.

Bei diesen Gesetzen geht es also nicht darum, was getan werden könnte oder getan werden könnte. Dabei handelt es sich um reale Roboter, die in der realen Welt eingesetzt werden. Bei diesen Gesetzen geht es nicht um Forschungsdemonstrationen, sondern um Roboter im Alltag.

Das Versprechen, das der Schein gibt

Meine verschiedenen Firmen produzierten alle Arten von Robotern und verkauften sie in großem Umfang. Bei der Gestaltung des Roboters wird viel Wert auf das optische Erscheinungsbild gelegt, da es dem Käufer oder Benutzer sagt, was er von ihm erwarten kann.

Der iRobot Roomba wurde sorgfältig entwickelt, um Ästhetik und Funktionalität zu vereinen.iStock

Der Roomba von iRobot sieht aus wie eine flache Scheibe. Er reinigt die Böden. Die Form der Scheibe ermöglicht es ihr, sich auf der Stelle zu drehen, ohne etwas zu treffen, was sie nicht bereits trifft. Das niedrige Profil der Scheibe ermöglicht es, unter Küchenfußleisten hindurchzufahren und den Boden zu reinigen, der leicht von Küchenschränken überragt wird. Er kann anscheinend keine Treppen hoch und runter gehen oder auch nur eine einzige Stufe in einem Haus, und das kann er auch nicht. Es verfügt über einen Griff, der den Eindruck erweckt, dass es von einer Person angehoben werden kann, und das ist auch der Fall. Im Gegensatz zum fiktiven Roboter Rosey scheint er nicht in der Lage zu sein, Fenster zu putzen, und das kann er auch nicht. Er reinigt die Böden und das war’s.

Der Packbot, der ferngesteuerte Militärroboter, ebenfalls von iRobot, sah ganz anders aus. Es ist mit Raupenrädern ausgestattet, ähnlich einem Miniaturpanzer, und sein Aussehen verspricht jedem, der es betrachtet, dass es sich über unwegsames Gelände bewegen kann und nicht durch Stufen, Steine ​​oder steile Hänge aufgehalten wird. Als sich 2011 die Katastrophe von Fukushima ereignete, konnten Packbots in den durch den Tsunami zerstörten Reaktorgebäuden operieren, Türklinken aus der Ferne öffnen, mit Schutt bedeckte Treppen hinaufsteigen und ihre Kameras auf analoge Druck- und Temperaturmessgeräte richten, damit die Arbeiter es versuchten Um das Kernkraftwerk zu sichern, müssten Daten darüber vorliegen, was in hochradioaktiven Bereichen des Kraftwerks passiert.

Ein iRobot PackBot holt ein Demonstrationsobjekt beim Joint Robotic Repair Detachment im Victory Base Complex, Bagdad, Irak.Alamy

Der Zweck dieses ersten Gesetzes der Robotik besteht darin, davor zu warnen, einen Roboter mehr erscheinen zu lassen, als er wirklich ist. Dies kann Ihrem Unternehmen dabei helfen, Gelder zu beschaffen und Investoren glauben zu lassen, dass der Roboter mit der Zeit in der Lage sein wird, alles zu tun, was sein äußeres Erscheinungsbild vermuten lässt. Aber es wird die Kunden enttäuschen, wenn es nicht die Dinge tun kann, zu denen etwas mit dieser physischen Erscheinung scheinbar in der Lage zu sein scheint. Indem wir einen Roboter verschönern, riskieren wir, zu viel zu versprechen, was der Roboter als Produkt tatsächlich leisten kann. Dadurch besteht die Gefahr, dass Kunden enttäuscht werden. Und enttäuschte Kunden werden weder Befürworter Ihres Produkts/Roboters noch Wiederholungskäufer sein.

Bewahren Sie die Autonomie der Bürger

Das Schlimmste, was ein Roboter am Arbeitsplatz tun kann, um Menschen davon abzuhalten, ihn zu akzeptieren, ist, ihre Arbeit oder ihr Leben schwieriger zu machen, indem er ihnen nicht erlaubt, das zu tun, was sie tun müssen.

Roboter, die in Krankenhäusern arbeiten und schmutzige Bettwäsche oder Geschirr vom Fußboden der Patienten dorthin transportieren, wo sie gereinigt werden müssen, sollen den Pflegekräften das Leben erleichtern. Doch oft bewirken sie genau das Gegenteil. Wenn Roboter nicht wissen, was passiert, und im Notfall nicht ausweichen, behindern sie wahrscheinlich die lebensrettende Arbeit des Pflegepersonals, indem sie beispielsweise eine Trage schieben, auf der ein Patient schwer liegt so krank, dass er eine sofortige Behandlung benötigt. Dies macht diesen Robotertyp bei Krankenhauspersonal nicht beliebt. Es beeinträchtigt ihre Hauptfunktion, eine Funktion, auf die die Mitarbeiter stolz sind und die sie zu dieser Arbeit motiviert.

Ein selteneres, aber immer noch inakzeptables Verhalten von Robotern in Krankenhäusern besteht darin, dass sie vor Aufzugstüren oder in der Mitte warten und Menschen blockieren. Dies macht es für Menschen schwieriger, bestimmte Aufgaben auszuführen, die sie in dieser Umgebung ständig erledigen müssen, wie beispielsweise das Betreten und Verlassen von Aufzügen.

Diejenigen von uns, die in San Francisco oder Austin, Texas, leben, haben in den letzten Jahren Roboter aus erster Hand gesehen, die die Menschen täglich belästigen. Bei den Robotern handelt es sich um autonome Fahrzeuge, die sich ohne menschliche Insassen durch die Stadt bewegen. Ich sehe diese Roboter jedes Mal, wenn ich mein Haus verlasse, sei es zu Fuß oder mit dem Auto.

Es war bekannt, dass einige Fahrzeuge Kreuzungen blockierten, und andere Fahrer, Fußgänger oder die Polizei konnten absolut nichts dagegen tun. Wir mussten einfach warten, bis ein Fernbediener tief in der Firma, die sie eingesetzt hatte, beschloss, sich um das festsitzende Fahrzeug zu kümmern und es den Menschen aus dem Weg zu räumen. Schlimmer noch: Sie gingen zu einem Brandort, an dem Feuerwehrautos, Feuerwehrleute und echte Gebäude brannten, waren verwirrt und hielten einfach an, manchmal an den Feuerwehrschläuchen.

Die Feuerwehrleute hatten keine Möglichkeit, die Fahrzeuge zu bewegen oder mit ihnen zu kommunizieren. Dies steht im Gegensatz zu einem Auto, das von einem menschlichen Fahrer gesteuert wird. Feuerwehrleute können ihre normalen sozialen Interaktionen nutzen, um mit einem Fahrer zu kommunizieren, und ihre privilegierte Stellung in der Gesellschaft als Ersthelfer nutzen, um sozialen Druck auf einen menschlichen Fahrer auszuüben, mit ihnen zu kooperieren. Dies ist bei autonomen Fahrzeugen nicht der Fall.

Autonome Fahrzeuge haben die Kontrolle über Menschen übernommen, die ihrem normalen Leben auf der Straße nachgehen, aber schlimmer noch: Sie haben den Feuerwehrleuten, deren Aufgabe es ist, andere Menschen zu schützen, die Kontrolle entzogen. Eingesetzte Roboter, die die Menschen nicht respektieren und nicht respektieren, was sie tun sollten, werden von den Menschen nicht respektiert und die Roboter werden am Ende nicht eingesetzt.

Robuste Roboter, die immer funktionieren

Es ist schwierig, Roboter zu bauen, die in der realen Welt zuverlässig funktionieren. Tatsächlich ist es sehr schwierig, etwas herzustellen, das in der realen Welt physisch funktioniert und zuverlässig ist.

Damit ein Kunde mit einem Roboter zufrieden ist, muss er jedes Mal, wenn er eine Aufgabe ausprobiert, den Anschein erwecken, dass er funktioniert. Andernfalls ist er so frustriert, dass er sich fragt, ob er sein Leben verbessert oder nicht.

Aber was erscheinen Das bedeutet, dass der Benutzer davon ausgehen kann, dass dies funktionieren wird, als Standardverständnis dessen, was in der Welt passieren wird.

Das Schwierige daran ist, dass Roboter mit der realen physischen Welt interagieren.

Softwareprogramme interagieren mit einer gut verstandenen abstrakten Maschine, sodass sie nicht so ausfallen, dass die darin enthaltenen Anweisungen von der Hardware, auf der sie ausgeführt werden, nicht konsistent ausgeführt werden. Dieselben Programme können auch mit der physischen Welt interagieren, sei es ein Mensch, eine Netzwerkverbindung oder ein Eingabegerät wie eine Maus. In diesem Fall können Programme scheitern, weil die darin enthaltenen Anweisungen auf realen Annahmen basieren, die nicht erfüllt sind.

Roboter unterliegen realen Kräften, der genauen Position von Objekten relativ zu ihnen und Interaktionen mit Menschen, deren Verhalten stark variiert. Es gibt keine Teams von Doktoranden oder Nachwuchsingenieuren, die darauf aus sind, dem Roboter beim 8.354. Versuch zum Erfolg zu verhelfen, das Gleiche zu tun, was schon so oft funktioniert hat. Die eigentliche Herausforderung der Robotik besteht darin, Software zu entwickeln, die sich genau in diesem Moment an die unsicheren Veränderungen in der Welt anpasst.

Qualitativ hochwertige Videos bedeuten nicht unbedingt Arbeit für einen Kunden. Die meisten Videos, die wir in den Medien sehen, sind Labordemonstrationen. Es liegen weder Daten zur Allgemeingültigkeit der Lösung noch zur Anzahl der erforderlichen Aufnahmen vor, um das ausgestrahlte Video zu erhalten. Schlimmer noch: Videos werden manchmal teleoperiert oder mehrfach beschleunigt.

Ich habe selten erlebt, dass eine neue Technologie, die erst vor weniger als einem Jahrzehnt aus einer Labordemonstration hervorgegangen war, in einen eingesetzten Roboter integriert wurde. Es braucht Zeit, um zu sehen, wie gut die Methode funktioniert, und um sie so gut zu charakterisieren, dass es unwahrscheinlich ist, dass sie bei einem eingesetzten Roboter, der allein in der realen Welt arbeitet, versagt. Selbst dann wird es zu Ausfällen kommen und es wird noch viele Jahre dauern, die Probleme auszubügeln und sie defensiv in das Roboterprodukt zu integrieren, damit der Ausfall nicht erneut auftritt.

Die meisten Roboter benötigen Stopptasten oder Notstopps, damit ein Mensch sie stoppen kann. Wenn ein Kunde das Bedürfnis verspürt, diesen Knopf zu drücken, dann haben die Leute, die den Roboter gebaut und verkauft haben, versagt. Sie haben nicht dafür gesorgt, dass es so gut funktioniert, dass es nie zu einem Zustand kam, in dem etwas schief ging.