Ideenvielfalt im Industriedesign ist von entscheidender Bedeutung: Wenn niemand darüber nachdenkt, Technologie so zu gestalten, dass sie für mehrere Körpertypen geeignet ist, können Menschen verletzt werden. Die Erfindung von Sicherheitsgurten ist ein oft zitiertes Beispiel für dieses Phänomen, da sie auf der Grundlage von Crash-Puppen mit traditionell männlichen Proportionen entworfen wurden, die die Körper der Besatzungsmitglieder widerspiegeln, die an ihnen arbeiten.
Das gleiche Phänomen ist jetzt im Bereich der Motion-Capture-Technologie am Werk. Im Laufe der Geschichte haben Wissenschaftler versucht zu verstehen, wie sich der menschliche Körper bewegt. Aber wie definieren wir den menschlichen Körper? Vor Jahrzehnten wurden in vielen Studien „gesunde männliche“ Probanden untersucht. andere verwendeten überraschende Modelle wie zerstückelte Leichen. Noch heute stützen sich einige moderne Studien zur Entwicklung von Sturzerkennungstechnologien auf Methoden wie die Einstellung von Stuntdarstellern, die so tun, als würden sie fallen.
Im Laufe der Zeit wurden verschiedene fehlerhafte Annahmen in den Standards für Bewegungserfassungsdaten kodifiziert, die zur Entwicklung bestimmter KI-basierter Technologien verwendet werden. Diese Mängel bedeuten, dass KI-basierte Anwendungen möglicherweise nicht so sicher für Menschen sind, die nicht zu einem voreingenommenen „typischen“ Körpertyp passen, heißt es in einer neuen Arbeit, die kürzlich als Vorabdruck veröffentlicht wurde und auf der Konferenz über menschliche Faktoren in der Datenverarbeitung vorgestellt werden soll. Systeme im Mai.
„Wir haben diese sogenannten Referenzstandards untersucht, die für alle Arten von Studien und Designs verwendet werden, und viele von ihnen wiesen Fehler auf oder waren auf einen ganz bestimmten Körpertyp ausgerichtet“, sagt Co-Autorin der Studie und Forscherin Abigail Jacobs. Assistenzprofessor an der School of Information und dem Center for the Study of Complex Systems der University of Michigan. „Wir möchten, dass Ingenieure sich darüber im Klaren sind, wie diese sozialen Aspekte im technischen Bereich kodiert sind und in mathematischen Modellen verborgen sind, die objektiv oder infrastrukturell erscheinen. »
Dies ist ein wichtiger Moment für KI-basierte Systeme, sagt Jacobs, da wir möglicherweise noch Zeit haben, potenziell gefährliche Annahmen zu erkennen und zu verhindern, dass sie in KI-gestützten Anwendungen kodifiziert werden.
Bewegungserfassungssysteme erstellen Darstellungen von Körpern, indem sie Daten von an Objekten angebrachten Sensoren sammeln und aufzeichnen, wie sich diese Körper im Raum bewegen. Diese Muster gehören zu den Werkzeugen, die Forscher nutzen, wie z. B. Open-Source-Bibliotheken mit Bewegungsdaten und Messsystemen, die grundlegende Standards für die Bewegung des menschlichen Körpers liefern sollen. Entwickler nutzen diese Benchmarks zunehmend, um alle Arten von KI-basierten Anwendungen zu erstellen: Sturzerkennungsalgorithmen für Smartwatches und andere tragbare Geräte, autonome Fahrzeuge, die Fußgänger erkennen müssen, computergenerierte Bilder für Filme und Videospiele, Fertigungsgeräte, mit denen sicher interagiert werden kann menschliche Arbeiter und mehr.
„Viele Forscher haben keinen Zugang zu modernen Motion-Capture-Laboren, um Daten zu sammeln. Deshalb greifen wir bei der Entwicklung neuer Technologien immer stärker auf Referenzen und Standards zurück“, erklärt Jacobs. „Aber wenn diese Kriterien nicht die Darstellung aller Körper umfassen, insbesondere derjenigen von Personen, die wahrscheinlich an realen Anwendungsfällen beteiligt sind, wie etwa ältere Erwachsene, die stürzen könnten, können diese Standards ziemlich unvollkommen sein.“
Sie hofft, dass wir aus den Fehlern der Vergangenheit lernen können, etwa aus Kameras, die nicht alle Hauttöne genau erfasst haben, oder aus Sicherheitsgurten und Airbags, die Menschen aller Formen und Größen in verunfallten Autos nicht schützten.
Die Leiche in der Maschine
Jacobs und Kollegen von der Cornell University, Intel und der University of Virginia führten eine systematische Literaturrecherche von 278 Studien zum Thema Bewegungserfassung durch. Sie kamen zu dem Schluss, dass Bewegungserfassungssysteme in den meisten Fällen die Bewegung „von Männern, Weißen, „behinderten Menschen“ und normalem Gewicht“ erfassten.
Und manchmal waren diese Körper weißer Männer tot. Bei der Untersuchung von Arbeiten, die bis in die 1930er Jahre zurückreichen und drei historische Epochen der Motion-Capture-Wissenschaft umfassen, untersuchten die Forscher Projekte, die einen Einfluss darauf hatten, wie Wissenschaftler der damaligen Zeit die Bewegung von Körpersegmenten verstanden. In einer bahnbrechenden, von der Luftwaffe finanzierten Studie aus dem Jahr 1955 wurden beispielsweise überwiegend weiße, männliche und schlanke oder athletische Körper verwendet, um das optimale Cockpit basierend auf dem Bewegungsradius der Piloten zu schaffen. Diese Studie sammelte auch Daten zu acht zerstückelten Leichen.
Zwanzig Jahre später verwendete eine für die National Highway Traffic Safety Administration erstellte Studie ähnliche Methoden: Sechs zerstückelte männliche Kadaver wurden als Grundlage für die Konstruktion von Aufprallschutzsystemen in Fahrzeugen verwendet.
In den meisten der 278 untersuchten Studien erfassten Bewegungserfassungssysteme die Bewegung von „männlichen, weißen, körperlich gesunden Menschen mit durchschnittlichem Gewicht“.
Obwohl diese Studien Jahrzehnte alt sind, haben sich diese Annahmen im Laufe der Zeit immer weiter verfestigt. Jacobs und seine Kollegen fanden viele Beispiele für diese veralteten Schlussfolgerungen, die auf spätere Studien übertragen wurden und letztendlich auch weiterhin Einfluss auf moderne Studien zur Bewegungserfassung hatten.
„Wenn Sie sich die technischen Dokumente eines modernen Produktionssystems ansehen, erfahren Sie, welche ‚traditionellen Grundstandards‘ sie verwenden“, sagt Jacobs. „Wenn man sich damit beschäftigt, fängt man schnell an, in der Zeit hin und her zu springen: Okay, das basiert auf dieser früheren Studie, die auf dieser basiert, die auf dieser basiert, und schließlich kehren wir zur Luftwaffe zurück Studieren Sie die Gestaltung von Cockpits mit gefrorenen Leichen.
Die Komponenten, die den Best Practices der Technologie zugrunde liegen, sind „vom Menschen gemacht – der Fokus liegt absichtlich eher auf dem Menschen als auf dem Menschen – und bewahrt oft die Vorurteile und Ungenauigkeiten der Vergangenheit“, sagt Kasia Chmielinski, Hauptprojektleiterin des Data Nutrition Project und Mitglied des Data Nutrition Project Digitale Zivilgesellschaft an der Stanford University. Labor. „Daher verdeutlichen historische Fehler oft die „neutrale“ Grundlage unserer aktuellen technologischen Systeme. Dies kann dazu führen, dass Software und Hardware nicht für alle Bevölkerungsgruppen, Erfahrungen oder Ziele gleich funktionieren.
Diese Probleme können Ingenieure behindern, die Dinge verbessern wollen, sagt Chmielinski. „Da viele dieser Probleme in den grundlegenden Elementen des Systems verwurzelt sind, haben Teams, die heute Innovationen entwickeln, möglicherweise keine schnelle Möglichkeit, Voreingenommenheiten oder Fehler zu beseitigen, selbst wenn sie es wollten“, sagt sie. „Wenn Sie eine App erstellen, die Sensoren von Drittanbietern verwendet, und die Sensoren selbst eine Voreingenommenheit hinsichtlich dessen haben, was sie erkennen oder nicht erkennen, was ist dann die geeignete Lösung? »
Laut Jacobs müssen Ingenieure ihre „Ground Truth“-Quellen hinterfragen und bestätigen, dass die Goldstandards, an denen sie messen, tatsächlich Gold sind. Techniker müssen diese sozialen Bewertungen als Teil ihrer Arbeit berücksichtigen, um Technologien für alle zu entwickeln.
„Wenn Sie sagen: ‚Ich weiß, dass menschliche Annahmen eingebaut sind und oft verborgen oder verschleiert werden‘, wird das Aufschluss darüber geben, wie Sie den Inhalt Ihres Datensatzes auswählen und wie Sie ihn in Ihrer Arbeit berichten“, sagt Jacobs. „Es ist eine soziotechnische Frage, und Technologen brauchen diese Perspektive, um sagen zu können: Mein System tut, was ich sage, und es richtet keinen übermäßigen Schaden an.“ »
Aus den Artikeln auf Ihrer Website
Verwandte Artikel im Internet