Zwei Harvard-Studenten haben eine bizarre Demonstration erstellt, die zeigt, wie intelligente Brillen mithilfe der Gesichtserkennungstechnologie sofort die Identität, Telefonnummern und Adressen von Personen erkennen können. Das Beunruhigendste daran ist, dass die Demo aktuelle und weithin verfügbare Technologien wie Ray-Ban Meta-Datenbrillen und öffentliche Datenbanken verwendet.
AnhPhu Nguyen, einer der beiden Studenten, veröffentlichte ein Video, das die Technologie in Aktion zeigt, das später von aufgegriffen wurde 404 Medien. Die als I-XRAY bezeichnete Technologie nutzt die Fähigkeit der Meta-Datenbrille, Live-Videos auf Instagram zu streamen. Ein Computerprogramm überwacht dann diesen Feed und nutzt KI, um Gesichter zu identifizieren. Diese Fotos werden dann in öffentliche Datenbanken eingespeist, um Namen, Adressen, Telefonnummern und sogar Verwandte zu finden. Diese Informationen werden dann über eine Telefon-App zurückgesendet.
In der Demo können Sie sehen, wie Nguyen und Caine Ardayfio, der andere Student hinter dem Projekt, die Brille verwenden, um mehrere Klassenkameraden, ihre Adressen und die Namen ihrer Lieben in Echtzeit zu identifizieren. Vielleicht noch gruseliger ist, dass Nguyen und Ardayfio auch dabei zu sehen sind, wie sie sich in öffentlichen Verkehrsmitteln mit völlig Fremden unterhalten und so tun, als ob sie sie aufgrund von Informationen aus der Technologie kennen würden.
Die Gesichtserkennungstechnologie ist schon seit einiger Zeit unglaublich genau, und I-XRAY ist größtenteils nur eine Aneinanderreihung einer Reihe vorhandener Technologien. Es basiert teilweise auf PimEyes, das Die New York Times im Jahr 2022 als „alarmierend genaue“ Gesichtssuchmaschine beschrieben, die „jeder nutzen kann“. Die Bedenken hinsichtlich der Technologie haben zugenommen, seit bekannt wurde, dass Clearview AI die Gesichtserkennung zur Unterstützung der Strafverfolgung einsetzt. Das Neue an der Demo von Nguyen und Ardayfio ist die Kombination der Technologie mit einem diskreten, leicht zugänglichen Verbrauchergerät.
„Der Zweck der Entwicklung dieses Tools besteht nicht darin, missbraucht zu werden, und wir werden es nicht veröffentlichen“, schreiben Nguyen und Ardafiyo in einem Dokument, in dem sie das Projekt erläutern. Stattdessen sagen die Studenten, ihr Ziel sei es, das Bewusstsein dafür zu schärfen, dass dies nicht nur eine dystopische Zukunft ist – mit der vorhandenen Technologie ist jetzt alles möglich. Sie betonen insbesondere, dass I-XRAY einzigartig ist, weil Large Language Models (LLM) es ermöglichen, automatisch zu arbeiten und Beziehungen zwischen Namen und Fotos aus riesigen Datenquellen herzustellen.
Datenschutz war bei Datenbrillen schon immer ein großes Anliegen. Google Glass scheiterte zunächst teilweise an der öffentlichen Kritik an der Aufnahme ohne Zustimmung im öffentlichen Raum. Es stimmt jedoch auch, dass sich die Menschen in den letzten zehn Jahren aufgrund des Aufkommens von Smartphones, Vloggern und TikTok immer mehr daran gewöhnt haben, gefilmt zu werden. Das Besorgniserregende an modernen Datenbrillen ist jedoch, dass sie nicht so stark auffallen wie Google Glass.
Die in dieser Demo verwendete Ray-Ban-Meta-Brille sieht aus wie jede andere Ray-Bans-Brille. Dies ist zwar für die Einführung intelligenter Brillen unerlässlich, macht es für Menschen aber auch schwieriger, den Zeitpunkt zu bestimmen, an dem jemand eine Kamera im Gesicht trägt. Meta-Brillen verfügen über eine Sichtschutzbeleuchtung, die sich bei jeder Videoaufnahme automatisch einschaltet. Bei unseren Tests haben wir jedoch herausgefunden, dass das Licht kaum zu bemerken ist, wenn man draußen bei hellem Licht ist, und dass die Leute es beim Filmen oft nicht bemerken, insbesondere in überfüllten öffentlichen Räumen.
Meta seinerseits warnt Benutzer in seiner Datenschutzrichtlinie für Ray-Bans vor Glaslöchern. Es fordert Benutzer dazu auf, „die Vorlieben der Menschen zu respektieren“ und beim Aufnehmen von Videos, Live-Streaming oder Fotografieren deutlich zu gestikulieren oder Sprachbefehle zu verwenden. Die Realität ist jedoch, dass Menschen sich auch dafür entscheiden können, sich nicht an die Kleidungsetikette zu halten, unabhängig davon, was Meta sagt. Der Rand Ich habe Meta um einen weiteren Kommentar gebeten, aber nicht sofort eine Antwort erhalten.
Dies ist eine Erinnerung daran, wie Datenbrillen missbraucht werden können, es gibt jedoch einige Maßnahmen, die Menschen ergreifen können, um sich zu schützen. In ihrem Artikel führen Nguyen und Ardafiyo Datenbanken für die umgekehrte Gesichtssuche und die Personensuche auf, bei denen man sich abmelden kann. Bedenken Sie jedoch, dass es fast unmöglich ist, Ihre Online-Präsenz vollständig zu entfernen: Sie können Ihre Informationen nur weniger verfügbar machen.