Als New Yorks Bürgermeister Eric Adams letzte Woche ankündigte, dass die Stadt KI-Waffendetektoren in U-Bahn-Stationen testen werde, bezeichnete er die Technologie als „eindeutig beeindruckend“. Doch Kritiker, darunter auch die Legal Aid Society, standen dem Piloten sofort skeptisch gegenüber – und es stellte sich heraus, dass sie damit Recht hatten.
Als die Stadt im Jahr 2022 Evolv-Scanner in einem Krankenhaus in der Bronx installierte, meldeten die Geräte häufig falsch positive Ergebnisse, wie aus einer Anfrage nach öffentlichen Aufzeichnungen hervorgeht Höllenpforte. Während der sieben Monate, in denen die Evolv-Scanner aktiv waren, führten 50.000 von 194.000 Scans zu einem positiven Alarm, von denen 85 % falsch positiv waren. Am meisten real die positiven Meldungen wurden von Polizisten ausgelöst; nur 295 wurden durch Zivilisten ausgelöst, die Messer, Schusswaffen oder Waffen trugen, die im Bericht als „sonstige“ eingestuft waren.
Evolv sagt, dass seine mit KI ausgestatteten Scanner „sichere, ultraniederfrequente elektromagnetische Felder und fortschrittliche Sensoren verwenden, um versteckte Waffen zu erkennen“. Der CEO des Unternehmens sagte, die Maschinen könnten jede Art von Waffe erkennen, von Schusswaffen über Bomben bis hin zu großen taktischen Messern. Aber das Pilotprojekt 2022 – zusammen mit Branchentests und neuere Untersuchungen der Federal Trade Commission und der Securities and Exchange Commission sowie eine von Aktionären eingereichte Sammelklage legen nahe, dass die Scanner von Evolv weitaus weniger effektiv sind als beworben.