Große Technologieunternehmen, Unternehmen wie Google, Apple und Discord haben es Menschen ermöglicht, sich schnell auf böswilligen Websites zum „Entkleiden“ anzumelden, die mithilfe von KI Kleidung von echten Fotos entfernen, um Opfer ohne ihre Zustimmung „nackt“ erscheinen zu lassen. Mehr als ein Dutzend dieser Deepfake-Websites nutzen seit Monaten die Anmeldeschaltflächen von Technologieunternehmen.
Eine WIRED-Analyse identifizierte 16 der größten Stripping- und „Nacktmachungs“-Websites, die die Login-Infrastruktur von Google, Apple, Discord, Twitter, Patreon und Line nutzen. Dieser Ansatz ermöglicht es Menschen, ganz einfach Konten auf Fake-Websites zu erstellen und ihnen so einen Anschein von Glaubwürdigkeit zu verleihen, bevor sie für Credits bezahlen und Bilder erstellen.
Bots und Websites, die nicht einvernehmliche intime Bilder von Frauen und Mädchen erstellen, gibt es schon seit Jahren, aber ihre Zahl hat mit der Einführung generativer KI zugenommen. Diese Art des „Ausziehens“-Missbrauchs kommt sehr häufig vor, wobei Jugendliche Bilder von ihren Klassenkameraden erstellen. Kritiker sagen, Technologieunternehmen hätten das Ausmaß des Problems nur langsam angegangen: Websites würden prominent in den Suchergebnissen auftauchen, bezahlte Werbeanzeigen würden sie in sozialen Medien bewerben und Apps würden in App-Stores erscheinen.
„Dies ist eine Fortsetzung eines Trends, der sexuelle Gewalt gegen Frauen und Mädchen durch Technologiegiganten normalisiert“, sagt Adam Dodge, Anwalt und Gründer von EndTAB (Ending Technology-Enabled Abuse). „Verbindungs-APIs sind praktische Tools. Wir sollten sexuelle Gewalt niemals zu einem Akt der Bequemlichkeit machen“, sagt er. „Wir sollten den Zugang zu diesen Apps absperren und stattdessen den Menschen eine Zugbrücke bieten. »
Die von WIRED analysierten Anmeldetools, die über gängige APIs und Authentifizierungsmethoden bereitgestellt werden, ermöglichen es Benutzern, bestehende Konten zu verwenden, um Deepfake-Websites beizutreten. Das Anmeldesystem von Google erschien auf 16 Websites, das von Discord auf 13 und das von Apple auf sechs. Der X-Button war auf drei Websites vorhanden, während Patreon und der Messaging-Dienst Line beide auf denselben beiden Websites erschienen.
WIRED nennt Websites nicht, da sie Missbrauch zulassen. Viele von ihnen sind Teil größerer Netzwerke und gehören denselben Personen oder Unternehmen. Die Anmeldesysteme wurden trotz der allgemeinen Regeln von Technologieunternehmen verwendet, die besagen, dass Entwickler ihre Dienste nicht auf eine Weise nutzen dürfen, die die Privatsphäre von Personen schädigen, belästigen oder verletzen könnte.
Von WIRED kontaktiert, sagten Sprecher von Discord und Apple, sie hätten Entwicklerkonten entfernt, die mit ihren Websites verbunden seien. Google sagte, es werde gegen Entwickler vorgehen, wenn es einen Verstoß gegen seine Nutzungsbedingungen feststelle. Patreon sagte, es verbiete Konten, die die Erstellung expliziter Bilder erlauben, und Line bestätigte, dass es Ermittlungen durchführe, zu bestimmten Websites jedoch keine Kommentare abgeben könne. X antwortete nicht auf eine Bitte um Stellungnahme zur Nutzung seiner Systeme.
In den Stunden, nachdem Jud Hoffman, Discords Vizepräsident für Vertrauen und Sicherheit, WIRED mitteilte, dass das Unternehmen den Zugriff der Websites auf seine APIs wegen Verstoßes gegen seine Entwicklerrichtlinien sperre, l Eine der Stripping-Websites, die auf einem Telegram-Kanal gepostet wurden, war die Autorisierung durch Discord „vorübergehend nicht verfügbar“ und behauptete, es versuche, den Zugriff wiederherzustellen. Dieser Stripping-Dienst reagierte nicht auf die Bitte von WIRED um einen Kommentar zu seinem Betrieb.
Rasante Expansion
Seit dem Aufkommen der Deepfake-Technologie Ende 2017 ist die Zahl der erstellten nicht einvernehmlichen intimen Videos und Bilder exponentiell gestiegen. Während es schwieriger ist, Videos zu produzieren, ist die Erstellung von Bildern mithilfe von Websites und Apps zum „Entkleiden“ oder „Nacktmachen“ mittlerweile an der Tagesordnung.
„Wir müssen klarstellen: Hier geht es nicht um Innovation, sondern um sexuellen Missbrauch“, sagt David Chiu, ein Anwalt der Stadt San Francisco, der kürzlich eine Klage gegen Strip- und Sexseiten und deren Urheber eingereicht hat. Chiu sagt, dass die 16 von der Beschwerde seines Büros betroffenen Websites allein in den ersten sechs Monaten dieses Jahres etwa 200 Millionen Besuche verzeichneten. „Diese Websites beuten Frauen und Mädchen auf der ganzen Welt auf schreckliche Weise aus. „Diese Bilder werden verwendet, um Frauen und Mädchen einzuschüchtern, zu demütigen und zu bedrohen“, sagt Chiu.