„Stand November 2022 diskutierten Snap-Mitarbeiter jeden Monat 10.000 Berichte über Sextortion, die von Nutzern gemeldet wurden, wobei sie anerkannten, dass diese Berichte angesichts der Scham und anderer Hindernisse bei der Meldung „wahrscheinlich nur einen kleinen Teil dieses Missbrauchs ausmachen“, heißt es in einer kürzlich entsiegelten Version des Klage. eingereicht vom Generalstaatsanwalt von New Mexico gegen Snap. Diese weniger redigierte Version der Einreichung, die wir vor einem Monat zum ersten Mal gesehen haben, fügt neue Details darüber hinzu, was Snap-Mitarbeiter angeblich über das Ausmaß des Sextortion-Problems wussten, das Snap auf seiner Plattform angestiftet haben soll.
In einem mutmaßlichen Fall verwiesen die Mitarbeiter auf einen Fall, in dem es 75 Meldungen gegen das Konto gab, in denen „Nacktheit, Minderjährige und Erpressung erwähnt wurden, das Konto aber noch aktiv war“. Und im Jahr 2022 ergab eine interne Untersuchung von Snap Berichten zufolge, dass mehr als ein Drittel der Mädchen im Teenageralter und 30 % der Jungen im Teenageralter auf seiner App „unerwünschten Kontakten auf seiner Plattform“ ausgesetzt waren. heißt es in der Beschwerde.
Die neuen Details zeichnen das Bild eines Unternehmens, das sich seiner angeblichen Kinderschutzmängel in seinem Dienst bewusst ist, sich jedoch nicht ausreichend auf die Behebung dieser Mängel konzentriert. „Ehemalige Mitarbeiter von Snap Trust and Safety beklagten sich darüber, dass sie im Vergleich zu ihrer Arbeit bei anderen Social-Media-Unternehmen kaum Kontakt mit der Geschäftsleitung hatten und dass man sich davor sträubte, Sicherheitsmechanismen in die Anwendung einzubauen [Snap CEO] „Für Evan Spiegel steht das Design an erster Stelle“, heißt es in der Beschwerde.
„…es gab eine gewisse Zurückhaltung gegenüber dem Versuch, Sicherheitsmechanismen in die App einzubauen, weil [Snap CEO] Für Evan Spiegel steht Design an erster Stelle »
In einer in der Nachrichtenredaktion veröffentlichten Erklärung sagte Snap, seine App sei „als Ort für die Kommunikation mit einem engen Freundeskreis konzipiert, mit eingebauten Sicherheitsleitplanken und habe bewusste Designentscheidungen getroffen, um es Ausländern zu erschweren, Minderjährige zu entdecken.“ ” Unser Service. Wir entwickeln unsere Sicherheitsmechanismen und -richtlinien ständig weiter, nutzen fortschrittliche Technologien, um bestimmte Aktivitäten zu erkennen und zu blockieren, sperren verdächtige Konten, arbeiten mit Strafverfolgungsbehörden und Regierungsbehörden zusammen und vieles mehr.
Der Beschwerde zufolge verbreiteten Snap-Mitarbeiter im Jahr 2021 einen externen Bericht, der Beispiele mutmaßlicher Raubtiere enthielt, die über Snapchat mit Kindern im Alter von acht Jahren in Kontakt kamen und sich Material über sexuellen Kindesmissbrauch beschafften. Sie befürchteten jedoch, dass Maßnahmen zur Erkennung dieser Art von Verhalten die Privatsphäre der Nutzer übermäßig belasten und „unverhältnismäßige Verwaltungskosten verursachen würden“, heißt es in der Beschwerde.
Berichten zufolge identifizierten Mitarbeiter auch Risiken bei einigen Snapchat-Funktionen, etwa „Quick Add“, das anderen Benutzern vorschlägt, sich mit ihnen zu verbinden. „Wir müssen neue Ansätze finden, die unsere am stärksten gefährdeten Benutzer (Minderjährige) abgrenzen und es räuberischen Benutzern erschweren, sie über schnelles Hinzufügen, Suchen usw. zu finden“, schrieb ein Beamter der Beschwerde zufolge. „Wir glauben, dass wir dies erreichen können, ohne die Produkterfahrung dieser Benutzer wesentlich zu beeinträchtigen, wenn wir neue Strategien zur Bestandsgenerierung/-beschränkung und andere Techniken verfolgen, um Minderjährige effektiver von Personen außerhalb ihrer Netzwerke zu trennen.“ Snap sorgte dann dafür, dass die Funktion zum schnellen Hinzufügen nur für Konten von 13- bis 17-Jährigen angezeigt wurde, wenn diese „eine bestimmte Anzahl gemeinsamer Freunde mit dieser Person“ hatten. Doch intern, heißt es in der Beschwerde, hätten die Mitarbeiter erkannt, dass dieser Ansatz noch erhebliche Mängel aufweisen würde.
Die unversiegelte Beschwerde enthält auch weitere Details darüber, wie Snap angeblich den illegalen Verkauf von Schusswaffen erleichtert hat. In einer undatierten Präsentation räumte das Unternehmen ein, dass auf seiner Plattform „pro Tag 50 Posts im Zusammenhang mit illegalen Waffenverkäufen und pro Tag 9.000 Aufrufe über den Handel mit diesen Waffen“ verzeichnet werden. Und selbst wenn Inhalte gemeldet werden: „[r]Gemeldete Inhalte werden in der Regel hunderte Male angesehen, bevor sie gemeldet werden.
„Die Streifen machen es unmöglich, den Netzstecker zu ziehen, nicht einmal für einen Tag.“
Dazu gehört auch die interne Kommunikation, die den süchtig machenden Charakter von Snapstreaks anerkennt, wobei Benutzer über die Anzahl der Tage informiert werden, die sie weiterhin mit einem anderen Benutzer kommunizieren. „Wow, wir sollten mehr süchtig machende Funktionen wie diese haben“, schrieb angeblich ein Mitarbeiter laut einer E-Mail vom Januar 2017. „Die meisten Streaker sind unsere Kerngruppe“, schrieb ein anderer. In einer Präsentation im Oktober 2019 wurde Berichten zufolge festgestellt, dass „die Streifen es unmöglich machen, den Netzstecker zu ziehen, selbst für einen Tag.“