Im Mai kündigte TikTok an, KI-generierte Inhalte auf seiner Plattform automatisch zu kennzeichnen. Dies ist jedoch nicht bei allen Versionen der Anwendung der Fall. Ein neuer Bericht der Mozilla Foundation und AI Forensics zeigt, dass die Lite-Save Data-Version von TikTok, die sich an Benutzer in ärmeren Märkten richtet, nicht nur KI-generierte Inhalte unbeschriftet lässt, sondern auch andere ähnliche Schutzmaßnahmen vermissen lässt.
„Kennzeichnung ist eine sehr wichtige Taktik, die Plattformen nutzen, um eine Form von Vertrauen und Sicherheit zu schaffen“, sagt Odanga Madung, Mitarbeiter bei Mozilla und Mitautor des Berichts.
Nutzer der Vollversion von TikTok werden beispielsweise Kennzeichnungen sehen, die darauf hinweisen, dass Inhalte explizit sind oder gefährliches Verhalten beschreiben. Ebenso enthalten einige Inhalte zu Themen wie Wahlen und Gesundheit einen Hinweis, der Benutzer dazu auffordert, über ein „Ressourcenzentrum“ in der App auf glaubwürdige Informationen zuzugreifen.
Auf TikTok Lite gibt es keine dieser Barrieren. Dies bedeutet insbesondere, dass irreführende KI-generierte Inhalte ein Problem bei Wahlen auf der ganzen Welt sind und Benutzer in ärmeren Märkten weniger Informationen darüber erhalten, was falsch und was wahr ist, als Benutzer in ärmeren Märkten.
Madung fragt sich, warum das Unternehmen neben all den Funktionen, die zur Optimierung der App hätten entfernt werden können, auch solche einbezog, die die Plattform für Benutzer sicherer machen. „Wir wissen nicht, ob es eine Entscheidung oder nur Fahrlässigkeit ist“, sagte er.
„Dieser Bericht enthält mehrere sachliche Ungenauigkeiten, die unseren Sicherheitsansatz grundlegend falsch darstellen“, sagte ein TikTok-Sprecher in einer Erklärung. „Tatsache ist, dass Inhalte, die gegen unsere Regeln verstoßen, auf die gleiche Weise wie aus unserer Haupt-App aus TikTok Lite entfernt werden und wir viele Sicherheitsfunktionen bieten. » Das Unternehmen lehnte es ab, auf konkrete Ungenauigkeiten hinzuweisen.
Lite-Versionen von Apps sind seit langem eine Möglichkeit für Unternehmen, Marktanteile in Bereichen zu erhöhen, in denen Benutzer hohen Datenkosten ausgesetzt sind oder sich nur weniger anspruchsvolle Telefone leisten können. Im Jahr 2015 brachte Meta, damals Facebook, Facebook Lite auf den Markt, eine vereinfachte Version seiner App, die besser mit 2G-Datennetzen kompatibel ist. Im selben Jahr wurde auch Free Basics eingeführt, das Benutzern im globalen Süden den Zugriff auf die Plattform und einige andere Websites ermöglichte, ohne für die Datennutzung bezahlen zu müssen. (Eine Anwendung oder ein Dienst, die diese Kriterien erfüllen, wird als „null bewertet“ bezeichnet.) Damals wurde das Projekt vor allem in Indien vielfach kritisiert, weil es ärmeren Kunden ein zweitklassiges Erlebnis verschaffte.
TikTok brachte seine Lite-Version 2018 in Thailand auf den Markt und expandierte schnell auf andere südostasiatische Märkte, darunter Indonesien, Malaysia und die Philippinen. Die App, die im Gegensatz zur Vollversion von TikTok in 2G- und 3G-Netzwerken funktioniert, hat laut Daten des Google Play Store inzwischen mehr als eine Milliarde Downloads. (TikTok Lite ist nur für Android-Telefone verfügbar.)
„Die Mehrheit der Nutzer im globalen Süden hat ein geringes Einkommen und begrenzte Ressourcen“, sagt Payal Arora, Professor für inklusive KI-Kulturen an der Universität Utrecht. Lite-Versionen von Apps helfen Unternehmen, diese Menschen anzulocken, was noch wichtiger sei als in der Vergangenheit, denn „Daten sind eine Währung in diesem KI-gesteuerten, KI-hungrigen Markt.“