Aber es ist nicht nur so, dass die Modelle Akzente, Sprachen, Syntax oder Gesichter, die in westlichen Ländern weniger verbreitet sind, nicht erkennen können. „Viele Deepfake-Erkennungstools wurden ursprünglich auf hochwertige Medien trainiert“, sagt Gregory. Doch in weiten Teilen der Welt, darunter auch in Afrika, dominieren billige chinesische Smartphone-Marken mit eingeschränkter Funktionalität den Markt. Die Fotos und Videos, die diese Telefone produzieren können, sind von viel geringerer Qualität, was die Erkennungsmodelle noch komplizierter macht, sagt Ngamita.
Gregory erklärt, dass einige Modelle so empfindlich sind, dass selbst Hintergrundgeräusche in einem Audiostück oder die Komprimierung eines Videos für soziale Medien zu einem falsch positiven oder falsch negativen Ergebnis führen können. „Aber das sind genau die Umstände, denen man in der realen Welt begegnet, eine abrupte und chaotische Entdeckung“, sagt er. Die kostenlosen, öffentlich zugänglichen Tools, auf die die meisten Journalisten, Faktenprüfer und Mitglieder der Zivilgesellschaft wahrscheinlich Zugriff haben, sind ebenfalls „extrem ungenau, was die Ungleichheit bei der Darstellung von Personen in Trainingsdaten und die Herausforderungen der Verarbeitung betrifft.“ dieses minderwertige Material.
Generative KI ist nicht die einzige Möglichkeit, manipulierte Medien zu erstellen. Gefälschte Medien oder Medien, die manipuliert werden, indem irreführende Bezeichnungen hinzugefügt werden oder einfach Audio und Video verlangsamt oder verändert werden, sind im globalen Süden ebenfalls weit verbreitet, können jedoch fälschlicherweise als von fehlerhaften Modellen oder ungeschulten Forschern manipulierte KI angesehen werden.
Diya befürchtet, dass Gruppen, die Tools verwenden, die Inhalte aus anderen Ländern als den USA und Europa eher als KI-generiert kennzeichnen, schwerwiegende politische Auswirkungen haben und die Gesetzgeber dazu ermutigen könnten, gegen eingebildete Probleme vorzugehen. „Es besteht ein großes Risiko, dass diese Zahlen überhöht werden“, sagt sie. Und die Entwicklung neuer Tools ist nicht nur eine Frage eines Knopfdrucks.
Wie bei jeder anderen Form der KI erfordert das Erstellen, Testen und Ausführen eines Erkennungsmodells Zugriff auf Strom- und Datenzentren, die in den meisten Ländern der Welt einfach nicht verfügbar sind. „Wenn wir über KI und selbst entwickelte Lösungen sprechen, ist es ohne die IT-Seite fast unmöglich, eines der Modelle auszuführen, die wir erstellen möchten“, sagt Ngamita, die in Ghana ansässig ist. Ohne lokale Alternativen haben Forscher wie Ngamita nur wenige Möglichkeiten: Sie zahlen für den Zugang zu einem Standardtool wie dem von Reality Defender, dessen Kosten unerschwinglich sein können; Verwenden Sie ungenaue kostenlose Tools. oder versuchen Sie, über eine akademische Einrichtung darauf zuzugreifen.
Vorerst, sagt Ngamita, müsse ihr Team mit einer europäischen Universität zusammenarbeiten, an die es Inhalte zur Überprüfung senden könne. Ngamitas Team hat einen Datensatz möglicher Deepfake-Vorfälle auf dem gesamten Kontinent zusammengestellt, der seiner Meinung nach für Akademiker und Forscher wertvoll ist, die versuchen, die Datensätze ihrer Modelle zu diversifizieren.
Aber das Versenden von Daten an jemand anderen hat auch Nachteile. „Die Latenzzeit ist ziemlich groß“, erklärt Diya. „Es dauert mindestens ein paar Wochen, bis jemand mit Sicherheit sagen kann, dass diese Inhalte von KI generiert wurden, und dann ist der Schaden bereits angerichtet.“ »
Gregory sagt, dass Witness, das ein eigenes Früherkennungsprogramm betreibt, eine „riesige Anzahl“ von Fällen erhält. „Es ist ohnehin schwierig, sie innerhalb des Zeitrahmens zu bearbeiten, der den Journalisten an vorderster Front gegeben ist, und angesichts der Menge an Fällen, mit denen sie konfrontiert werden“, erklärt er.
Doch Diya ist davon überzeugt, dass ein so starker Fokus auf die Erkennung dazu führen könnte, dass Organisationen und Institutionen, die insgesamt zu einem widerstandsfähigeren Informationsökosystem beitragen, Gelder und Unterstützung entziehen. Stattdessen, sagt sie, sollten die Gelder an Medien und Organisationen der Zivilgesellschaft fließen, die ein Gefühl des öffentlichen Vertrauens schaffen können. „Ich glaube nicht, dass das Geld dorthin fließt“, sagte sie. „Ich denke, es geht eher um die Erkennung. »