Gestern habe ich berichtet, dass der KI-Bildgenerator von Meta jeden asiatisch machte, selbst wenn in der Textaufforderung eine andere Rasse angegeben wurde. Heute hatte ich kurzzeitig das gegenteilige Problem: Ich konnte nicht generieren jeder von ihnen Asiaten verwenden die gleichen Aufforderungen wie am Vortag.
Die Tests, die ich gestern durchgeführt habe, fanden auf Instagram statt, über den KI-Bildgenerator, der in Direktnachrichten verfügbar ist. Nach Dutzenden von Versuchen konnte ich mit Eingabeaufforderungen wie „Asiatischer Mann und kaukasischer Freund“ und „Asiatischer Mann und weiße Frau“ kein einziges genaues Bild erstellen. Nur ein einziges Mal gelang es dem System, das Bild einer asiatischen Frau und eines weißen Mannes zu schaffen – es machte weiterhin jeden asiatisch.
Nachdem ich gestern zunächst um einen Kommentar gebeten hatte, fragte mich ein Meta-Sprecher nach weiteren Details zu meiner Geschichte, beispielsweise nach der Frist. Ich habe geantwortet und nie eine Antwort erhalten. Heute war ich neugierig, ob das Problem behoben wurde oder ob das System immer noch kein genaues Bild erstellen konnte, das eine asiatische Person mit ihrem weißen Freund zeigt. Anstelle einer Menge unzutreffender rassistischer Bilder erhielt ich eine Fehlermeldung: „Sieht aus, als wäre etwas schief gelaufen. Bitte versuchen Sie es später noch einmal oder versuchen Sie es mit einer anderen Eingabeaufforderung.
Seltsam. Habe ich meine Obergrenze für die Generierung gefälschter Asiaten erreicht? Ich hatte ein Rand Eine Kollegin hat es versucht und das gleiche Ergebnis erzielt.
Ich habe es mit anderen, noch allgemeineren Aufforderungen über Asiaten versucht, etwa „Asiatischer Mann im Anzug“, „Asiatische Frau beim Einkaufen“ und „Asiatische Frau lächelnd“. Anstelle eines Bildes erhielt ich die gleiche Fehlermeldung. Ich habe erneut Kontakt zum Meta-Kommunikationsteam aufgenommen: Was gibt es? Lass mich Fake-Asiaten erschaffen! (Während dieser Zeit war ich auch nicht in der Lage, Bilder mit Eingabeaufforderungen wie „Latino-Mann im Anzug“ und „Afroamerikanischer Mann im Anzug“ zu generieren, nach denen ich auch Meta gefragt habe.)
Vierzig Minuten später, nachdem ich ein Meeting verlassen hatte, hatte ich immer noch nichts von Meta gehört. Aber zu diesem Zeitpunkt funktionierte die Instagram-Funktion für einfache Eingabeaufforderungen wie „Asiatischer Mann“. Bei den meisten Unternehmen, über die ich berichte, ist es ziemlich üblich, stillschweigend etwas zu ändern, einen Fehler zu korrigieren oder eine Funktion zu entfernen, nachdem ein Reporter darum gebeten hat. Habe ich persönlich einen vorübergehenden Mangel an KI-generierten Asiaten verursacht? War es nur ein zeitlicher Zufall? Arbeitet Meta daran, das Problem zu lösen? Ich wünschte, ich wüsste es, aber Meta hat meine Fragen nie beantwortet oder eine Erklärung abgegeben.
Was auch immer im Meta-Hauptquartier vor sich geht, es gibt noch viel zu tun – Eingabeaufforderungen wie „Asiatischer Mann und weiße Frau“ geben jetzt ein Bild zurück, aber das System bringt die Rennen immer wieder durcheinander und macht beide zu Asiaten wie gestern. Ich schätze, wir sind wieder da, wo wir angefangen haben. Ich werde die Dinge im Auge behalten.
Screenshots von Mia Sato / The Verge