OpenAI hat ein neues Tool hinzugefügt, um zu erkennen, ob ein Bild mit seinem DALL-E AI-Bildgenerator erstellt wurde neue Wasserzeichenmethoden, um den generierten Inhalt klarer zu kennzeichnen.
In einem Blogbeitrag gab OpenAI bekannt, dass es mit der Entwicklung neuer Provenienzmethoden begonnen hat, um Inhalte zu verfolgen und nachzuweisen, ob sie von KI generiert wurden. Dazu gehören ein neuer Bilderkennungsklassifikator, der mithilfe von KI ermittelt, ob das Foto von KI erstellt wurde, sowie ein manipulationssicheres Wasserzeichen, das Inhalte wie Audio mit unsichtbaren Signalen markieren kann.
Der Klassifikator sagt die Wahrscheinlichkeit voraus, dass ein Bild von DALL-E 3 erstellt wurde. OpenAI behauptet, dass der Klassifikator auch dann funktioniert, wenn das Bild beschnitten oder komprimiert wird oder wenn die Sättigung geändert wird. Obwohl das Tool mit einer Genauigkeit von etwa 98 % erkennen kann, ob Bilder mit DALL-E 3 erstellt wurden, ist seine Leistung bei der Bestimmung, ob Inhalte von anderen KI-Modellen stammen, nicht so gut und meldet nur 5–10 % der Bilder von anderen Bildgeneratoren. , wie Midjourney.
OpenAI hat zuvor inhaltsidentifizierende Informationen zu den Bildmetadaten der Coalition of Content Provenance and Authority (C2PA) hinzugefügt. Content-IDs sind im Grunde Wasserzeichen, die Informationen darüber enthalten, wem das Bild gehört und wie es erstellt wurde. OpenAI ist neben Unternehmen wie Microsoft und Adobe Mitglied von C2PA. In diesem Monat ist OpenAI auch dem C2PA-Lenkungsausschuss beigetreten.
Der Bildklassifikator und das Audio-Wasserzeichensignal werden noch verfeinert. OpenAI sagt, dass es Benutzerfeedback benötigt, um seine Wirksamkeit zu testen. Forscher und gemeinnützige Journalistengruppen können den Bilderkennungsklassifikator testen, indem sie ihn auf die Research Access Platform von OpenAI anwenden.
OpenAI arbeitet seit Jahren an der Erkennung von KI-generierten Inhalten. Im Jahr 2023 musste jedoch ein Programm beendet werden, das versuchte, von KI geschriebenen Text zu identifizieren, da der Textklassifikator der KI durchweg eine geringe Genauigkeit aufwies.