Berichten zufolge verfügt OpenAI seit etwa einem Jahr über ein von ChatGPT entwickeltes Textwasserzeichensystem und ein Tool zur Erkennung des Wasserzeichens Das Wall Street Journal. Doch das Unternehmen ist intern uneinig darüber, ob es diese Informationen veröffentlichen soll. Einerseits scheint dies die verantwortungsvolle Vorgehensweise zu sein; Andererseits könnte es die finanziellen Ergebnisse beeinträchtigen.
Das Wasserzeichen von OpenAI wird als eine Anpassung der Art und Weise beschrieben, wie das Modell die wahrscheinlichsten Wörter und Phrasen vorhersagt, die auf vorherige folgen werden, wodurch ein erkennbares Muster entsteht. (Dies ist eine Vereinfachung, aber Sie können sich die ausführlichere Erklärung von Google zum Gemini-Textwasserzeichen ansehen, um mehr zu erfahren.)
Die Bereitstellung einer Möglichkeit zur Erkennung von KI-geschriebenen Inhalten ist ein potenzieller Segen für Lehrer, die ihre Schüler davon abhalten wollen, ihre Schreibaufgaben der KI zu übertragen. Zeitung Einem Unternehmensbericht zufolge hatte das Wasserzeichen keinen Einfluss auf die Qualität der Textausgabe seines Chatbots. In einer vom Unternehmen in Auftrag gegebenen Umfrage „befürworteten Menschen auf der ganzen Welt die Idee eines KI-Erkennungstools im Verhältnis vier zu eins“ Zeitung Schreiben.
Nach dem Zeitung OpenAI veröffentlichte sein Papier und bestätigte heute in einem Blog-Beitrags-Update, dass es an Text-Wasserzeichen arbeitet, das von entdeckt wurde TechCrunch. Darin behauptet das Unternehmen, dass seine Methode sehr genau sei („99,9 % wirksam“, laut Unternehmensunterlagen). Zeitung sah) und resistent gegen „Fälschungen wie Paraphrasen“. Aber sie sagt, Techniken wie die Neuformulierung mit einem anderen Modell machen es „für böswillige Akteure trivial, es zu umgehen“. Das Unternehmen gibt außerdem an, dass es besorgt über die Stigmatisierung des Nutzens von KI-Tools für Nicht-Muttersprachler sei.
Es scheint jedoch, dass OpenAI auch besorgt ist, dass die Verwendung des Wasserzeichens die befragten ChatGPT-Benutzer abschrecken könnte, wobei fast 30 % dem Unternehmen Berichten zufolge mitgeteilt haben, dass sie die Software weniger verwenden würden, wenn das Wasserzeichen implementiert würde.
Dennoch glauben einige Mitarbeiter immer noch, dass digitale Wasserzeichen effektiv sind. Angesichts der anhaltenden Gefühle der Benutzer Zeitung Nach Ansicht einiger sollten Methoden ausprobiert werden, die „unter den Anwendern potenziell weniger kontrovers, aber unbewiesen“ sind. In seinem heutigen aktualisierten Blog-Beitrag sagte das Unternehmen, dass es sich in einem „frühen Stadium“ der Erforschung der Metadatenintegration befinde. Sie fügte hinzu, dass es noch „zu früh“ sei, um zu wissen, wie gut es funktionieren würde, aber dass es keine Fehlalarme geben würde, da es sich um eine kryptografische Signatur handele.