TikTok hat fälschlicherweise einen Link zu einer internen Version seines neuen digitalen KI-Avatar-Tools ohne Leitplanken gepostet, mit dem Benutzer Videos erstellen können, die so ziemlich alles sagen. Der Schluckauf wurde erstmals von CNN entdeckt und führte dazu, dass das Medium Videos mit Zitaten von Hitler und einer Botschaft erstellte, in der die Menschen unter anderem dazu aufgefordert wurden, Bleichmittel zu trinken. TikTok hat diese Version des Tools inzwischen entfernt, während die Version, die TikTok starten wollte, weiterhin verfügbar ist.
Die Anfang dieser Woche eingeführten digitalen Symphony-Avatare von TikTok ermöglichen es Unternehmen, Werbung mit dem Bild bezahlter Schauspieler zu erstellen. Es verwendet außerdem KI-basierte Sprachausgabe, die es Werbetreibenden ermöglicht, ein Skript einzugeben, damit Avatare im Rahmen der TikTok-Richtlinien sagen können, was sie wollen. Obwohl nur Benutzer mit einem TikTok Ads Manager-Konto auf dieses Tool zugreifen können, ermöglicht die von CNN gefundene Version jedem mit einem persönlichen Konto, es auszuprobieren.
In einer Stellungnahme dazu Die KanteTikTok-Sprecherin Laura Perez sagte, TikTok habe den „technischen Fehler“ behoben, der es „einer extrem kleinen Anzahl von Benutzern ermöglichte, Inhalte mit einer internen Testversion des ‚Tools für ein paar Tage‘ zu erstellen.“
Als CNN das interne Tool entdeckte, ermöglichte es dem Sender, Videos zu erstellen, in denen Osama bin Ladens „Brief an Amerika“, ein Slogan der weißen Rassisten und ein Video, in dem die Menschen am falschen Tag zur Abstimmung aufgefordert wurden, vorgetragen wurden. Keines der von CNN produzierten Videos hatte ein Wasserzeichen, das darauf hinweist, dass das Video KI-generiert ist, was bei TikToks korrekter Version von Symphony Digital Avatars der Fall ist.
CNN hat die von ihr erstellten Videos nicht auf TikTok veröffentlicht, aber Perez merkt an, dass der Inhalt sonst „wegen Verstoß gegen unsere Richtlinien abgelehnt worden wäre“. Auch wenn TikTok diese Version seines Tools inzwischen entfernt hat, stellt sich die Frage, ob Menschen andere Möglichkeiten finden werden, den Ersteller digitaler Avatare zu missbrauchen – und ob TikTok dazu bereit ist.