Google verbietet seit langem sexuell explizite Anzeigen, aber bisher hat das Unternehmen Werbetreibenden noch nicht verboten, Werbung zu machen Dienstleistungen mit dem Leute Deepfake-Pornos machen können und andere Formen generierter Akte. Das wird sich bald ändern.
Google verbietet Werbetreibenden derzeit die Werbung für „sexuell eindeutige Inhalte“, die Google als „Text, Bild, Audio oder Video mit expliziten sexuellen Handlungen, die auf Erregung abzielen“ definiert. Die neue Richtlinie verbietet nun Werbung von Diensten, die Benutzern dabei helfen, diese Art von Inhalten zu erstellen, sei es durch die Änderung des Bildes einer Person oder durch die Erstellung eines neuen.
Die Änderung, die am 30. Mai in Kraft tritt, verbietet „die Werbung für synthetische Inhalte, die so verändert oder generiert wurden, dass sie sexuell eindeutig sind oder Nacktheit enthalten“, wie z. B. Websites und Apps, die Menschen anleiten, wie man Deepfake-Pornos erstellt.
„Dieses Update zielt darauf ab, Werbung für Dienste, die Deepfake-Pornografie oder synthetische Nacktinhalte anbieten, ausdrücklich zu verbieten“, sagte Google-Sprecher Michael Aciman. Die Kante.
Aciman sagt, dass alle Anzeigen entfernt werden, die gegen seine Richtlinien verstoßen, und fügt hinzu, dass das Unternehmen eine Kombination aus menschlichen Überprüfungen und automatisierten Systemen verwendet, um diese Richtlinien durchzusetzen. Laut dem jährlichen Anzeigensicherheitsbericht des Unternehmens hat Google im Jahr 2023 mehr als 1,8 Milliarden Anzeigen wegen Verstößen gegen seine Richtlinien zu sexuellen Inhalten entfernt.
Die Änderung wurde zuerst von gemeldet 404 Medien. Als 404 Beachten Sie, dass Google zwar Werbetreibenden bereits verboten hat, sexuell explizite Inhalte zu bewerben, einige Apps, die die Erstellung von Deepfake-Pornografie erleichtern, dies jedoch umgangen haben, indem sie sich in Google-Anzeigen oder im Google Play Store als nicht sexuell präsentiert haben. Beispielsweise präsentierte sich eine Face-Swapping-App im Google Play Store nicht als sexuell explizit, auf Pornoseiten hingegen schon.
Nicht einvernehmliche Deepfake-Pornografie ist in den letzten Jahren zu einem ständigen Problem geworden. Zwei Mittelschüler aus Florida wurden im vergangenen Dezember verhaftet, weil sie angeblich KI-generierte Nacktfotos ihrer Klassenkameraden erstellt hatten. Erst diese Woche wurde ein 57-jähriger Mann aus Pittsburgh wegen des Besitzes gefälschter Kinderpornografie zu mehr als 14 Jahren Gefängnis verurteilt. Letztes Jahr gab das FBI eine Warnung bezüglich einer „Zunahme“ von Erpressungsplänen heraus, bei denen es um die Erpressung von Menschen mit KI-generierten Nacktfotos geht. Während viele KI-Modelle die Erstellung KI-generierter Aktbilder erschweren oder unmöglich machen, ermöglichen einige Dienste den Nutzern die Generierung sexueller Inhalte.
Es könnte bald gesetzgeberische Maßnahmen gegen Deepfake-Pornos geben. Letzten Monat haben das Repräsentantenhaus und der Senat den DEFIANCE Act eingeführt, der ein Verfahren einführen würde, mit dem Opfer von „digitaler Fälschung“ Personen verklagen könnten, die nicht einvernehmliche Deepfakes herstellen oder verbreiten.