Ein Sportlehrer und ehemaliger Sportdirektor an einer Highschool in Baltimore County wurde verhaftet und angeklagt Verwenden Sie einen KI-Dienst zum Klonen von Stimmen, um den Schulleiter in eine Falle zu locken.
Das Baltimore-Banner berichtet, dass die Polizei von Baltimore County davon ausgeht, dass eine im Januar in den sozialen Medien veröffentlichte Aufnahme mit angeblichen Audioaufnahmen von rassistischen und antisemitischen Kommentaren des Rektors der Pikesville High School, Eric Eiswert, falsch war. Experten sagten Das Baltimore-Banner und Polizei, dass die Aufnahme, die kurzzeitig zu Eiswerts Sperre führte, einen „flachen Ton, ungewöhnlich klare Hintergrundgeräusche und einen Mangel an zusammenhängenden Atemgeräuschen oder Pausen“ aufweist.
Die Polizei von Baltimore County führte die Aufzeichnung auf Dazhon Darien zurück, einen ehemaligen Sportdirektor der Schule, dessen Name auch im Audioclip erwähnt wurde. Er soll auf die Computer der Schule zugegriffen haben, „um auf OpenAI-Tools und Microsoft Bing Chat-Dienste zuzugreifen“, wie WBAL 11 und NBC News berichten. Es war auch über eine E-Mail-Adresse und eine zugehörige Wiederherstellungstelefonnummer mit der Veröffentlichung des Audios verknüpft.
Es ist unklar, welche KI-Sprachplattform Darien verwendet hätte.
Die Polizei verhaftete Darien am Donnerstag am Flughafen und sagte in einer Erklärung: „Es wird angenommen, dass Herr Darien, der Sportdirektor an der Pikesville High School war, die Aufnahme als Vergeltung gegen Herrn Eiswert gemacht hat, der zu dieser Zeit ein Training fortsetzte.“ Untersuchung möglicher Misswirtschaft bei Schulgeldern. Er wurde freigelassen, nachdem er eine Kaution hinterlegt hatte, und wird wegen Diebstahls (im Zusammenhang mit Schulgeldern), Störung des Schulbetriebs, Vergeltungsmaßnahmen gegen einen Zeugen und Stalking angeklagt.
In diesem angespannten Umfeld beschloss OpenAI im März, die öffentliche Nutzung seiner KI-Plattform zur Text-zu-Sprache-Generierung Voice Engine einzustellen. Der Dienst, der nur einen 15-minütigen Audioclip erfordert, um die Stimme einer Person zu klonen, steht mangels Sicherheitsmaßnahmen rund um die Technologie nur einer begrenzten Anzahl von Forschern zur Verfügung.
Der US-Gesetzgeber hat mehrere Gesetzesentwürfe eingebracht, die jedoch noch nicht verabschiedet wurden, etwa den No Fakes Act und den No AI Fraud Act, die darauf abzielen, Technologieunternehmen daran zu hindern, das Gesicht, die Stimme oder den Namen einer Person ohne deren Erlaubnis zu verwenden.
Aktualisiert am 25. April: Es wurde klargestellt, dass sich die Pikesville High School in der Stadt Pikesville, Baltimore County, Maryland befindet, und es wurden Einzelheiten zu Darien und seiner Verhaftung am Donnerstag hinzugefügt.