Von Jonathan Allen
NEW YORK (Reuters) – Der Bürgermeister von New York City Eric Adams verteidigt den neuen Chatbot der Stadt mit künstlicher Intelligenz, der in den letzten Tagen dabei erwischt wurde, wie er Geschäftsinhabern falsche Antworten oder Ratschläge gab, deren Befolgung zu einem Gesetzesverstoß führen würde.
Als der MyCity-Chatbot im Oktober als Pilotprojekt gestartet wurde, wurde er als erster Einsatz einer solchen KI-Technologie auf städtischer Ebene angepriesen, der Geschäftsinhabern „verwertbare und zuverlässige Informationen“ als Antwort auf in einem Online-Portal eingegebene Anfragen liefern würde.
Das ist nicht immer bewiesen: Journalisten des investigativen Medienunternehmens The Markup berichteten letzte Woche erstmals, dass der Chatbot falsch sei. Darin hieß es fälschlicherweise, dass Arbeitgeber einen Teil der Trinkgelder ihrer Mitarbeiter in Anspruch nehmen könnten und dass es keine Vorschriften gäbe, die von Vorgesetzten verlangen würden, ihre Mitarbeiter über Änderungen in ihren Zeitplänen zu informieren.
„In einigen Bereichen ist es falsch, und wir müssen es beheben“, sagte Adams, ein Demokrat, am Dienstag gegenüber Reportern und betonte, dass es sich um ein Pilotprogramm handele. „Jedes Mal, wenn man Technologie nutzt, muss man sie in die reale Umgebung integrieren, um Probleme zu lösen.“
Adams war ein starker Befürworter des Einsatzes ungetesteter Technologien in der Stadt, mit einem Optimismus, der nicht immer gerechtfertigt ist. Er installierte letztes Jahr einen vage eiförmigen, 400 Pfund schweren Roboter in der U-Bahn-Station Times Square, in der Hoffnung, dass er der Polizei helfen würde, Kriminalität abzuschrecken; Ungefähr fünf Monate später wurde er in den Ruhestand versetzt, wobei Pendler bemerkten, dass er scheinbar nie etwas tat und die Treppen nicht benutzen konnte.
Der Chatbot blieb am Donnerstag online und gab dennoch teilweise falsche Antworten. Er sagte, dass es den Ladenbesitzern freistehe, kein Bargeld mehr zu verwenden, offenbar ohne Kenntnis des Gesetzes des Stadtrats aus dem Jahr 2020, das Geschäften die Annahme von Bargeld verbietet. Er schätzt den Mindestlohn der Stadt immer noch auf 15 Dollar pro Stunde, obwohl er ab 2024 auf 16 Dollar angehoben wurde.
Der Chatbot, der auf dem KI-Dienst Azure von Microsoft basiert, scheint von Problemen abgelenkt zu werden, die bei sogenannten generativen KI-Technologieplattformen wie ChatGPT üblich sind, die dafür bekannt sind, manchmal Dinge zu erfinden oder Unwahrheiten mit einer ähnlichen Sicherheit wie HAL zu behaupten. Weder Microsoft noch das Rathaus antworteten auf Fragen, was die Fehler verursacht hat und wie man sie beheben kann.
Die Stadt aktualisierte die Haftungsausschlüsse auf der Website des MyCity-Chatbots und stellte fest, dass „seine Antworten manchmal ungenau oder unvollständig sein können“ und forderte Unternehmen auf, „ihre Antworten nicht als rechtliche oder professionelle Beratung zu nutzen“.
Andrew Rigie, der sich als Direktor der NYC Hospitality Alliance im Namen Tausender Gastronomen vertritt, sagte, er habe von Geschäftsinhabern gehört, die über die Antworten des Chatbots verwirrt seien.
„Ich lobe die Stadt dafür, dass sie versucht, KI zur Unterstützung von Unternehmen einzusetzen, aber es muss funktionieren“, sagte er und warnte davor, dass die Befolgung einiger Anweisungen des Chatbots schwerwiegende rechtliche Konsequenzen nach sich ziehen könnte. „Wenn ich, wenn ich eine Frage stelle, dann noch meinen Anwalt konsultieren muss, um herauszufinden, ob die Antwort richtig ist oder nicht, verfehlt das den Zweck.“
(Berichterstattung von Jonathan Allen in New York; Redaktion von Stephen Coates)