Alarm schlagen wegen künstlicher Intelligenz ist in der ChatGPT-Ära zu einem beliebten Zeitvertreib geworden, der von so unterschiedlichen Persönlichkeiten wie dem Industriellen Elon Musk, dem linken Intellektuellen Noam Chomsky und dem Mann des Ruhestandsstaates Henry Kissinger aufgegriffen wird.
Doch es sind die Anliegen der Akteure der KI-Forschungsgemeinschaft, die besondere Aufmerksamkeit erregen. Der Pionierforscher und „Pate der KI“ Geoffrey Hinton hat seinen Job bei Google aufgegeben, damit er freier über die Gefahren der Technologie sprechen kann, die er mitentwickelt hat.
Im Laufe seiner jahrzehntelangen Karriere hat Dr. Hinton mit seiner Pionierarbeit im Bereich Deep Learning und neuronalen Netzen dazu beigetragen, den Grundstein für einen Großteil der KI-Technologie zu legen, die wir heute sehen.
In den letzten Monaten gab es eine Reihe von KI-Einführungen. Das in San Francisco ansässige Startup OpenAI, das von Microsoft unterstützte Unternehmen hinter ChatGPT, hat im März sein neuestes Modell für künstliche Intelligenz, GPT-4, auf den Markt gebracht. Andere Technologiegiganten haben in konkurrierende Tools investiert, darunter Googles „Bard“.
Einige der Gefahren von KI-Chatbots seien „ziemlich beängstigend“, sagte Herr Hinton gegenüber der BBC. „Soweit ich weiß, sind sie im Moment nicht schlauer als wir. Aber ich denke, das werden sie bald sein.
In einem Interview mit der MIT Technology Review wies Hinton auch auf „schlechte Akteure“ hin, die KI auf eine Weise einsetzen könnten, die schädliche Auswirkungen auf die Gesellschaft haben könnte – etwa durch Wahlmanipulation oder Anstiftung zu Gewalt.
Herr Hinton sagt, er habe sich von Google zurückgezogen, um als jemand, der nicht mehr für den Technologieriesen arbeitet, offen über potenzielle Risiken sprechen zu können.
„Ich möchte über KI-Sicherheitsprobleme sprechen, ohne mir Gedanken darüber machen zu müssen, wie sie mit dem Geschäft von Google interagieren“, sagte er dem MIT Technology Review. „Solange ich von Google bezahlt werde, kann ich das nicht machen.“
Seit der Ankündigung seines Rücktritts beharrt Herr Hinton darauf, dass Google in Bezug auf KI „sehr verantwortungsbewusst gehandelt“ habe. Er sagte dem MIT Technology Review, dass es auch „viele gute Dinge über Google“ gäbe, über die er gerne sprechen würde – aber diese Kommentare wären „viel glaubwürdiger, wenn ich nicht mehr bei Google bin.“
Google bestätigte, dass Herr Hinton nach zehn Jahren als Leiter des Google-Suchteams in Toronto in den Ruhestand gegangen sei.
Herr Hinton lehnte es ab, sich am Dienstag weiter zu äußern, sagte aber, er werde auf einer Konferenz am Mittwoch mehr darüber sprechen.
Im Zentrum der Debatte über den Zustand der KI steht die Frage, ob die Hauptgefahren gegenwärtig oder in der Zukunft liegen. Auf der einen Seite stehen hypothetische Szenarien existenzieller Risiken, die dadurch entstehen, dass Computer die menschliche Intelligenz verdrängen. Andererseits gibt es Bedenken, dass automatisierte Technologien, die bereits in großem Umfang von Unternehmen und Regierungen eingesetzt werden, echten Schaden anrichten können.
„Im Guten wie im Schlechten hat der Chatbot-Moment KI zu einem nationalen und internationalen Gespräch gemacht, an dem mehr als nur KI-Experten und -Entwickler beteiligt sind“, sagte Alondra Nelson, die bis Februar das Büro des Weißen Hauses leitete. Wissenschafts- und Technologiepolitik und ihre Bemühungen, Leitlinien für den verantwortungsvollen Umgang mit KI-Tools zu entwickeln.
„KI ist nicht mehr abstrakt, und wir haben meiner Meinung nach die Möglichkeit, ein neues Gespräch darüber zu führen, wie eine demokratische Zukunft und eine Zukunft ohne Ausbeutung durch Technologie aussehen soll“, sagte Frau Nelson zuletzt in einem Interview Monat. .
Eine Reihe von KI-Forschern äußert seit langem Bedenken hinsichtlich rassistischer, geschlechtsspezifischer und anderer Vorurteile in KI-Systemen, einschließlich großer textbasierter Sprachmodelle, die auf riesigen Mengen menschlicher Schrift trainiert wurden und die in der Gesellschaft bestehende Diskriminierung verstärken können.
„Wir müssen einen Schritt zurücktreten und wirklich darüber nachdenken, welche Bedürfnisse in der Risikodiskussion in den Vordergrund gerückt werden“, sagte Sarah Myers West, Geschäftsführerin des gemeinnützigen AI Now Institute. „Die heute durch KI-Systeme verursachten Schäden sind tatsächlich nicht gleichmäßig verteilt. Dies verschärft bestehende Ungleichheitsmuster erheblich.
Herr Hinton war einer von drei KI-Pionieren, die 2019 den Turing-Preis gewannen, eine Auszeichnung, die als die Version des Nobelpreises der Technologiebranche bekannt ist. Auch die anderen beiden Gewinner, Yoshua Bengio und Yann LeCun, äußerten ihre Besorgnis über die Zukunft der KI.
Herr Bengio, Professor an der Universität Montreal, unterzeichnete Ende März eine Petition, in der er Technologieunternehmen aufforderte, eine sechsmonatige Pause bei der Entwicklung leistungsstarker KI-Systeme zu akzeptieren, während Herr LeCun, ein bekannter KI-Wissenschaftler bei Meta, der Muttergesellschaft von Facebook , vertrat einen optimistischeren Ansatz.
Diese Geschichte wurde von Associated Press berichtet. AP-Technologiereporter Matt O’Brien berichtete aus Cambridge, Massachusetts.