Das KI-Wettrüsten zum Aufbau eines „digitalen Gottes“

In der heutigen Folge von Decoder, Wir werden versuchen, den „digitalen Gott“ zu finden. Ich dachte, wir machen das schon lange genug, lasst es uns tun. Können wir künstliche Intelligenz aufbauen, die so mächtig ist, dass sie die Welt verändert und alle unsere Fragen beantwortet? Die KI-Branche hat entschieden, dass die Antwort „Ja“ lautet.

Im September veröffentlichte Sam Altman von OpenAI einen Blogbeitrag, in dem er behauptete, dass wir in „einigen tausend Tagen“ eine superintelligente KI haben werden. Und Anfang dieses Monats veröffentlichte Dario Amodei, CEO des OpenAI-Konkurrenten Anthropic, einen 14.000 Wörter umfassenden Artikel, in dem er genau erklärt, wozu ein solches System seiner Meinung nach fähig sein wird, wenn es auf den Markt kommt, was seiner Meinung nach bereits im Jahr 2026 sein könnte.

Das Faszinierende ist, dass die in den beiden Papieren dargelegten Visionen so ähnlich sind: Beide versprechen eine spektakuläre superintelligente KI, die massive Verbesserungen in den Bereichen Arbeit, Wissenschaft und Gesundheitsversorgung und sogar Demokratie und Wohlstand bringen wird. Digitaler Gott, Baby.

Doch auch wenn die Visionen ähnlich sind, sind die Unternehmen in vielerlei Hinsicht offen dagegen: Anthropic ist die ursprüngliche Geschichte der Abkehr von OpenAI. Dario und eine Kohorte von Forscherkollegen verließen OpenAI im Jahr 2021, nachdem sie sich Sorgen über den zunehmend kommerziellen Fokus und Sicherheitsansatz des Unternehmens machten, und gründeten Anthropic, um ein sichereres, langsameres KI-Unternehmen zu werden. Und bis vor Kurzem lag der Fokus wirklich auf der Sicherheit; Letztes Jahr ein Großereignis New York Times Das Unternehmensprofil nannte es das „heiße Zentrum der KI-Katastrophe“.

Aber die Einführung von ChatGPT und der darauf folgende generative KI-Boom lösten ein kolossales technisches Wettrüsten aus, und jetzt ist Anthropic genauso mit von der Partie wie alle anderen. Er sammelte Milliarden von Dollar an Finanzmitteln, hauptsächlich von Amazon, und baute Claude, einen Chatbot und ein Sprachmodell, das mit GPT-4 von OpenAI konkurriert. Heute schreibt Dario umfangreiche Blogbeiträge über die Verbreitung von Demokratie durch KI.

Also, was ist hier los? Warum spricht der Anthropic-Chef plötzlich so optimistisch über KI, wo doch zuvor bekannt war, dass sie die sicherste und langsamste Alternative zu OpenAI ist, eine Verbesserung bei allem Preis? Ist das nur ein weiterer KI-Hype, um Investoren anzulocken? Und wenn AGI tatsächlich vor der Tür steht, wie können wir dann messen, was seine Sicherheit bedeutet?

Um alles aufzuschlüsseln: Ich habe es mitgebracht Rand Die leitende KI-Reporterin Kylie Robison spricht darüber, was es bedeutet, was in der Branche passiert und ob wir diesen KI-Führungskräften vertrauen können, dass sie uns sagen, was sie wirklich denken.

Wenn Sie mehr über einige der in dieser Episode behandelten Neuigkeiten und Themen erfahren möchten, schauen Sie sich die folgenden Links an:

• Liebevolle Gnadenmaschinen | Dario Amodei
• Das Zeitalter der Intelligenz | Sam Altman
• Anthropic-CEO glaubt, dass KI zur Utopie führen wird | Der Rand
• KI-Manifeste überschwemmen die Tech-Zone | Axios
• OpenAI hat gerade 6,6 Milliarden US-Dollar eingesammelt, um immer größere KI-Modelle zu entwickeln | Der Rand
• OpenAI war ein Forschungslabor – jetzt ist es nur noch ein weiteres Technologieunternehmen | Der Rand
• Das neueste KI-Update von Anthropic kann einen Computer allein nutzen | Der Rand
• Agenten sind die versprochenen KI-Unternehmen der Zukunft – und sie brauchen sie dringend | Der Rand
• Der Gouverneur von Kalifornien legt sein Veto gegen ein wichtiges Gesetz zur KI-Sicherheit ein | Der Rand
• Im heißen Zentrum der KI-Katastrophe | New York Times
• Die enge Partnerschaft zwischen Microsoft und OpenAI zeigt Anzeichen einer Abschwächung | New York Times
• Die 14-Milliarden-Dollar-Frage, die OpenAI und Microsoft trennt | WSJ
• Anthropic gab in Finanzierungsgesprächen eine Bewertung von 40 Milliarden US-Dollar bekannt | Die Informationen