Laut Leikes Beitrag auf
Anthropic hat sich als Antithese zu OpenAI positioniert: ein gemeinnütziges Unternehmen, das sich dem sorgfältigen Fortschritt verschrieben hat. Es wurde von ehemaligen OpenAI-Mitarbeitern gegründet, die das Unternehmen verlassen haben Financial Times, weil sie der Meinung waren, dass OpenAI sich von seiner Mission, eine sicherere und ethischere KI zu entwickeln, entfernte und sich nach dem milliardenschweren Deal mit Microsoft zu sehr auf kommerzielle Interessen konzentrierte. Für diejenigen, die das KI-Drama verfolgen, ist es keine Überraschung, dass Leike Anthropic beitritt.
„Es ist höchste Zeit, dass wir die Auswirkungen von AGI ernst nehmen. „Wir müssen sie so gut wie möglich vorbereiten“, sagte Leike in Folgebeiträgen zu seinem Rücktritt vor einigen Wochen. „Nur dann können wir sicherstellen, dass AGI der gesamten Menschheit zugute kommt.“ »
Leike arbeitete zuvor im „Superalignment“-Team von OpenAI, was zu seiner Rolle bei Anthropic zu passen scheint und dafür sorgt, dass intelligente Systeme so konzipiert sind, dass sie im Einklang mit menschlichen Werten handeln. In seinem Thread nach der Ankündigung seines Rücktritts kritisierte Leike OpenAI dafür, dass es nicht genügend Rechenressourcen bereitstelle, um den Erfolg sicherzustellen.
Anthropic nutzt seinerseits „verfassungsmäßige KI“, die ethische Prinzipien in das Training eines KI-Modells einbezieht, indem sie öffentliches Feedback sammelt und Konzepte aus Quellen wie der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen einbezieht, wie ich bereits hervorgehoben habe .
Ein weiterer bemerkenswerter Abschied von OpenAI ist sein Mitbegründer Ilya Sutskever, der Anfang des Monats ausgeschieden ist und Berichten zufolge nicht mehr im Amt ist, seit er im November einen gescheiterten Putsch gegen CEO Sam Altman anführte. Obwohl Sutskever zurückgetreten ist und seinen nächsten Schritt noch nicht angekündigt hat, stimmen seine Werte mit denen von Anthropic überein, was es zu einem plausiblen Ziel für ihn neben Leike macht.