Ilya Sutskever, Mitbegründer von OpenAI und ehemaliger Chefwissenschaftler, gründet ein neues KI-Unternehmen mit Schwerpunkt auf Sicherheit. In einem am Mittwoch veröffentlichten Artikel enthüllte Sutskever Safe Superintelligence Inc. (SSI), ein Startup mit „einem Ziel und einem Produkt“: ein sicheres und leistungsstarkes KI-System zu schaffen.
In der Ankündigung wird SSI als ein Startup beschrieben, das „Sicherheit und Fähigkeiten gleichzeitig adressiert“ und es dem Unternehmen ermöglicht, sein KI-System schnell weiterzuentwickeln und dabei der Sicherheit Priorität einzuräumen. Er weist auch auf den externen Druck hin, dem KI-Teams bei Unternehmen wie OpenAI, Google und Microsoft oft ausgesetzt sind, und sagt, dass der „einzige Fokus“ des Unternehmens es ihm erlaube, „die Ablenkungen durch Overhead- oder Produktzyklen“ zu vermeiden.
„Unser Geschäftsmodell bedeutet, dass Sicherheit und Fortschritt vor kurzfristigen kommerziellen Zwängen geschützt sind“, heißt es in der Erklärung. „So können wir beruhigt vorankommen.“ Neben Sutskever ist SSI Mitbegründer von Daniel Gross, ehemaliger Leiter der KI-Abteilung bei Apple, und Daniel Levy, der zuvor als technisches Teammitglied bei OpenAI arbeitete.
Während OpenAI seine Partnerschaften mit Apple und Microsoft fortsetzt, wird SSI dies wahrscheinlich in absehbarer Zeit nicht tun. Während eines Interviews mit BloombergSutskever sagt, dass das erste Produkt von SSI eine sichere Superintelligenz sein wird und dass das Unternehmen bis dahin „nichts anderes tun“ wird.