Mitbegründer von OpenAI gründete sein eigenes KI-Unternehmen

Ilya Sutskever, Mitbegründer von OpenAI und ehemaliger Chefwissenschaftler des Unternehmens, gründet ein neues KI-Unternehmen mit Schwerpunkt auf Sicherheit. In dem Beitrag enthüllte Sutskever den Namen des Startups Safe Superintelligence Inc. (SSI) mit „einem Ziel und einem Produkt“, nämlich der Schaffung eines sicheren und leistungsstarken KI-Systems.

In der Ankündigung wird SSI als ein Startup beschrieben, das „Sicherheit und Leistung gleichzeitig angeht“, was es dem Unternehmen ermöglicht, sein KI-System schnell weiterzuentwickeln und gleichzeitig die Sicherheit im Vordergrund zu halten. Er weist auch auf den externen Druck hin, dem KI-Teams bei Unternehmen wie OpenAI, Google und Microsoft oft ausgesetzt sind, und sagt, dass der „einzige Fokus“ des Unternehmens es ihm erlaube, „Ablenkungen von Management- oder Produktionskostenzyklen“ zu vermeiden.

„Unser Geschäftsmodell bedeutet, dass Sicherheit und Fortschritt von kurzfristigen kommerziellen Zwängen isoliert sind“, heißt es in der Ankündigung. „Auf diese Weise können wir in Ruhe expandieren.“ Zusammen mit Sutskever wurde SSI von Daniel Gross, dem ehemaligen Leiter der künstlichen Intelligenz bei Apple, und Daniel Levy, der zuvor als technischer Mitarbeiter bei OpenAI arbeitete, mitgegründet.

Letztes Jahr leitete Sutskever die Bemühungen, den CEO von OpenAI, Sam Altman, zu verdrängen. Sutskever verließ das Unternehmen im Mai und deutete an, ein neues Projekt zu starten. Kurz nach Sutskevers Abgang gab der Forscher für künstliche Intelligenz Jan Leike seinen Abschied von OpenAI bekannt und nannte als Grund für seinen Abschied an Relevanz verlorene Sicherheitsprozesse im Austausch gegen glamourösere Produkte. Auch Gretchen Krueger, Politikforscherin bei OpenAI, verwies bei der Ankündigung ihres Rücktritts auf Sicherheitsbedenken.

Während OpenAI eine Partnerschaft mit Apple eingegangen ist, erkennt das neue Unternehmen SSI, dass solche strategischen Partnerschaften noch Jahre entfernt sind. Es ist nicht einmal notwendig, dass sie sich in diese Richtung weiterentwickeln, da ihnen in erster Linie die Sicherheit ihrer Produkte am Herzen liegt.