Le co-fondateur d'OpenAI a lancé sa propre entreprise d'IA

Ilya Sutskever, co-fondateur d'OpenAI et ancien scientifique en chef de l'entreprise, lance une nouvelle société d'IA axée sur la sécurité. Dans le message, Sutskever a révélé le nom de la startup Safe Superintelligence Inc. (SSI) avec « un objectif et un produit », à savoir créer un système d’IA sûr et puissant.

L'annonce décrit SSI comme une startup qui « aborde la sécurité et les performances en tandem », permettant à l'entreprise de faire progresser rapidement son système d'IA tout en gardant la sécurité au premier plan. Il souligne également la pression externe à laquelle les équipes d'IA d'entreprises telles qu'OpenAI, Google et Microsoft sont souvent confrontées, affirmant que la « concentration unique » de l'entreprise lui permet d'éviter « les distractions des cycles de gestion ou de coûts de production ».

"Notre modèle économique signifie que la sécurité et le progrès sont à l'abri des pressions commerciales à court terme", indique le communiqué. "De cette façon, nous pouvons nous développer en toute tranquillité." Avec Sutskever, SSI a été cofondée par Daniel Gross, ancien responsable de l'intelligence artificielle chez Apple, et Daniel Levy, qui travaillait auparavant comme membre de l'équipe technique d'OpenAI.

L'année dernière, Sutskever a dirigé les efforts visant à évincer le PDG d'OpenAI, Sam Altman. Sutskever a quitté l'entreprise en mai et a fait allusion au lancement d'un nouveau projet. Peu de temps après le départ de Sutskever, le chercheur en IA Jan Leike a annoncé son départ d'OpenAI, citant comme raison de son départ des processus de sécurité qui avaient perdu de leur pertinence en échange de produits plus glamour. Gretchen Krueger, chercheuse politique chez OpenAI, a également évoqué des problèmes de sécurité en annonçant son départ.

Alors qu'OpenAI a conclu un partenariat avec Apple, la nouvelle société SSI se rend compte que de tels partenariats stratégiques seront encore loin. Il n’est même pas nécessaire qu’ils évoluent dans cette direction, car ils souhaitent avant tout garantir la sécurité de leurs produits.