Il co-fondatore di OpenAI ha avviato la propria società di intelligenza artificiale

Ilya Sutskever, co-fondatore di OpenAI ed ex capo scienziato dell'azienda, sta avviando una nuova società di intelligenza artificiale focalizzata sulla sicurezza. Nel post, Sutskever ha rivelato il nome della startup Safe Superintelligence Inc. (SSI) con “un obiettivo e un prodotto”, ovvero creare un sistema di IA sicuro e potente.

L'annuncio descrive SSI come una startup che "si avvicina alla sicurezza e alle prestazioni in tandem", consentendo all'azienda di far avanzare rapidamente il proprio sistema di intelligenza artificiale pur mantenendo la sicurezza in prima linea. Nota anche la pressione esterna che spesso affrontano i team di intelligenza artificiale di aziende come OpenAI, Google e Microsoft, affermando che il "focus unico" dell'azienda consente di evitare "distrazioni dai cicli di gestione o dei costi di produzione".

"Il nostro modello di business significa che la sicurezza e il progresso sono isolati dalle pressioni commerciali a breve termine", si legge nell'annuncio. “In questo modo possiamo espanderci in pace.” Insieme a Sutskever, SSI è stata co-fondata da Daniel Gross, ex capo dell’intelligenza artificiale di Apple, e Daniel Levy, che in precedenza ha lavorato come membro dello staff tecnico di OpenAI.

L’anno scorso, Sutskever ha guidato lo sforzo di estromettere il CEO di OpenAI Sam Altman. Sutskever ha lasciato l'azienda a maggio e ha accennato all'avvio di un nuovo progetto. Poco dopo la partenza di Sutskever, il ricercatore di intelligenza artificiale Jan Leike ha annunciato la sua partenza da OpenAI, citando come motivo della sua partenza i processi di sicurezza che avevano perso rilevanza in cambio di prodotti più glamour. Anche Gretchen Krueger, ricercatrice politica presso OpenAI, ha citato problemi di sicurezza quando ha annunciato la sua partenza.

Mentre OpenAI ha stretto una partnership con Apple, la nuova società SSI si rende conto che tali partnership strategiche sono ancora lontane. Non è nemmeno necessario che si sviluppino in questa direzione, perché vogliono soprattutto preservare la sicurezza dei loro prodotti.