El cofundador de OpenAI fundó su propia empresa de IA

Ilya Sutskever, cofundador de OpenAI y ex científico jefe de la compañía, está iniciando una nueva empresa de inteligencia artificial centrada en la seguridad. En la publicación, Sutskever reveló el nombre de la startup Safe Superintelligence Inc. (SSI) con “un objetivo y un producto”, es decir, crear un sistema de IA seguro y potente.

El anuncio describe a SSI como una startup que "aborda la seguridad y el rendimiento en conjunto", lo que permite a la empresa avanzar rápidamente en su sistema de inteligencia artificial sin dejar de mantener la seguridad a la vanguardia. También señala la presión externa que a menudo enfrentan los equipos de IA en empresas como OpenAI, Google y Microsoft, y dice que el "enfoque único" de la empresa le permite evitar "distracciones de los ciclos de costos de gestión o producción".

"Nuestro modelo de negocio significa que la seguridad y el progreso están aislados de las presiones comerciales a corto plazo", se lee en el anuncio. "De esa manera podremos expandirnos en paz". Junto con Sutskever, SSI fue cofundada por Daniel Gross, exjefe de inteligencia artificial de Apple, y Daniel Levy, quien anteriormente trabajó como miembro del personal técnico de OpenAI.

El año pasado, Sutskever lideró el esfuerzo para destituir al director ejecutivo de OpenAI, Sam Altman. Sutskever dejó la empresa en mayo e insinuó la posibilidad de iniciar un nuevo proyecto. Poco después de la salida de Sutskever, el investigador de inteligencia artificial Jan Leike anunció su salida de OpenAI, citando como motivo de su salida procesos de seguridad que habían perdido relevancia a cambio de productos más glamorosos. Gretchen Krueger, investigadora de políticas de OpenAI, también citó preocupaciones de seguridad al anunciar su salida.

Si bien OpenAI se ha asociado con Apple, la nueva empresa SSI se da cuenta de que aún faltan años para dichas asociaciones estratégicas. Ni siquiera es necesario que avancen en esta dirección, ya que lo que quieren principalmente es mantener la seguridad de sus productos.