Hace un tiempo les contamos como OpenAi había decidido eliminar al equipo de trabajo destinado a anticipar los riesgos de las IA a largo plazo. Como consecuencia de esta decisión varios desarrolladores y ejecutivos de peso decidieron irse de la compañía. Entre ellos estaba Ilya Sutskever,
La relación de Sutskever con la empresa se había vuelto complicada. El ejecutivo había votado a favor de la decisión de remover a Sam Altman de su puesto de CEO. Luego había cambiado de opinión.
Ahora Ilya ha comenzado una nueva aventura con una empresa que intenta desarrollar inteligencia artificial poniendo el foco en la seguridad: Safe Superintelligence Inc. La idea de la compañía es no dejarse llevar por las exigencias de los ciclos de producción. Además, priorizar la seguridad antes que las opciones comerciales a corto plazo.
La seguridad en OpenAI
De las idas y venidas de Sutskever lo único que parece quedar en claro es que la seguridad en OpenAI era cada vez menos importante. El despido de Altman, que luego tuvo que deshacerse por varias razones, estuvo motivado por su falta de transparencia. Entre los detalles sobre los que no informaba como debía estaban los de seguridad.
La disolución del equipo del que participaba Sustkever puede verse como una consecuencia de un cada vez mayor interés por dejar de lado las preocupaciones y ofrecer nuevos productos más rápido. Y principalmente antes que los rivales.
Riesgos inherentes
Sustkever planea desarrollar una superinteligencia segura. Muchos creen que es posible crear mecanismos que establezcan un gran nivel de seguridad en una inteligencia artificial. Sin embargo, otros expertos han sugerido que al desarrollo de una inteligencia superior a la humana es de por sí una gran riesgo.
