iniciado una campaña para restablecer la confianza en sus principios, operaciones y la seguridad de sus sistemas. En mayo, la empresa anunció la formación de un comité de seguridad dirigido por Sam Altman, Adam D'Angelo y Nicole Seligman, miembros de la junta directiva. Este comité tiene la tarea de realizar recomendaciones sobre decisiones críticas de protección y control para el desarrollo de nuevos proyectos.

Recientemente, OpenAI nombró a Paul M. Nakasone, exjefe de la Agencia de Seguridad Nacional de Estados Unidos, como miembro de su junta directiva. Este nombramiento forma parte de los esfuerzos continuos de la compañía para fortalecer su enfoque en la seguridad y la gobernanza.

La visión a futuro de Safe Superintelligence Inc.

El enfoque de Safe Superintelligence Inc. es claro: desarrollar una IA superinteligente segura y avanzar en la ingeniería y la ciencia necesarias para controlar esta poderosa tecnología. Al mantener un enfoque exclusivo en la SSI y evitar las presiones comerciales, Sutskever y su equipo buscan asegurar que los futuros sistemas de IA sean seguros y beneficiosos para la humanidad.

La nueva startup, con su dedicación a la seguridad y la protección en la IA, podría convertirse en un modelo a seguir para otras empresas del sector. A medida que la tecnología de la superinteligencia avanza, la prioridad de Safe Superintelligence Inc. será garantizar que estos desarrollos se realicen de manera responsable y segura, minimizando los riesgos potenciales y maximizando los beneficios para la sociedad.

Con este lanzamiento, Sutskever no solo continúa su trabajo en el campo de la IA, sino que también subraya la importancia de la seguridad y la ética en el desarrollo de tecnologías avanzadas. Safe Superintelligence Inc. se posiciona así como un pionero en la creación de una IA que no solo sea avanzada, sino también segura y controlable.

más inteligentes que los humanos. Sin embargo, este equipo fue desmantelado posteriormente, y Sutskever dejó la compañía en mayo tras una disputa con la directiva sobre cómo abordar la seguridad de la IA. En su despedida, expresó su confianza en que OpenAI construiría una IA General (IAG) segura y beneficiosa, mostrando entusiasmo por su nuevo proyecto.

Desafíos y controversias en OpenAI

La creadora de ChatGPT ha sido criticada por supuestas omisiones en la seguridad durante la producción y comercialización de sus modelos de IA. Jan Leike, que también fue colíder del equipo 'Superalignment', dejó su cargo acusando en redes sociales que la seguridad en la compañía había pasado a un segundo plano frente a la urgencia de lanzar productos brillantes.

Recientemente, The Information sugirió que Sam Altman, CEO de OpenAI, está evaluando convertir la corporación en una empresa con fines de lucro. Algunos analistas temen que este cambio podría obligar a la empresa a priorizar productos con mayor potencial comercial, lo que podría aumentar los precios de las soluciones de IA existentes y acelerar el ritmo de innovación. Esto, a su vez, podría incrementar los temores sobre los riesgos del uso de sistemas avanzados de IA sin un marco regulatorio adecuado.

Medidas de confianza y seguridad en OpenAI

En respuesta a las críticas, OpenAI ha