OpenAI crea comité independiente para supervisión de seguridad
OpenAI Establece un Nuevo Comité de Seguridad y Supervisión
Un Cambio en la Estructura de Gobernanza
El lunes, OpenAI anunció que su Comité de Seguridad y Protección, creado en mayo en medio de controversias sobre sus procesos de seguridad, se convertirá en un comité independiente de supervisión. Este cambio busca fortalecer la gobernanza y asegurar que la empresa maneje adecuadamente los riesgos asociados con el desarrollo de su tecnología.
Liderazgo del Comité
Zico Kolter, quien es director del departamento de aprendizaje automático en la Escuela de Ciencias de la Computación de la Universidad Carnegie Mellon, asumirá el cargo de presidente del comité. Junto a él, otros miembros destacados incluyen a Adam D’Angelo, cofundador de Quora y miembro de la junta de OpenAI; Paul Nakasone, exjefe de la NSA y miembro de la junta; y Nicole Seligman, exvicepresidenta ejecutiva de Sony. Este grupo de expertos tiene la tarea de supervisar los procesos de seguridad y protección que guían el desarrollo y despliegue de los modelos de OpenAI.
Recomendaciones Clave del Comité
Recientemente, el comité concluyó una revisión de 90 días sobre los procesos y salvaguardias de OpenAI, y formuló recomendaciones que serán publicadas en un blog oficial. Entre las cinco recomendaciones clave se encuentran:
- Establecer una gobernanza independiente para la seguridad y protección.
- Mejorar las medidas de seguridad existentes.
- Ser transparente sobre el trabajo de OpenAI.
- Colaborar con organizaciones externas.
- Unificar los marcos de seguridad de la empresa.
El comité también tendrá la autoridad de retrasar el lanzamiento de modelos hasta que se aborden las preocupaciones de seguridad.
Crecimiento y Controversias en OpenAI
Desde el lanzamiento de ChatGPT a finales de 2022, OpenAI ha estado en un periodo de rápido crecimiento. Sin embargo, este crecimiento ha estado acompañado de controversias y la salida de empleados clave. Algunos de ellos han expresado su preocupación de que la compañía está avanzando demasiado rápido, lo que podría comprometer la seguridad de sus productos.
Preocupaciones de los Legisladores
En julio, un grupo de senadores demócratas envió una carta al CEO de OpenAI, Sam Altman, planteando preguntas sobre cómo la empresa está abordando las preocupaciones de seguridad emergentes. Este tipo de inquietudes ha sido recurrente, y en el mes anterior, un colectivo de empleados actuales y anteriores de OpenAI publicó una carta abierta que señalaba una falta de supervisión y la ausencia de protecciones para denunciantes.
Problemas Internos y Salidas Notables
En mayo, un exmiembro de la junta de OpenAI comentó sobre la salida temporal de Altman en noviembre del año anterior, afirmando que durante ese tiempo, proporcionó al consejo información inexacta sobre la cantidad de procesos de seguridad formales que existían. En el mismo mes, OpenAI tomó la decisión de disolver su equipo enfocado en los riesgos a largo plazo de la inteligencia artificial, apenas un año después de haberlo anunciado. Los líderes de este equipo, Ilya Sutskever y Jan Leike, también dejaron la compañía en mayo. Leike expresó en un mensaje en X que la cultura y los procesos de seguridad de OpenAI habían quedado relegados a un segundo plano en favor de productos más atractivos.
La Importancia de la Seguridad en el Desarrollo de IA
La creación de este nuevo comité llega en un momento crítico, donde la seguridad en el desarrollo de inteligencia artificial se ha convertido en un tema prioritario. La comunidad tecnológica está cada vez más consciente de los riesgos y desafíos que presenta esta tecnología, y la presión para que OpenAI actúe de manera responsable es más fuerte que nunca.
Mi nombre es Ana Belén Ruiz y me especializo en Salud, Ciencia y Espacio en Versi. Con un fuerte interés en cómo la ciencia y la tecnología espacial pueden mejorar nuestra salud, me dedico a desentrañar los misterios del universo y su relación con nuestro bienestar. Estoy comprometida a brindar a los lectores información accesible y actualizada sobre los últimos descubrimientos y avances en estos campos fascinantes.
