OpenAI disuelve su equipo de seguridad ‘AGI Readiness’ y renuncia su asesor principal
openai-disuelve-su-equipo-de-seguridad-agi-readiness-y-renuncia-su-asesor-principal
OpenAI y el Futuro de la Inteligencia Artificial
La Disolución del Equipo de Preparación para AGI
Recientemente, OpenAI ha tomado la decisión de disolver su equipo de “Preparación para AGI”. Este equipo evaluaba la capacidad de OpenAI para manejar inteligencias artificiales avanzadas y la disposición del mundo para gestionar esta tecnología. La noticia fue anunciada por Miles Brundage, quien lideraba el equipo y decidió dejar la empresa.
En un comunicado en su Substack, Brundage mencionó que su decisión se basó en varias razones. Señaló que el costo de oportunidad se había vuelto demasiado alto y que creía que su investigación tendría un mayor impacto fuera de la empresa. Además, expresó su deseo de ser menos parcial y que había alcanzado los objetivos propuestos en OpenAI.
Brundage también hizo hincapié en que ni OpenAI ni ninguna otra empresa líder en tecnología están preparados para la AGI, y que el mundo tampoco está listo. Planea iniciar su propia organización sin fines de lucro o unirse a una existente para enfocarse en la investigación y defensa de políticas sobre inteligencia artificial. En su opinión, “la inteligencia artificial no será tan segura y beneficiosa como debería sin un esfuerzo concertado para lograrlo”.
Reacciones de OpenAI
Un portavoz de OpenAI expresó su apoyo a la decisión de Brundage de dedicarse a la investigación de políticas fuera del ámbito industrial. Agradecieron sus contribuciones y manifestaron su entusiasmo por el impacto que su trabajo independiente podría tener en la política de inteligencia artificial.
Se mencionó que los miembros restantes del equipo de Preparación para AGI serían reasignados a otros grupos dentro de la empresa. Esta reestructuración se produce en un contexto en el que OpenAI ha estado reconsiderando su enfoque y dirección.
Cambios en la Estructura de OpenAI
La disolución del equipo de Preparación para AGI no es un evento aislado. En mayo, OpenAI ya había disuelto su equipo de Superalineación, que se centraba en los riesgos a largo plazo de la inteligencia artificial. Esta decisión se tomó solo un año después de la creación del grupo, lo que indica cambios rápidos dentro de la organización.
La noticia sobre la disolución del equipo de Preparación para AGI también llega en un momento en que se están considerando reestructuraciones dentro de OpenAI para convertirla en una empresa con fines de lucro, tras la salida de tres ejecutivos clave, incluyendo al CTO Mira Murati y al jefe de investigación Bob McGrew.
Preocupaciones sobre la Seguridad
A lo largo de los últimos meses, OpenAI ha enfrentado un aumento de preocupaciones sobre la seguridad y la ética en el desarrollo de inteligencia artificial. A medida que la empresa compite con gigantes tecnológicos como Google, Microsoft y Meta en una “carrera armamentista de IA generativa”, la presión por innovar y lanzar productos se ha intensificado.
Durante el verano, un grupo de senadores demócratas envió una carta al CEO de OpenAI, Sam Altman, planteando preguntas sobre cómo la empresa estaba abordando las preocupaciones emergentes de seguridad, reflejando la inquietud de los legisladores sobre el impacto de la inteligencia artificial en la sociedad.
La Visión de Brundage para el Futuro
Brundage ha manifestado su deseo de que la inteligencia artificial se desarrolle de manera responsable y segura. Al dejar OpenAI, su intención es trabajar en la creación de un marco que guíe el desarrollo de la inteligencia artificial y promueva un diálogo sobre las políticas necesarias para gestionar esta tecnología.
El enfoque de Brundage en la investigación de políticas sugiere una necesidad urgente de establecer normas y regulaciones que guíen el desarrollo de la inteligencia artificial en el futuro. Es fundamental que la comunidad científica y tecnológica colabore para garantizar que los avances en inteligencia artificial se realicen de manera ética y segura.
La Carrera por la Inteligencia Artificial
Las empresas tecnológicas compiten ferozmente por liderar el mercado de la inteligencia artificial, que se espera que supere los 1 billón de dólares en ingresos en la próxima década. Esta carrera ha llevado a las empresas a apresurarse en el desarrollo de chatbots y agentes impulsados por inteligencia artificial, generando preocupaciones sobre la falta de supervisión y la necesidad de una mayor regulación.
En este contexto, OpenAI ha tomado medidas para reestructurar su equipo de seguridad, reasignando a uno de sus principales ejecutivos de seguridad, Aleksander Madry, a un nuevo rol centrado en el razonamiento de la inteligencia artificial. Esta decisión sugiere que la empresa está intentando abordar proactivamente las inquietudes sobre la seguridad de la IA.
La Independencia de la Junta
En junio, Microsoft decidió renunciar a su puesto de observador en la junta de OpenAI, citando su satisfacción con la estructura actual de la junta. Este movimiento se produjo en un momento de cambios significativos en la junta de OpenAI tras la breve salida de Altman, generando incertidumbre sobre el futuro de la empresa.
La decisión de Microsoft de distanciarse de la junta de OpenAI puede reflejar una estrategia más amplia para permitir que la empresa opere de manera más independiente en un entorno regulatorio cada vez más complejo.
La Necesidad de Supervisión
A medida que la industria de la inteligencia artificial continúa creciendo, la necesidad de una supervisión adecuada se vuelve crítica. Un grupo de empleados actuales y anteriores de OpenAI publicó una carta abierta expresando su preocupación por el rápido avance de la inteligencia artificial sin la debida regulación. Esta carta destaca la necesidad de establecer protecciones para quienes desean expresar sus preocupaciones sobre el desarrollo de la inteligencia artificial.
Poco después de la publicación de esta carta, se confirmó que la Comisión Federal de Comercio y el Departamento de Justicia estaban iniciando investigaciones antimonopolio sobre OpenAI, Microsoft y Nvidia, centrándose en las prácticas comerciales de estas empresas, lo que sugiere que las autoridades están tomando en serio las preocupaciones sobre la concentración de poder en la industria de la inteligencia artificial.
