Los peligros de la inteligencia artificial: Yoshua Bengio advierte sobre el riesgo de que los sistemas de IA se vuelvan contra los humanos

La Advertencia de un Pionero en Inteligencia Artificial

La Perspectiva de Yoshua Bengio

Yoshua Bengio, un reconocido científico informático y pionero en el campo de la inteligencia artificial (IA), ha expresado su preocupación sobre el impacto que esta tecnología emergente podría tener en la sociedad. Con una carrera destacada como profesor en la Universidad de Montreal y líder del Instituto de Algoritmos de Aprendizaje de Montreal, Bengio ha recibido múltiples premios por su trabajo en aprendizaje profundo, que busca replicar la actividad del cerebro humano para aprender a reconocer patrones complejos en los datos.

La Necesidad de Investigación

Bengio enfatiza la importancia de realizar más investigaciones para mitigar los riesgos asociados con la IA. En una conversación con Tania Bryer de CNBC durante la Cumbre One Young World en Montreal, subrayó que la inteligencia artificial general (AGI) podría alcanzar o incluso superar la inteligencia humana en diversas áreas, planteando preguntas cruciales sobre el futuro y las implicaciones para la sociedad.

El Poder de la Inteligencia

El científico advierte que la inteligencia conlleva poder. La pregunta que surge es: ¿quién controlará este poder? Bengio señala que tener sistemas con más conocimiento que la mayoría puede ser peligroso en manos equivocadas, generando inestabilidad geopolítica o fomentando el terrorismo.

Concentración del Poder

Bengio menciona que solo un número limitado de organizaciones y gobiernos podrá costear la construcción de máquinas de IA poderosas. Cuanto más grandes sean estos sistemas, más inteligentes se volverán. La creación y entrenamiento de estas máquinas requieren inversiones millonarias, lo que resultará en una concentración de poder económico, político y militar, perjudicando los mercados, la democracia y la estabilidad geopolítica.

Preguntas Abiertas

El experto destaca que hay muchas preguntas abiertas que necesitan ser estudiadas con cuidado. Según Bengio, es posible que estos escenarios se materialicen en las próximas décadas. Sin embargo, si el tiempo se reduce a cinco años, la humanidad no está preparada, ya que actualmente no existen métodos para garantizar que estos sistemas no causen daño o no se vuelvan en contra de las personas.

Riesgos de la Formación de IA

Bengio argumenta que la forma en que se entrenan actualmente las máquinas de IA podría llevar a sistemas hostiles hacia los humanos. Además, menciona que existen individuos que podrían querer abusar de este poder, deseando incluso reemplazar a la humanidad por máquinas. Aunque esta es una opinión marginal, quienes la sostienen pueden tener una influencia significativa.

La Carta Abierta de OpenAI

El científico apoyó una carta abierta publicada en junio titulada “Un derecho a advertir sobre la inteligencia artificial avanzada”, firmada por empleados actuales y anteriores de OpenAI, la compañía detrás del popular chatbot ChatGPT. Esta carta alertaba sobre los “serios riesgos” del avance de la IA y pedía la colaboración de científicos, responsables políticos y del público para mitigar estos peligros.

Regulaciones Necesarias

Bengio sugiere que el primer paso que deben tomar los gobiernos es establecer regulaciones que obliguen a las empresas a registrar la creación de estos sistemas avanzados, que requieren cientos de millones de dólares para ser entrenados. Es esencial que los gobiernos conozcan la naturaleza de estos sistemas.

Adaptación Legislativa

Con la rápida evolución de la IA, Bengio sostiene que los gobiernos deben ser creativos y desarrollar legislaciones que se adapten a los cambios tecnológicos. Además, las empresas que desarrollan IA deben ser responsables por sus acciones. La responsabilidad es una herramienta que puede obligar a las empresas a actuar éticamente, ya que el temor a ser demandadas puede motivarlas a proteger al público.

La Carrera por la IA

El científico resalta que las empresas compiten entre sí, y muchas creen que el primero en alcanzar la AGI dominará el mercado. Esta competencia puede convertirse en una carrera peligrosa.

Regulación como Solución

Bengio compara el proceso de legislación para garantizar la seguridad de la IA con el desarrollo de normas para otras tecnologías, como aviones o automóviles. Para disfrutar de los beneficios de la IA, es crucial implementar regulaciones y establecer guardrails que aseguren un control democrático sobre el desarrollo de la tecnología.

Preguntas Críticas

Una de las preguntas más difíciles que plantea Bengio es: “Si creamos entidades más inteligentes que nosotros y con sus propios objetivos, ¿qué significa eso para la humanidad? ¿Estamos en peligro?” Estas son cuestiones complejas e importantes que aún no tienen respuestas definitivas.

Llamado a la Acción

Bengio concluye instando a las personas a actuar. Asegura que aún hay tiempo para dirigir la evolución de las sociedades y la humanidad hacia una dirección positiva y beneficiosa. Sin embargo, esto requiere que haya suficientes individuos que comprendan tanto las ventajas como los riesgos de la IA, así como un esfuerzo colectivo para trabajar en soluciones tecnológicas o políticas.

versi.es