El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, declaró ante el Consejo de Derechos Humanos, en Ginebra, que comparte “la preocupación de los expertos del sector de que la IA avanzada pueda suponer un riesgo existencial para la humanidad”. La intervención ocurrió al inicio del periodo de sesiones del órgano, de 47 miembros, y coincidió con el arranque de su segundo mandato al frente de la oficina, según El Español. La Jornada publicó la declaración en su edición del 8 de septiembre.
Los términos de la advertencia
Türk sostuvo que “sin normas vinculantes, supervisión independiente y límites claros”, la tecnología “podría volverse incontrolable”. Puso dos ejemplos de lo que considera un sistema demasiado poderoso: “una IA que escapa a su entorno de pruebas” y una “que chantajea a sus desarrolladores”.
El alto comisionado afirmó también que “un puñado de hombres tiene un poder casi ilimitado sobre la IA” y dijo estar “horrorizado” por el despliegue de drones autónomos por parte de Rusia en Ucrania, en la reseña de La Jornada.
Qué propuso
Las medidas que planteó son un marco de seguridad global acordado antes de que sea “demasiado tarde”, garantías de seguridad exigibles a las empresas que desarrollan estos sistemas, verificación independiente, cooperación entre países desarrolladores y sus cadenas de suministro, y líneas rojas internacionales, entre ellas la prohibición del armamento autónomo letal sin intervención humana.
El Consejo de Derechos Humanos emite resoluciones y recomendaciones. Sus decisiones no obligan jurídicamente a los Estados, que las adoptan o las rechazan por votación, de modo que un marco vinculante como el que pide Türk requeriría un instrumento distinto, negociado por separado.
El contexto mexicano
Infobae situó la advertencia junto al debate abierto en México sobre el efecto de estos sistemas en la niñez.
Aristegui Noticias reseñó el 7 de septiembre el Plan Nacional de Inteligencia Artificial mexicano, que agrupa regulación ética, formación de capacidades y soberanía en infraestructura. El plan incluye los llamados Principios de Chapultepec, un decálogo según el cual toda decisión pública automatizada debe contar con responsables humanos e incorporar transparencia algorítmica.
Lo que falta
No hay calendario para la negociación de un instrumento vinculante sobre seguridad en inteligencia artificial en el sistema de Naciones Unidas. Tampoco se ha publicado el texto íntegro de la intervención con el detalle de los casos que Türk describió, ni respuesta pública de las empresas desarrolladoras a los señalamientos.
Fuentes
- La Jornada, “La IA, un ‘riesgo existencial’ para la gente, advierte Alto Comisionado de la ONU”
- El Español, “Volker Turk advierte: ‘La IA podría suponer un riesgo existencial para la humanidad'”
- Infobae, “La ONU alerta sobre un riesgo ‘existencial’ de la IA”
- Aristegui Noticias, “México busca consolidar ‘soberanía tecnológica’ con Plan Nacional de Inteligencia Artificial”
