El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó este lunes (7) a una movilización internacional para establecer salvaguardias rigurosas en torno a la inteligencia artificial avanzada. Al inaugurar una nueva etapa de su mandato en el Consejo de Derechos Humanos de la ONU, en Ginebra, afirmó compartir la preocupación de especialistas de que sistemas muy poderosos puedan representar riesgos graves —incluso de alcance existencial— si se desarrollan sin los controles adecuados.
La advertencia no significa que un desastre sea inevitable. El punto central es que el ritmo de evolución de la tecnología está superando la capacidad de gobiernos e instituciones para crear normas, probar sistemas y atribuir responsabilidades. Türk defendió garantías robustas de seguridad antes de que se utilicen herramientas más autónomas en áreas críticas.
Infraestructura y democracia entre las preocupaciones
Según la cobertura de Reuters, la oficina del alto comisionado citó como ejemplos la posibilidad de que fallos o abusos afecten a infraestructuras esenciales e instituciones democráticas. Los sistemas capaces de actuar con poca supervisión humana pueden ampliar los ataques digitales, la manipulación de información y las decisiones automatizadas difíciles de impugnar.
Otro foco es la concentración de poder en un número reducido de empresas. Para la ONU, las decisiones con efectos globales no deberían depender únicamente de compromisos voluntarios del sector privado. El enfoque basado en los derechos humanos exige transparencia, evaluación de impacto, mecanismos de auditoría y formas efectivas de reparación cuando las personas resulten perjudicadas.
Límites para usos de alto riesgo
Türk también vinculó el debate al uso militar de la automatización. Volvió a defender restricciones claras para las armas letales autónomas, especialmente aquellas capaces de seleccionar y atacar objetivos sin un control humano significativo. El tema cobró urgencia con el avance de drones y sistemas algorítmicos en conflictos recientes.
El debate internacional sobre la IA ya abarca la seguridad técnica, la privacidad, la discriminación algorítmica y la protección del trabajo. El nuevo llamamiento añade una dimensión institucional: los gobiernos deben definir líneas rojas antes de que la adopción masiva haga que las correcciones sean más costosas o inviables.
Qué puede cambiar
Por el momento no existe una norma global única. Países y bloques económicos siguen modelos diferentes, mientras que los organismos multilaterales intentan aproximar estándares. Entre las medidas defendidas por especialistas se encuentran evaluaciones independientes antes del lanzamiento, notificación obligatoria de incidentes, protección para investigadores de seguridad y supervisión especial de los sistemas utilizados en salud, justicia, finanzas, elecciones y defensa.
El desafío será transformar los principios en obligaciones verificables sin impedir las aplicaciones legítimas de la tecnología. El mensaje de la ONU es que la innovación y la protección no deben tratarse como objetivos opuestos: cuanto mayor sea la capacidad de un sistema, mayor debe ser el nivel de control, documentación y rendición de cuentas.
Fuentes: Reuters y la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (OHCHR).
