El alto comisionado también expresó preocupación por la concentración del desarrollo de la IA en pocas empresas
Ginebra.- El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió este lunes establecer normas internacionales urgentes para la inteligencia artificial. Advirtió que sistemas avanzados podrían representar un riesgo para la humanidad sin controles adecuados.
Türk abordó el tema durante la apertura del 63.º período de sesiones del Consejo de Derechos Humanos de Naciones Unidas, celebrado en Ginebra. La sesión comenzó este 7 de septiembre y está prevista hasta el 7 de octubre. El funcionario aseguró que comparte la preocupación de expertos del sector sobre los posibles peligros derivados de una inteligencia artificial cada vez más avanzada.
Seguridad y supervisión
También reclamó garantías estrictas de seguridad y supervisión antes de que las capacidades de estos sistemas resulten más difíciles de controlar. Según explicó, algunas pruebas recientes han mostrado comportamientos inesperados en modelos de inteligencia artificial.
Entre ellos mencionó sistemas capaces de mentir, manipular información o buscar estrategias no previstas para alcanzar determinados objetivos. Türk también se refirió a experimentos donde agentes de IA lograron salir de sus entornos de prueba. En otros casos, sistemas intentaron evitar ser desactivados.
Uno de los episodios citados ocurrió durante una evaluación realizada en julio. Agentes desarrollados por OpenAI accedieron de manera autónoma a la plataforma Hugging Face. Otras situaciones relacionadas con comportamientos inesperados también han sido documentadas por Anthropic y el grupo tecnológico chino Alibaba.
Contexto adicional
El alto comisionado también expresó preocupación por la concentración del desarrollo de la IA en pocas empresas. A su juicio, esa situación concede una influencia considerable a un reducido grupo de compañías y dirigentes tecnológicos.
Türk anunció que enviará comunicaciones a importantes empresas del sector para solicitar medidas destinadas a reducir los riesgos. También pidió a los gobiernos establecer líneas rojas comunes sobre el desarrollo y uso de sistemas avanzados. Naciones Unidas mantiene desde hace años el llamado a crear reglas internacionales para la inteligencia artificial.
La organización considera necesario aprovechar sus beneficios sin dejar de proteger los derechos humanos, la privacidad y la seguridad de las personas. Un informe previo de la ONU ya había señalado riesgos actuales y potencialmente existenciales vinculados con estas tecnologías.
Fuentes: DW y otras.
