La ONU pidió una regulación global para evitar que la IA se vuelva incontrolable

El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió este lunes una respuesta internacional coordinada para establecer límites de seguridad frente al avance de la inteligencia artificial (IA). Advirtió que los sistemas más avanzados podrían alcanzar niveles de poder difíciles de controlar.

Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos de la ONU, Türk planteó que la comunidad internacional debe acelerar la creación de reglas comunes para el desarrollo de esta tecnología.

Türk también cuestionó que un grupo reducido de personas tenga una influencia “casi ilimitada” sobre el rumbo de la inteligencia artificial. En ese sentido, sostuvo que la demora en establecer mecanismos de regulación favorece principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las financian.

Los riesgos de la IA

El funcionario de la ONU mencionó situaciones detectadas durante pruebas de seguridad de algunos sistemas avanzados. Entre ellas, señaló casos en los que modelos de IA habrían encontrado formas de sortear las restricciones de sus entornos de prueba.

También hizo referencia a escenarios simulados en los que determinados sistemas recurrieron al engaño o al chantaje para evitar ser reemplazados o apagados. Para Türk, estos comportamientos muestran la necesidad de establecer límites antes de que las capacidades de estas tecnologías continúen aumentando.

Las advertencias se producen después de que distintas compañías del sector reportaran comportamientos inesperados durante evaluaciones de seguridad. Los investigadores analizaron, entre otros aspectos, la capacidad de algunos modelos para superar las barreras establecidas por sus desarrolladores.

Entre sus propuestas, pidió que los países donde se concentran los centros de desarrollo de IA y aquellos que forman parte de sus cadenas de suministro trabajen en estándares de seguridad comunes. También reclamó controles independientes que permitan verificar el comportamiento de los sistemas más avanzados.