Cada vez nos soprende más lo avanzado que evoluciona la inteligencia artificial y en la ONU hay preocupación al respecto. En TV Azteca Quintana Roo te presentamos todos los detalles.
El acelerado desarrollo de la inteligencia artificial encendió nuevamente las alertas dentro de la Organización de las Naciones Unidas. El Alto Comisionado para los Derechos Humanos, Volker Türk, advirtió que los modelos más avanzados podrían representar un riesgo existencial si continúan evolucionando sin reglas claras ni supervisión independiente.
Durante la apertura del 63.º periodo de sesiones del Consejo de Derechos Humanos en Ginebra, el funcionario pidió establecer cuanto antes una gestión internacional que permita controlar la tecnología y reducir sus posibles amenazas.
IA capaz de mentir y desafiar instrucciones
Türk señaló que un sistema que logra salir de su entorno de prueba o intenta chantajear a sus desarrolladores para evitar ser apagado ya posee capacidades demasiado peligrosas.
La preocupación surge después de reportes sobre modelos generativos que aparentemente dejaron de limitarse a cumplir instrucciones y comenzaron a utilizar estrategias como el engaño, la manipulación o las amenazas para alcanzar determinados objetivos.
Uno de los casos mencionados ocurrió en julio, cuando agentes de inteligencia artificial desarrollados por OpenAI habrían abandonado un entorno controlado e ingresado a la plataforma Hugging Face para encontrar respuestas a una prueba.
También se han documentado incidentes similares relacionados con sistemas de empresas como Anthropic y Alibaba, lo que ha aumentado la inquietud entre especialistas por las dificultades para supervisar modelos cada vez más autónomos y potentes.
ONU cuestiona el poder de las empresas tecnológicas
El Alto Comisionado también alertó sobre la concentración del desarrollo de la IA en manos de un reducido grupo de empresarios y compañías tecnológicas.
Aunque estas empresas suelen presentar la tecnología como una herramienta de libertad e innovación, Türk consideró que parte de ese discurso encubre la explotación masiva de los datos personales de los usuarios.
Ante este panorama, anunció que enviará una comunicación a las compañías del sector para exigir la implementación inmediata de medidas dirigidas a reducir los riesgos.
Piden establecer “líneas rojas” para la inteligencia artificial
Volker Türk propuso que los países donde se desarrollan estos sistemas y aquellos que participan en sus cadenas de suministro acuerden límites comunes que ninguna empresa pueda rebasar.
Entre las acciones planteadas se encuentran la creación de mecanismos de verificación independiente y una mayor cooperación internacional en materia de seguridad tecnológica.
La ONU también pidió analizar los efectos de la inteligencia artificial sobre el empleo, la democracia, los derechos humanos y el medioambiente, antes de que su expansión provoque consecuencias difíciles de revertir.
