Las Naciones Unidas han advertido del peligro del uso indiscriminado de la inteligencia artificial y piden controles.
El máximo responsable de derechos humanos de la ONU, Volker Türk, se sumó a los crecientes llamamientos a favor de un mayor control de la inteligencia artificial (IA), al advertir que esta tecnología revolucionaria podría convertirse en un riesgo existencial si no se toman medidas. El Alto Comisionado se dirigió al Consejo de Derechos Humanos en Ginebra.
Sin normas vinculantes, supervisión independiente y límites claros, la tecnología podría volverse incontrolable, declaró Türk. El riesgo existencial de la inteligencia artificial implica que los sistemas podrían volverse tan poderosos que sus propios desarrolladores no puedan controlarlos, escapando a su entorno de pruebas.
“Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, afirmó el Alto Comisionado quien pidió un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde.
El pedido a los países
Türk instó a los países que albergan tecnologías de IA y a los implicados en sus cadenas de suministro a trabajar juntos para establecer límites claros, exigiendo además verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector tecnológico.
“Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, señaló Türk, refiriéndose a la creciente concentración del poder tecnológico, resaltando la necesidad de una tecnología “que sirva a la humanidad y no al revés”, con los derechos humanos como principio rector.
Su uso…para el mal
El Alto Comisionado también expresó su preocupación por el uso de la IA en la guerra, especialmente por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana como el uso de drones totalmente autónomos que, presuntamente, ya han sido desplegados en conflictos como el de Ucrania.
Türk dijo estar “horrorizado” por los informes sobre armas autónomas que matan sin intervención humana. “Me sumo a los llamamientos para que se prohíba de forma urgente las armas que pueden quitar vidas sin intervención humana”, declaró a los miembros del Consejo.
Con estas advertencias, el riesgo existencial de la inteligencia artificial se posiciona como uno de los desafíos más urgentes para la comunidad internacional, que debe actuar para establecer límites claros y garantizar que la tecnología esté al servicio de la humanidad y no en su contra.
