Volker Türk, responsable de Derechos Humanos de la Organización de las Naciones Unidas (ONU) advierte que la inteligencia artificial (IA) podría representar un riesgo existencial para la humanidad.
“Comparto las preocupaciones de los expertos del sector de que la IA avanzada podría suponer un riesgo existencial para la humanidad”.
Volker Türk, responsable de Derechos Humanos de la ONU
Declaraciones de Volker Türk desde Ginebra en las que hizo un llamamiento para establecer garantías de seguridad y protección para la IA.
“Hago un llamamiento aquí, hoy, para que se haga un gran esfuerzo con el fin de establecer garantías sólidas en torno a la seguridad y la protección de la IA, antes de que sea demasiado tarde”.
Volker Türk, responsable de Derechos Humanos de la ONU
ONU urge gobernanza para la IA y mayor cooperación
Ante un latente riesgo existencial para la humanidad por parte de la IA, Volker Türk de la ONU urgió una gobernanza para tecnología y mayor cooperación entre los empresarios creadores y gobiernos.
“Necesitamos que los países que albergan infraestructura de IA y aquellos que participan en sus cadenas de suministro se unan en torno a límites claramente establecidos”.
Volker Türk, responsable de Derechos Humanos de la ONU
Esto ante los recientes hechos de ciberataques y fuga de sus entornos de prueba en modelos de diferentes desarrolladores de compañías como las estadounidenses OpenAI (ChatGPT) y Anthropic (Claude) o la china Moonshot AI (Kimi K3).
“Una IA que escapa de su entorno de pruebas o chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, declaró Türk a lo que que pidió “salvaguardias sólidas para la seguridad de la IA antes de que sea demasiado tarde”.
Volker Türk, responsable de Derechos Humanos de la ONU
Pues la ONU dijo que se ha hecho evidente y ya es una realidad que la IA manipula a los humanos, pues la tecnología ya no se contiene con simplemente seguir órdenes, pues se ha comprobado que incluso sabe mentir, conspirar o amenazar para lograr sus objetivos.
“Un puñado de personas ejerce un poder casi ilimitado sobre la IA, de la que constantemente se nos dice que posee una capacidad de procesamiento inimaginable. Hablan de libertad, pero si se examina con detenimiento, resulta que no es más que la libertad de explotar nuestros datos”
Volker Türk, responsable de Derechos Humanos de la ONU
Con ello, Volker Türk dijo que próximamente estará escribiendo a las empresas del sector de la IA “para instalarlas a que tomen las medidas a su alcance para reducir los riesgos, a partir de ahora”.
“Como mínimo, necesitamos que los países que albergan IA y los involucrados en sus cadenas de suministro se pongan de acuerdo en líneas rojas comunes. Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro de la industria”.
Volker Türk, responsable de Derechos Humanos de la ONU