Este viernes, los negociadores de la Unión Europea (UE) alcanzaron un hito histórico al firmar un acuerdo pionero a nivel global para regular el uso de la inteligencia artificial (IA). Thierry Breton, comisario europeo de Mercado Interno y asuntos digitales, anunció la noticia después de tres días de intensas negociaciones entre los Estados miembros y el Parlamento Europeo.
En México, el antecedente que contempla las sanciones contra “deepfakes” o contenido alterado con inteligencia artificial tiene al menos un año de contemplarse en la mayoría de las legislaciones locales siempre que se trata de contenido sexual. Es decir, que mucho antes de tal acuerdo en Europa, las personas que utilizan inteligencia artificial para alterar fotos o videos creando contenido sexual pueden recibir de 5 hasta 11 años de prisión dependiendo la entidad, tal como lo observamos con casos simbólicos como el de Gabriel “N”, joven del Instituto Politécnico Nacional que utilizó fotografías de sus compañeras de clase, algunas de ellas menores de edad, para generar pornografía con inteligencia artificial, quien se encuentra detenido ahora mismo.
La realidad, es que además del contenido sexual, la inteligencia artificial tiene herramientas para realizar predicciones de comportamientos humanos e influencia en ellos a través de detonantes psicológicos. También puede realizar aplicaciones masivas de vigilancia, detección facial y todo tipo de utilización de datos que violentan la privacidad. A pesar de contemplarse en nuestra legislación el uso de inteligencia artificial para crear “deepfakes” sexuales, en el caso de México, el obstáculo gigante que representa la territorialidad es serio. Si un agresor se encuentra en otro país o a través de Internet logra convencer a una persona de generar o distribuir este tipo de contenido, la impunidad es casi garantizada por la imposibilidad material de perseguirle o notificarle.
Breton expresó su entusiasmo en la plataforma de “equis” (anteriormente Twitter), calificando el acuerdo como “histórico”. Este paso político hace de la UE el primer continente en establecer reglas claras para el uso responsable de la inteligencia artificial, marcando un avance significativo en la regulación del ámbito digital. Definitivamente, este ejemplo implica un avance en el Estado de Derecho. Algo que podría funcionar para crear o elevar legislaciones supra-nacionales mediante acuerdos internacionales que logren proteger al menos a las niñas, niños, adolescentes y mujeres de los riesgos que les afectan desproporcionadamente en internet cuando se trata de depredadores sexuales.
La presidenta de la Comisión Europea, Ursula von der Leyen, elogió este logro en redes sociales, destacando que la legislación representa “un cuadro legal único para el desarrollo de una IA en la que podamos confiar”. Tras agotadoras jornadas de negociaciones, representantes de los países del bloque y del Parlamento Europeo dieron forma a este ambicioso proyecto de legislación.
El proceso de negociación, que comenzó el miércoles y se extendió durante 22 horas, culminó con éxito el viernes. Esta iniciativa, lanzada por la Comisión Europea en 2021, tiene como objetivo bloquear el uso indebido de la inteligencia artificial, impulsando al mismo tiempo la innovación en el sector, especialmente ante la irrupción del programa ChatGPT a finales de 2022. Aunque el enfoque es principalmente comercial y derecho de autor, así como propiedad intelectual sobre lo que se basa la IA para reformular, recrear o responder, otra prioridad de protección ha sido la de las y los trabajadores de diversas industrias, desde la actuación hasta el periodismo y la escritura.
Aunque el proyecto de legislación aún debe ser aprobado en el Parlamento Europeo y en los países del bloque, el acuerdo sellado el viernes representa un paso hacia un marco normativo unificado. Este tipo de disposiciones deberían ser contempladas en la próxima renegociación del T-MEC. Actualmente, la inteligencia artificial ya se utiliza para realizar contratos, traducciones legales y todo tipo de aplicaciones que tienen impactos comerciales serios. Recordemos que, a partir del 1 de julio de 2020, cuando entró en vigor el T-MEC, acuerdo que sustituyó al Tratado de Libre Comercio de América del Norte (TLCAN), inició una nueva etapa en la relación de México con sus vecinos del norte. En ese contexto, la primera mujer presidenta tendrá entre sus retos la primera revisión del Tratado entre México, Estados Unidos y Canadá en los términos del Artículo 34.7 Revisión y extensión del a vigencia del T-MEC. Si bien, no se trata de una renegociación, si será un momento interesante para plantear el impacto de la inteligencia artificial principalmente enfocada en aquellos empleos que podrían desaparecer y desplazar a seres humanos por sistemas.
En el caso de la Unión Europea y su ejemplo lidereando este tipo de regulaciones, se encuentran reglas específicas destinadas a sistemas de alto riesgo, como aquellos utilizados en infraestructuras esenciales o educación. Estos sistemas estarán sujetos a obligaciones fundamentales, como garantizar el control humano, documentación técnica y la implementación de un sistema de gestión de riesgos.
La legislación también contempla una supervisión específica de los sistemas de IA que interactúan con los humanos, exigiendo que informen a cada usuario cuando estén en contacto con una máquina. Este enfoque integral busca asegurar un desarrollo ético y responsable de la inteligencia artificial en la Unión Europea, sentando las bases para un futuro digital más seguro y confiable. La clave en mi opinión será la regulación de los sistemas de seguridad y la implementación de la Inteligencia Artificial para los programas de vigilancia que muchas y muchos candidatos han propuesto para aplicar en México en el contexto electoral del 2024. No me refiero tan sólo a Marcelo Ebrard con su “Plan Ángel” que pretendía criminalizar a personas por caminar extraño, sino a todos aquellos que sugieren sacrificar la privacidad por la seguridad mediante la hipervigilancia.
La lucha por la privacidad en la Era Digital
La lucha por la privacidad se convertirá en la causa crucial y de resistencia en la era actual, impulsada por la omnipresencia de Internet, redes sociales y sistemas de vigilancia. Las “nuevas izquierdas” y los nuevos anarquismos serán los “tecno-anarquismos”, aquellos movimientos de quienes luchan por guardar su información y quienes se oponen a la creciente recopilación masiva de datos. Varios factores contribuyen a la creciente importancia de la privacidad en estos nuevos tiempos:
1. Recopilación Masiva de Datos: Con la proliferación de plataformas en línea, la recopilación de grandes cantidades de datos personales ha aumentado. La lucha por la privacidad busca limitar esta práctica y garantizar el consentimiento informado de los usuarios. Cabe destacar que estos datos no necesariamente están en manos de los gobiernos sino en manos de empresas tecnológicas que las hace supra-poderosas por aquella información. ¿Elon Musk? ¿Mark Zuckerberg? Si. Algunos medidores de poder consideran que los grandes tecnológicos acumulan mucho más poder que mandatarios o gobiernos enteros tan sólo por la cantidad de información e influencia con la que cuenta,
2. Impacto de las Redes Sociales: Las redes sociales han transformado la forma en que compartimos información. La exposición personal en estas plataformas ha destacado la necesidad de proteger la privacidad ante el uso potencialmente indebido de la información compartida. Dos ejemplos de esto es la influencia de noticias falsas y desinformación gestada en redes sociales durante conflictos armados o procesos democráticos y golpes de Estado, así como el ejemplo de Donald Trump y “Cambridge Analytica” con la utilización de Facebook para manipular logrando resultados electorales que superan los carruseles y la compra de votos típicos de México.
3. Vigilancia Gubernamental y Ciberseguridad: Los avances tecnológicos han facilitado la vigilancia gubernamental, generando preocupaciones sobre el acceso no regulado a datos privados. La lucha por la privacidad busca equilibrar la seguridad nacional con el respeto a los derechos individuales. En México mucho se ha hecho por frenar el Padrón Nacional de Usuarios de Telefonía Móvil, bautizado como Panaut, que fue declarado inconstitucional porque implica una injerencia arbitraria a la privacidad de las personas, según la SCJN. Sin embargo, la amenaza siempre está ahí, lista para aplastar con mayorías las certezas conseguidas.
4. Riesgos de Hiper Vigilancia: La hiper vigilancia, impulsada por cámaras de seguridad y tecnologías de reconocimiento facial, plantea riesgos para la privacidad y la libertad individual. El derecho a la intimidad se ve amenazado por la constante observación.
5. Desafíos de la Inteligencia Artificial: El uso de inteligencia artificial y análisis de big data para crear perfiles detallados ha introducido desafíos éticos y de privacidad. La lucha por la privacidad busca abordar estos problemas, asegurando la transparencia en la toma de decisiones automatizada.
6. Amenazas Emergentes: La rápida evolución tecnológica, incluyendo el Internet de las cosas, introduce nuevas amenazas a la privacidad. La atención a la protección de datos se vuelve crucial en un entorno donde dispositivos conectados recopilan información constantemente. Sí, tu televisor puede verte y si tu lavadora es “inteligente”, seguro puede escucharte para sugerir los productos ideales que requieres.
En este contexto, la privacidad se considera esencial para preservar la autonomía y libertad individuales en un mundo cada vez más conectado. La lucha por la privacidad es una prioridad para mitigar los riesgos asociados con la recopilación y el uso indebido de datos en este entorno de hiper vigilancia, asegurando un equilibrio adecuado entre la innovación tecnológica y la protección de los derechos fundamentales.
Frida Gómez: @ifridaita