Hasta hace relativamente poco tiempo, las pocas referencias que teníamos de la inteligencia artificial provenían del cine o de la literatura, donde se la solía (y suele) presentar como una tecnología que, generalmente, termina por escapar a nuestro control, dominar el mundo y someter a los humanos.
Sin embargo, en el mundo real no paran de decirnos que la inteligencia artificial (IA) es el futuro, que es una herramienta con grandes posibilidades, que va a facilitar enormemente las vidas de la gente. Pero ¿realmente se saben las implicaciones y consecuencias del uso de esta tecnología? ¿Qué riesgos puede traer consigo?
Para evitar caer bajo el yugo de una Skynet o una Shodan cualquiera, hemos hablado con los expertos de Grupo Atico34, una de las consultoras de protección de datos de referencia en España, quien nos ha aportado su visión acerca de este tema, ahora que está a punto de entrar en vigor la nueva Ley de Inteligencia Artificial, de la Unión Europea.
¿Un riesgo para los datos personales?
Una de las principales cuestiones que hay que tener en cuenta a la hora de hablar de inteligencia artificial y protección de datos es que se trata de una tecnología relativamente joven y que, como tal, su uso todavía no se encuentra generalizado ni regulado. Por tanto, se podría decir que, de momento, ni siquiera se alcanza a vislumbrar una mínima parte de su potencial… o de sus riesgos.
Según Alejandro Flores, del equipo jurídico de Grupo Atico34, “la gran mayoría de inteligencias artificiales que se usan en la actualidad son inteligencias artificiales generativas, las cuales se encargan de crear contenido de forma automatizada en base a contenido ya existente”.
Un ejemplo de esto sería Meta, quien hace poco ha confirmado que ya está usando la IA en Facebook e Instagram para generar contenido nuevo a partir del contenido ya creado por los usuarios.
En este sentido, el problema está en los datos con los que se alimenta a estos sistemas de IA. Al final, los datos con los que trabajan tienen que venir de alguna parte, y es posible que estas fuentes contengan datos incorrectos, sesgados o que incluso se utilicen para recabar datos personales con fines de mercadotecnia u otros.
También tenemos ya ejemplos como el de Worldcoin, proyecto del CEO de OpenAI que escaneaba el iris de las personas a cambio de una remuneración en criptomonedas, y cuya actividad en España acaba de ser paralizada por la Agencia Española de Protección de Datos (AEPD).
Para Atico34, “el principal problema es que la tecnología, como siempre, está avanzando más rápido que la legislación, y por tanto no queda muy claro hasta dónde está el límite en las obligaciones de los operadores de IA ni en los derechos de los usuarios”.
¿Cómo habría que actuar entonces mientras estamos en esta especie de limbo legal? Desde la consultora indican que lo recomendable es aplicar la Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales (LOPDGDD), esto es, la transposición española del Reglamento General de Protección de Datos europeo (RGPD).
Según la legislación en protección de datos vigente, el responsable del tratamiento, en este caso la persona física o jurídica que utiliza la IA debe informar sobre su identidad, sobre las actividades de tratamiento, la finalidad del tratamiento, si los datos se van a ceder a terceros o el plazo para la conservación de los datos.
La futura ley europea de IA exigirá la transparencia de los contenidos creados y el respeto de los derechos de autor, y prohibirá los sistemas de categorización biométrica
Además, ha de informar sobre las vías que tiene el usuario para ejercer sus derechos de acceso, rectificación, supresión, limitación del tratamiento, portabilidad u oposición y, por supuesto, debe obtener siempre el consentimiento expreso del individuo para el uso de sus datos, un consentimiento que ha de ser inequívoco y voluntario.
La ley que se avecina
¿Qué datos personales puede recabar una IA? ¿Para qué los puede emplear? ¿Quién es el responsable del tratamiento de los datos que maneja una IA? ¿Quién es el dueño del contenido generado por una IA? Son algunas de las preguntas que viene a resolver la próxima Ley europea de Inteligencia Artificial.
Esta nueva normativa, cuyo texto preliminar ya ha sido aprobado y se encuentra en las últimas fases de su tramitación, viene a establecer las bases para la regulación de la IA a nivel europeo, poniendo especial énfasis en la protección de los derechos y libertades de los individuos.
Se podría decir que esta normativa gravita sobre cuatro puntos principales: la transparencia de los contenidos creados mediante IA y la defensa de los derechos de autor; la prohibición de los sistemas de categorización biométrica; la prohibición del uso de la IA como una vía para engañar y manipular a los individuos o para explotar sus vulnerabilidades; la protección de los usuarios frente a las ultrafalsificaciones generadas por IA.
Todavía es pronto para conocer dónde se situarán exactamente los límites al uso de esta tecnología y lo más probable es que la Ley de Inteligencia Artificial sufra continuas modificaciones una vez que vea la luz. Así que, habrá que estar atentos a ver cómo evolucionan las cosas porque, no hay duda ya, la IA va a ser parte activa, seguro, de nuestras vidas.