El anteproyecto contiene un paquete de sanciones para prácticas prohibidas o de alto riesgo en el uso de la IA. El texto considera infracción grave no cumplir con la obligación de etiquetar correctamente cualquier imagen, audio o vídeo generado o manipulado con IA y que muestre a personas reales o inexistentes diciendo o haciendo cosas que nunca han hecho o en lugares donde nunca han estado, lo que se conoce como ultrasuplantación o ‘deepfake’.
Estos contenidos deberán identificarse como contenidos generados por IA “de manera clara y distinguible», tal y como especifica el reglamento europeo. Si no se hace, tendrá una consideración de infracción grave y la ley lo castigará con entre 500.000 euros y 7,5 millones de euros, o entre el 1% y el 2% del volumen de negocio mundial si la vulneración normativa la comete una empresa.
En rueda de prensa en el Consejo de Ministros, el titular de Transformación Digital y Función Pública, López, dijo que este es un tema de “actualidad”, en clara referencia a los vídeos con IA que ha elaborado el PP contra el PSOE como el que ha publicado con motivo del Día de la Mujer en la que se ve a ‘falsos’ Pedro Sánchez y José Luis Ábalos con un catálogo de mujeres.“Todos somos susceptibles de ser víctimas de suplantación. La IA puede ser una herramienta poderosa para investigar el alzhéimer, pero también para difundir bulos y atacar la democracia”, señaló el ministro.
El proyecto de ley cataloga una serie de prácticas prohibidas de uso de IA, que ya están en vigor desde el pasado 2 de febrero y que acarrearán multas desde el próximo 2 de agosto. Entre esas prácticas prohibidas figuran el uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona. Es el caso de un chatbot que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online. También será práctica prohibida explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables.
También se perseguirá como práctica prohibida la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual. En las prácticas prohibidas, las sanciones que se pondrán imponer oscilan entre los 7,5 y los 35 millones de euros, o entre el 2% y el 7% del volumen de negocio mundial del ejercicio anterior, si esta última cifra es superior, salvo en el caso de pymes, que podrá ser la menor de las dos cuantías.
Las autoridades encargadas de vigilar las prácticas prohibidas o de alto riesgo serán, dependiendo de los casos, la Agencia Española para la Seguridad de la IA (Aesia), la Agencia Española de Protección de Datos, el CGPJ, el Banco de España, la CNMV y la Junta Electoral Central.
