La Union Europea impone nuevas reglas para el uso de la inteligencia artificial

La transparencia como eje central de la nueva normativa

En la actualidad es cada vez mas frecuente que al contactar con el servicio de atencion al cliente de un banco o una gran corporacion, la respuesta provenga de una inteligencia artificial en lugar de un ser humano. Si bien muchas empresas adoptan esta tecnologia con el objetivo principal de reducir costes y automatizar procesos, los resultados no siempre son positivos. Un caso ilustrativo es el del Commonwealth Bank of Australia (CBA), que tras despedir a 45 trabajadores para implementar sistemas automatizados, ha enfrentado un notable rechazo por parte de sus usuarios, quienes critican la falta de eficacia y la frialdad en la interaccion. Ante este panorama, la Union Europea ha dado un paso decisivo para proteger a los consumidores y fortalecer la confianza digital mediante la Ley de Inteligencia Artificial, conocida popularmente como AI Act. Segun explica Stella Luna de Maria, experta en tecnologia y CEO de Pentawar Consulting, esta legislacion marca un antes y un despues en la gestion de la transparencia, especialmente en lo relativo a contenidos generados artificialmente y el uso de deepfakes.

Obligacion de informar al usuario sobre el uso de IA

Uno de los pilares fundamentales de la normativa, segun detallo Stella Luna de Maria en una entrevista para el programa La Tarde de COPE, es la obligacion legal de informar al usuario cuando este interactua con una inteligencia artificial. Muchas empresas han integrado chatbots y asistentes virtuales sin previo aviso, generando frustracion debido a respuestas genericas que no resuelven los problemas reales de las personas.

  Bajo las directrices de la Comision Europea para la aplicacion del articulo 50 de la AI Act, entidades como bancos, administraciones publicas y servicios de salud deberan notificar de manera clara que el interlocutor es una maquina. Es importante destacar que este reglamento no es una reaccion improvisada al auge de herramientas como ChatGPT. La experta aclara que la Comision Europea presento la primera propuesta en 2021, mucho antes de que la inteligencia artificial generativa se convirtiera en un fenomeno masivo. El reglamento entro en vigor en agosto de 2024 y su aplicacion se esta realizando de forma gradual mediante diversas fases que se prolongaran durante los proximos años.

Control sobre deepfakes y sanciones economicas severas

La nueva estrategia europea tambien pone el foco en la distincion entre contenido real y material sintetico. A partir de diciembre de este año, cualquier contenido manipulado o creado mediante inteligencia artificial, ya sean textos, imagenes, videos o audios, debera incluir una marca de agua o un mecanismo de identificacion tecnica visible. Esta medida busca combatir la desinformacion, el fraude y la manipulacion, replicando sistemas similares a las marcas de agua que ya utilizan herramientas como Gemini. Ademas, la normativa prohibe de forma expresa la creacion de imagenes sexualizadas mediante IA sin el consentimiento de las personas afectadas, protegiendo asi la privacidad y los derechos fundamentales de los ciudadanos. Para asegurar el cumplimiento de estas obligaciones, la ley contempla un sistema de sanciones muy contundente. Las multas pueden alcanzar cifras considerables, comenzando en los 15 millones de euros o el 3 por ciento de la facturacion anual global de la empresa infractora. Con este marco regulatorio, Europa pretende no solo controlar el desarrollo tecnologico, sino garantizar que la inteligencia artificial se implemente bajo criterios de confianza, transparencia y responsabilidad, asegurando que el usuario sepa siempre en que entorno digital se encuentra.