La cuenta atrás ha comenzado. A partir del próximo 2 de agosto entra en vigor la segunda fase de la Ley de IA de la Unión Europea (UE). Y ello traerá consigo obligaciones relativas a la transparencia en relación con el uso de la IA. De ahora en adelante los anunciantes, las agencias y los medios de comunicación deberán etiquetar obligatoriamente en determinados casos los contenidos generados de manera sintética.
El artículo de 50 de la Ley de IA de la UE que comenzará a aplicarse en suelo comunitario a partir del próximo domingo afecta a dos grupos de empresas: a los proveedores de sistemas de IA generativa (OpenAI, por ejemplo) y las compañías que publican contenido (los denominados «deployers»). Al segundo grupo están adscritos los anunciantes y los «publishers», que de ahora en adelante deberán especificar en ciertos casos (no en todos) el uso de la IA en los contenidos que generan.
La obligación de etiquetar adecuadamente el contenido de origen sintético se aplicará a aquellas imágenes, vídeos y archivos de audio que el usuario podría percibir como genuinos, pero que llevan en realidad la rúbrica de la IA (hablamos en este caso de los denominados «deepfakes»). Las ilustraciones u otros contenidos generados con IA que no sean susceptibles de ser percibidos como auténticos por parte del usuario quedan excluidos de la obligación referente al etiquetado prevista por el artículo 50 de la Ley de IA de la UE.
Si, por el contrario, los anunciantes, las agencias y los medios de comunicación se apoyan en herramientas de IA para generar imágenes tan reales que simulan ser auténticas, tales imágenes sí deberán ir provistas de etiquetas. También será obligatorio el etiquetado cuando la IA se utilice para representar un producto que parece real, pero que en realidad no existe. En cambio, si la IA se utiliza meramente para alterar el color de fondo o la iluminación de un producto, no será necesario incluir etiquetas.
El etiquetado será sólo necesario en aquellos contenidos sintéticos susceptibles de ser percibidos como genuinos
En el caso de los chatbots (tanto de texto como de voz) que se utilizan en los servicios de atención al cliente de las empresas para interactuar con el consumidor de manera aparentemente humano sí será obligatorio el etiquetado.
Si nos detenemos en los textos alumbrados de manera sintética, cuando la IA se abra paso en textos de naturaleza puramente funcional (anuncios o descripciones de productos), no serán necesarias las etiquetas. No obstante, si la IA está involucrada en la redacción de textos de asuntos de interés público (las declaraciones de responsabilidad medioambiental que aparecen en las páginas web de las empresas, por ejemplo), sí será obligatorio incluir etiquetas (a menos, eso sí, que el texto final haya sido previamente revisado y editado por personas de carne y hueso, que son quienes asumirán en último término la responsabilidad sobre el contenido).
Las obligaciones referentes a los textos generados con IA se aplicarán en principio a los «publishers» y los medios de comunicación, que como norma general no deberán desplegar etiquetas si sus contenidos, aun habiendo siendo generados primigeniamente de manera sintética, han sido previamente supervisados por humanos que asuman la responsabilidad sobre tales contenidos.
No obstante, y aunque de manera general, los medios de comunicación estarán exentos en la mayor parte de los casos de desplegar etiquetas relativas al uso de IA en sus contenidos, sí podrán utilizar tales etiquetas de manera voluntaria en aras de una mayor transparencia. El empleo voluntario de etiquetas por parte los medios de comunicación abre, no obstante, la espita de un acalorado debate cuyas dimensiones no son simplemente éticas y atañen también al negocio de los «publishers» (pues los más críticos con la IA podrían argüir que el empleo de esta tecnología en la generación de contenidos reduce también el valor de los medios como espacios publicitarios).
En España los organismos responsables de velar por el cumplimiento de la Ley de IA de la UE en lo referente al etiquetado de contenido generado con IA serán, entre otros, el Consejo de Transparencia y Buen Gobierno, la Agencia Española de Protección de Datos (AEPD) y la Comisión Nacional de los Mercados y la Competencia (CNMC).
Source link