La transparencia en la IA entra en una nueva fase en Europa: de la divulgación a la rendición de cuentas demostrable
La transparencia en inteligencia artificial se ha abordado principalmente como una cuestión de principios. Se animaba a las empresas a explicar cómo funcionaban sus sistemas, se esperaba que los usuarios supieran cuándo estaban interactuando con una IA y los reguladores insistían reiteradamente en la importancia de la trazabilidad, la responsabilidad y la supervisión humana.
En Europa, la transparencia en materia de IA está pasando progresivamente del ámbito de las buenas prácticas al de los requisitos operativos concretos. La importancia de este cambio es fácil de subestimar. No se trata simplemente de añadir una etiqueta de «contenido generado por IA» a una pieza de contenido o de informar a un usuario de que un chatbot funciona con inteligencia artificial. Se trata de integrar la transparencia en la infraestructura técnica, organizativa y de gobernanza que rodea a los sistemas de IA.
Esta distinción es importante porque el marco regulatorio europeo está entrando en una fase en la que las organizaciones necesitarán cada vez más no solo explicar qué hacen sus sistemas de IA, sino también demostrar cómo han sido diseñados, operados y gobernados.
El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act) continúa implementándose mediante un calendario progresivo, y el propio calendario regulatorio ha evolucionado. En particular, el Digital Omnibus sobre IA ha modificado el calendario para determinadas obligaciones aplicables a los sistemas de alto riesgo. El resultado es un entorno regulatorio que no puede reducirse a una única fecha límite de cumplimiento. Las distintas obligaciones se aplican en diferentes etapas, dependiendo del tipo de sistema, del papel que desempeña la organización y del caso de uso concreto.
En este contexto, hay un desarrollo especialmente relevante: a partir del 2 de agosto de 2026, determinadas obligaciones de transparencia contempladas en el artículo 50 resultan aplicables a ciertos sistemas de IA. El principio subyacente es sencillo. Cuando las personas interactúan con determinados sistemas de IA o encuentran contenidos generados o manipulados mediante IA, deben poder comprender que existe una inteligencia artificial involucrada.
Pero las implicaciones prácticas van mucho más allá de la mera divulgación.
La transparencia se está convirtiendo en parte de la arquitectura
Pensemos en la frontera cada vez más difusa entre la interacción humana y la interacción con máquinas.
Los asistentes de IA, los agentes conversacionales y los avatares digitales pueden comunicarse actualmente con los usuarios mediante lenguaje, voz y representaciones visuales que se asemejan cada vez más a las interacciones humanas. En estas circunstancias, la cuestión de si una persona sabe que está hablando con un sistema de IA deja de ser simplemente una cuestión de diseño de interfaz.
Para determinados sistemas, los proveedores deben garantizar que las personas sean informadas de que están interactuando con inteligencia artificial, salvo que esto resulte ya evidente por las circunstancias. La información debe proporcionarse de forma clara y accesible desde el inicio de la primera interacción.
El principio subyacente es relevante. La transparencia proporciona al usuario la información necesaria para decidir cuánta confianza depositar en la interacción y cómo interpretar la información que se le está proporcionando.
Esta es una de las razones por las que la gobernanza de la IA ya no puede tratarse como algo que se añade a un producto una vez que la tecnología ya ha sido construida. La transparencia debe contemplarse cada vez más durante las fases de diseño, desarrollo y despliegue.
La misma lógica resulta todavía más evidente en el caso de la IA generativa.
Para determinados contenidos de audio, imágenes, vídeos y textos generados o manipulados mediante IA, el marco regulatorio introduce requisitos relacionados con la identificación técnica de contenido sintético. En las circunstancias pertinentes, los proveedores deben garantizar que los resultados generados o manipulados puedan identificarse mediante mecanismos legibles por máquina.
Esto representa un cambio fundamental en la forma de entender la transparencia.
Una divulgación colocada junto a una pieza de contenido es una cosa. Un mecanismo técnico integrado en el propio contenido es otra muy distinta. Este último permite que máquinas, plataformas y sistemas posteriores puedan identificar ese contenido como generado o manipulado mediante IA.
Conceptos como los metadatos, la procedencia, las marcas de agua y las señales legibles por máquina adquieren, por tanto, una relevancia que va más allá de la ingeniería. Se convierten en parte de la infraestructura mediante la cual la transparencia puede demostrarse realmente.
El problema de los deepfakes ilustra esta nueva realidad
El enfoque regulatorio de los deepfakes deja especialmente clara esta evolución.
Cuando una organización utiliza IA para generar o manipular una imagen, una grabación de audio o un vídeo que pueda considerarse un deepfake, la transparencia no puede lograrse necesariamente mediante la simple incorporación de una marca técnica invisible. En las circunstancias contempladas por la regulación, las personas expuestas al contenido deben poder reconocer que este ha sido generado o manipulado artificialmente.
La distinción es importante porque demuestra que la transparencia opera simultáneamente en varios niveles.
Existe una capa técnica, en la que los sistemas necesitan mecanismos capaces de identificar o marcar contenido sintético. Existe una capa de usuario, en la que las personas pueden necesitar ser informadas de manera clara y perceptible. Y existe una capa de gobernanza, en la que una organización necesita comprender qué sistemas está desplegando, con qué finalidad y bajo qué responsabilidad.
El marco regulatorio también reconoce que el contexto importa. Las obras artísticas, creativas, satíricas y de ficción pueden recibir un tratamiento diferente, reflejando la necesidad de equilibrar la transparencia con otros intereses legítimos, como la libertad de expresión y la creatividad.
Precisamente por eso, el cumplimiento normativo en materia de IA no puede reducirse a una lista de comprobación.
El “human in the loop” ya no es suficiente como declaración
Quizá uno de los desarrollos más reveladores tenga que ver con el texto generado mediante IA.
Determinados textos generados o manipulados mediante IA destinados a informar al público sobre asuntos de interés público pueden estar sujetos a requisitos de transparencia. Sin embargo, el marco también contempla una excepción importante cuando el contenido ha sido sometido a revisión humana o control editorial y una persona u organización asume la responsabilidad editorial.
A primera vista, esto puede parecer sencillo pero introduce una cuestión mucho más exigente: ¿qué significa realmente la “supervisión humana”?
Una persona que simplemente corrige la ortografía o la gramática no está necesariamente ejerciendo un control editorial significativo. Por tanto, la intervención humana debe entenderse en función de la sustancia del proceso y no simplemente de la presencia de una persona en algún punto del flujo de trabajo.
Esta distinción será cada vez más importante a medida que las organizaciones desplieguen IA en la producción de contenidos, la atención al cliente, los sistemas de apoyo a la toma de decisiones y las operaciones empresariales.
Decir que existe una persona «supervisando el proceso» es fácil.
Poder explicar qué revisó esa persona, qué decisiones estaba facultada para tomar, qué información tenía disponible y cómo su intervención afectó al resultado final es considerablemente más significativo.
El mismo principio se aplica más allá del contenido generativo. Determinados sistemas relacionados con el reconocimiento de emociones o la categorización biométrica también introducen obligaciones de transparencia, lo que pone de manifiesto una realidad más amplia: el cumplimiento de la normativa sobre IA rara vez se encuentra dentro de un único marco jurídico. Una misma aplicación tecnológica puede estar simultáneamente sujeta a regulación sobre IA, protección de datos, legislación de consumidores, propiedad intelectual, normas sobre servicios digitales y requisitos específicos del sector.
El departamento de cumplimiento no puede asumir esta responsabilidad por sí solo
Este es probablemente uno de los cambios organizativos más importantes.
La transparencia en materia de IA no puede implementarse eficazmente únicamente desde los equipos jurídicos una vez que un producto ya está en producción.
Requiere la colaboración entre los equipos jurídicos, de producto, ingeniería, datos, ciberseguridad y negocio desde el inicio del proceso de desarrollo.
El equipo jurídico puede determinar si una obligación resulta aplicable. Los equipos de producto pueden decidir cómo experimenta el usuario la divulgación. Los ingenieros pueden implementar marcas legibles por máquina o controles técnicos. Los equipos de datos pueden gestionar la procedencia y los metadatos. Los equipos de seguridad pueden supervisar la integridad de los sistemas y de la información. Los responsables de negocio toman, en última instancia, las decisiones sobre cómo se despliegan estas capacidades y qué riesgos está dispuesta a asumir la organización.
Las fronteras entre estas funciones se están volviendo, por tanto, cada vez más permeables.
La gobernanza de la IA se está convirtiendo en un problema de ingeniería.
La ingeniería se está convirtiendo en un problema de gobernanza.
Y los datos son cada vez más el punto en el que ambas convergen.
De prepararse para la regulación a demostrar el cumplimiento
Existe otra dimensión de esta transición que merece especial atención: la supervisión y el cumplimiento efectivo.
El marco regulatorio europeo está pasando progresivamente de una etapa en la que las organizaciones se preguntaban principalmente «¿Cómo debemos prepararnos?» a otra en la que tendrán que responder cada vez más a una pregunta diferente: «¿Cómo podemos demostrar lo que hemos hecho?».
A partir del 2 de agosto de 2026, la Oficina de IA de la Comisión Europea ha comenzado a ejercer sus responsabilidades de supervisión en las áreas pertinentes, especialmente en relación con los modelos de IA de propósito general, mientras que las autoridades nacionales continúan desempeñando un papel central en el ecosistema más amplio de la IA. Dependiendo de la infracción y de las normas aplicables, las multas pueden alcanzar importes significativos, incluyendo, en determinados casos, hasta 15 millones de euros o el 3 % del volumen de negocios anual mundial total de una organización correspondiente al ejercicio financiero anterior.
Por eso, la distinción entre política y evidencia adquiere una importancia cada vez mayor.
Una cosa es que una organización disponga de una política que establezca que los sistemas de IA se gestionan de forma responsable.
Otra muy distinta es poder demostrar qué datos se utilizaron, de dónde procedían, qué transformaciones se aplicaron, quién tuvo acceso a ellos, qué controles se implementaron, qué revisión humana tuvo lugar y qué evidencias existen para respaldar esas afirmaciones.
Esto último es precisamente donde la infraestructura de datos se vuelve inseparable de la gobernanza.
La capa de datos se convierte en la base de la responsabilidad sobre la IA
Los sistemas de IA suelen analizarse en términos de modelos, algoritmos y aplicaciones. Sin embargo, la capacidad de gobernar estos sistemas depende cada vez más de algo que se encuentra por debajo de los tres: la infraestructura de datos.
¿De dónde procede la información?
¿En qué condiciones puede utilizarse?
¿Qué ocurrió con ella antes de entrar en un sistema de IA?
¿Fue limpiada, validada, transformada o anonimizada?
¿Qué metadatos la describen?
¿Puede reconstruirse su linaje?
¿Puede una organización demostrar quién accedió a ella o quién la modificó?
Y, quizá lo más importante, ¿puede la organización explicar cómo contribuyeron esos datos al comportamiento del sistema de IA resultante?
Estas cuestiones ya no son exclusivamente técnicas. La procedencia de los datos, los metadatos, la trazabilidad, el linaje y la gobernanza se están convirtiendo en elementos de la arquitectura más amplia de responsabilidad que rodea a la inteligencia artificial.
Aquí es también donde la calidad de los datos se vuelve inseparable de la calidad de la IA.
Un modelo no puede compensar indefinidamente información incompleta, inconsistente o mal comprendida. Si los datos subyacentes contienen contradicciones, contexto ausente o relaciones poco fiables, esas debilidades pueden propagarse a los sistemas construidos sobre ellos.
Lo mismo ocurre con los datos sintéticos que pueden proporcionar a las organizaciones formas muy potentes de entrenar modelos, probar aplicaciones, simular escenarios y colaborar sin exponer repetidamente información sensible de producción. Pero los datos sintéticos solo tienen valor cuando conservan las características que hacen útil al conjunto de datos original, al tiempo que proporcionan un nivel de privacidad adecuado.
Esto requiere medición, no suposiciones.
En Dedomena.AI, los datasets sintéticos pueden evaluarse en tres dimensiones fundamentales: privacidad, calidad y utilidad. La calidad analiza si se conservan las distribuciones, correlaciones y relaciones relevantes. La privacidad evalúa hasta qué punto los datos sintéticos protegen frente a riesgos como la correspondencia de registros o la inferencia. La utilidad considera si los datos generados siguen siendo realmente útiles para tareas analíticas y de machine learning. Metodologías como Train on Synthetic, Test on Real proporcionan una forma práctica de evaluar si los datos sintéticos pueden contribuir al rendimiento del machine learning en escenarios reales.
El principio es sencillo, pero poderoso: los datos sintéticos no deberían considerarse fiables simplemente porque sean sintéticos. Deberían considerarse fiables porque han sido evaluados.
La confianza comienza antes que el modelo
Esto nos lleva a una conclusión más amplia.
La próxima generación de gobernanza de la IA no se construirá únicamente en torno a la gobernanza de los modelos. Dependerá cada vez más de la gobernanza de la información que fluye a través de esos modelos.
Un agente inteligente puede ser capaz de razonar, pero razona sobre información.
Un sistema conversacional puede ser extraordinariamente sofisticado, pero sus respuestas dependen del contexto que recibe.
Un proceso automatizado puede ejecutar decisiones en milisegundos, pero esas decisiones dependen, en última instancia, de la calidad y procedencia de los datos que hay detrás.
Si un agente recupera información obsoleta, su respuesta puede estar desactualizada. Si encuentra registros duplicados, puede producir respuestas inconsistentes. Si falta información crítica, sus conclusiones pueden ser incompletas.
La oportunidad europea: construir una infraestructura en la que se pueda confiar
La evolución regulatoria europea suele describirse en términos de restricciones y obligaciones. Pero existe otra forma de interpretar lo que está sucediendo.
La aparición de requisitos más exigentes en materia de transparencia, procedencia, responsabilidad y trazabilidad también está generando presión para construir una nueva generación de infraestructuras digitales.
Las organizaciones necesitarán sistemas capaces de hacer que los datos sean más comprensibles, estén más controlados y sean más trazables. Necesitarán mecanismos para preparar la información antes de que llegue a los sistemas de IA, proteger los datasets sensibles durante el desarrollo, documentar las transformaciones, gestionar los accesos y aportar evidencias sobre cómo se ha utilizado la información.
Es precisamente en esta capa donde operan plataformas como Dedomena.AI.
El objetivo no es simplemente ayudar a las organizaciones a generar más datos o desplegar más IA. Es proporcionar la infraestructura mediante la cual los datos puedan prepararse, gobernarse, transformarse y utilizarse de forma más controlada y fácil de demostrar.
Porque el reto al que se enfrentan las organizaciones ya no es simplemente si pueden construir un sistema de IA.
Es si pueden construir uno que puedan explicar, gobernar y en el que puedan confiar.
De la preparación para la IA a la responsabilidad sobre la IA
El panorama europeo de la inteligencia artificial está entrando en una nueva fase.
La pregunta está dejando progresivamente de ser si las empresas están experimentando con inteligencia artificial para centrarse en si disponen de la infraestructura necesaria para operarla de forma responsable y a escala.
Esto implica poder identificar cuándo interviene la IA. Significa comprender el origen y la transformación de los datos. Significa establecer una supervisión humana significativa, en lugar de limitarse a afirmar que existe. Significa crear mecanismos técnicos de transparencia cuando sean necesarios. Y significa conservar suficientes evidencias para demostrar que la organización realmente ha implementado los controles que afirma haber establecido.
Las implicaciones van mucho más allá de los departamentos jurídicos.
Para los CIO y CTO, se trata de un desafío de infraestructura. Para los CDO, de un desafío de gobierno del dato. Para los responsables de producto, de un desafío de diseño y operación. Para los equipos jurídicos y de compliance, de un desafío probatorio. Y para los responsables de negocio, se trata, en última instancia, de determinar si la IA puede convertirse en una capacidad organizativa fiable en lugar de una colección de experimentos aislados.
Las organizaciones que aborden esta capa desde el principio estarán mejor posicionadas no solo para afrontar la regulación, sino también para escalar la IA con mayor confianza.
Porque la próxima generación de IA no dependerá únicamente de tener mejores modelos, sino de contar con datos de calidad, con trazabilidad, gobernanza en todo el ciclo de vida. Y sobre todo, necesitará una infraestructura que permita a las organizaciones entender los procesos, tener el control y avanzar con confianza para llevar los proyectos de la experimentación a la realidad.