{"id":123829,"date":"2026-08-29T12:43:23","date_gmt":"2026-08-29T10:43:23","guid":{"rendered":"https:\/\/ceadigilaw.org\/blog\/la-marca-de-la-sospecha-watermarking-sin-control\/"},"modified":"2026-08-29T12:43:23","modified_gmt":"2026-08-29T10:43:23","slug":"la-marca-de-la-sospecha-watermarking-sin-control","status":"publish","type":"post","link":"https:\/\/ceadigilaw.org\/es\/blog\/la-marca-de-la-sospecha-watermarking-sin-control\/","title":{"rendered":"La marca de la sospecha. Watermarking sin control"},"content":{"rendered":"

El art\u00edculo 50.2 del Reglamento de Inteligencia Artificial y la trazabilidad del texto<\/em><\/p>\n

Antonio Tejeda Encinas<\/p>\n

Doctor en Derecho de la Uni\u00f3n Europea | Presidente del Euro-American Committee of Digital Law \u2013 CEA Digital Law<\/p>\n

La Uni\u00f3n Europea ha construido buena parte del Reglamento (UE) 2024\/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial o AI Act), sobre una premisa que, en t\u00e9rminos generales, resulta dif\u00edcilmente discutible: no todos los usos de la inteligencia artificial generan los mismos riesgos y, por tanto, no todos deben recibir la misma respuesta jur\u00eddica. Ese enfoque basado en el riesgo constituye una de las principales justificaciones pol\u00edticas y regulatorias del AI Act. Precisamente por eso resulta llamativo que, al llegar al art\u00edculo 50.2, el legislador abandone en buena medida esa l\u00f3gica y someta a una misma obligaci\u00f3n b\u00e1sica de trazabilidad contenidos cuya naturaleza, funci\u00f3n y capacidad de causar enga\u00f1o son radicalmente distintas.<\/p>\n

Qu\u00e9 exige el art\u00edculo 50.2 y qu\u00e9 no<\/h2>\n

El precepto obliga a los proveedores de sistemas de inteligencia artificial, incluidos los modelos de prop\u00f3sito general, que generen contenido sint\u00e9tico de audio, imagen, v\u00eddeo o texto, a garantizar que sus resultados est\u00e9n marcados en un formato legible por m\u00e1quina y puedan ser detectados como generados o manipulados artificialmente. La obligaci\u00f3n solo cede cuando la inteligencia artificial desempe\u00f1a una funci\u00f3n de apoyo a la edici\u00f3n est\u00e1ndar o cuando no altera sustancialmente los datos introducidos por el usuario o su significado. Desde el 2 de agosto de 2026 las obligaciones de transparencia del art\u00edculo 50 resultan, con car\u00e1cter general, aplicables en la Uni\u00f3n Europea, sin perjuicio del r\u00e9gimen transitorio introducido por el Reglamento (UE) 2026\/1744, de 8 de julio de 2026, conocido como \u00d3mnibus digital sobre IA, para determinados sistemas generativos ya introducidos en el mercado antes de esa fecha, cuyos proveedores disponen hasta el 2 de diciembre de 2026 para cumplir el art\u00edculo 50.2.<\/p>\n

Conviene precisar desde el principio qu\u00e9 se est\u00e1 discutiendo, porque la cr\u00edtica pierde fuerza si se dirige contra algo que la norma no dice. El art\u00edculo 50.2 no obliga a colocar sobre cada texto una advertencia visible que anuncie al lector que ha intervenido una inteligencia artificial. Esa obligaci\u00f3n t\u00e9cnica recae sobre el proveedor y consiste en hacer posible la identificaci\u00f3n posterior de la procedencia artificial. Tampoco debe confundirse con el art\u00edculo 50.4, que regula determinados deberes de informaci\u00f3n a cargo de quien publica contenidos, especialmente deepfakes y textos destinados a informar al p\u00fablico sobre asuntos de inter\u00e9s p\u00fablico. La Comisi\u00f3n ha confirmado expresamente que, en este \u00faltimo supuesto, un texto que haya sido sometido a una verdadera revisi\u00f3n humana o a control editorial y respecto del cual exista una persona que asuma la responsabilidad editorial no necesita ser etiquetado p\u00fablicamente como generado por inteligencia artificial.<\/p>\n

Esta distinci\u00f3n mejora t\u00e9cnicamente el Reglamento, pero al mismo tiempo revela el problema que contiene. El legislador europeo reconoce en el momento de la publicaci\u00f3n que una intervenci\u00f3n humana sustantiva y la asunci\u00f3n de responsabilidad pueden ser jur\u00eddicamente suficientes para hacer irrelevante frente al p\u00fablico la participaci\u00f3n anterior de una inteligencia artificial. Sin embargo, en la fase previa de generaci\u00f3n mantiene una obligaci\u00f3n general de marcaci\u00f3n que permite conservar precisamente ese dato de procedencia. No existe una contradicci\u00f3n normativa en sentido estricto, porque los apartados segundo y cuarto tienen sujetos obligados y finalidades inmediatas diferentes, pero s\u00ed existe una tensi\u00f3n conceptual que merece mucho m\u00e1s examen del que ha recibido: el Reglamento acepta que la responsabilidad humana puede desplazar jur\u00eddicamente la relevancia de la intervenci\u00f3n de la IA y, simult\u00e1neamente, establece una infraestructura destinada a que esa intervenci\u00f3n contin\u00fae siendo detectable.<\/p>\n

Deepfake audiovisual y texto: \u00bfel mismo riesgo?<\/h2>\n

El problema se aprecia con claridad si se compara un deepfake audiovisual con un texto. Una imagen hiperrealista puede mostrar a una persona cometiendo un delito que jam\u00e1s cometi\u00f3. Una grabaci\u00f3n sint\u00e9tica puede reproducir la voz de un ministro anunciando una decisi\u00f3n inexistente. Un v\u00eddeo puede situar a un candidato electoral en una reuni\u00f3n que nunca se celebr\u00f3. En todos esos supuestos la artificialidad del contenido forma parte del mecanismo mismo del enga\u00f1o, porque se pretende sustituir una realidad perceptible por otra que nunca existi\u00f3. Saber que la imagen, la voz o el v\u00eddeo fueron generados artificialmente aporta una informaci\u00f3n directamente relacionada con su autenticidad.<\/p>\n

No ocurre necesariamente lo mismo con el texto. Que una afirmaci\u00f3n haya sido formulada con ayuda de un modelo ling\u00fc\u00edstico no determina su verdad ni su falsedad. Tampoco determina su calidad, su originalidad jur\u00eddica, su rigor cient\u00edfico o la existencia de una persona responsable de su contenido. Un dato falso sigue siendo falso aunque haya sido escrito desde el principio hasta el final por un ser humano. Una informaci\u00f3n verdadera no se convierte en dudosa porque un sistema de inteligencia artificial haya contribuido a localizarla o redactarla. Una sentencia inexistente citada por un abogado constituye un problema profesional grav\u00edsimo, pero lo constituye porque la resoluci\u00f3n no existe y porque el abogado incumpli\u00f3 su obligaci\u00f3n de comprobaci\u00f3n, no porque utilizara una determinada herramienta para preparar su escrito.<\/p>\n

Una obligaci\u00f3n sobreinclusiva para el contenido textual<\/h2>\n

Aqu\u00ed aparece el primer defecto de construcci\u00f3n del art\u00edculo 50.2: toma como categor\u00eda regulatoria principal la procedencia tecnol\u00f3gica cuando, trat\u00e1ndose del texto, el riesgo jur\u00eddicamente relevante se encuentra con mucha frecuencia en otra parte. Lo determinante puede ser la falsedad, la manipulaci\u00f3n, el plagio, la infracci\u00f3n de derechos, la ausencia de diligencia profesional, el fraude o la falta de responsabilidad sobre lo publicado. La generaci\u00f3n mediante inteligencia artificial puede aumentar algunos de esos riesgos, especialmente por su capacidad de producci\u00f3n masiva, pero no constituye por s\u00ed misma ninguno de ellos.<\/p>\n

No es una diferencia menor. Una regulaci\u00f3n genuinamente basada en el riesgo deber\u00eda preguntarse qu\u00e9 peligro trata de evitar, con qu\u00e9 intensidad se presenta y qu\u00e9 conexi\u00f3n causal existe entre la medida impuesta y ese peligro. El art\u00edculo 50.2 procede de forma inversa respecto del texto: identifica primero una tecnolog\u00eda, atribuye relevancia jur\u00eddica a su utilizaci\u00f3n y exige despu\u00e9s una marca de procedencia pr\u00e1cticamente con independencia del contexto posterior en el que el contenido vaya a utilizarse. El resultado es una obligaci\u00f3n estructuralmente sobreinclusiva. Alcanzar\u00e1 contenidos destinados a la desinformaci\u00f3n, pero alcanzar\u00e1 tambi\u00e9n informes profesionales, borradores contractuales, trabajos acad\u00e9micos, an\u00e1lisis econ\u00f3micos, textos literarios, correspondencia privada y cualquier otra producci\u00f3n textual que haya sido generada sustancialmente mediante uno de estos sistemas y no quede comprendida en las excepciones del propio precepto.<\/p>\n

Que la obligaci\u00f3n recaiga formalmente sobre el proveedor no elimina el problema. El proveedor introduce la marca, pero quien soporta sus consecuencias comunicativas es tambi\u00e9n quien utiliza la herramienta. La cuesti\u00f3n jur\u00eddica no consiste \u00fanicamente en determinar qui\u00e9n debe implementar t\u00e9cnicamente el mecanismo, sino qu\u00e9 efecto produce ese mecanismo sobre el producto intelectual y sobre la persona que posteriormente lo adopta como propio.<\/p>\n

El principio de proporcionalidad frente al art\u00edculo 50.2<\/h2>\n

El principio de proporcionalidad ofrece aqu\u00ed un terreno de discusi\u00f3n mucho m\u00e1s s\u00f3lido que una impugnaci\u00f3n gen\u00e9rica de la competencia de la Uni\u00f3n. El art\u00edculo 5.4 del Tratado de la Uni\u00f3n Europea (TUE) establece que el contenido y la forma de la acci\u00f3n de la Uni\u00f3n no exceder\u00e1n de lo necesario para alcanzar los objetivos de los Tratados. Cuando adem\u00e1s la actuaci\u00f3n incide sobre derechos reconocidos por la Carta de los Derechos Fundamentales de la Uni\u00f3n Europea (CDFUE), su art\u00edculo 52.1 exige que cualquier limitaci\u00f3n respete su contenido esencial y sea necesaria y proporcionada al objetivo leg\u00edtimo perseguido.<\/p>\n

Nadie discute seriamente que combatir la desinformaci\u00f3n, el fraude, la suplantaci\u00f3n y la manipulaci\u00f3n constituye un objetivo leg\u00edtimo. El considerando 133 del AI Act lo expresa con claridad al vincular estas obligaciones con los riesgos que el contenido sint\u00e9tico plantea para la integridad del ecosistema informativo. Precisamente por eso el problema no se encuentra en la legitimidad del objetivo, sino en la extensi\u00f3n de la medida escogida para alcanzarlo. El propio considerando agrupa bajo una misma l\u00f3gica la necesidad de rastrear contenidos cuya capacidad de enga\u00f1o es extraordinariamente dispar.<\/p>\n

El margen del legislador y la sentencia Philip Morris<\/h3>\n

El control jurisdiccional de una opci\u00f3n legislativa de esta naturaleza no ser\u00eda sencillo. El Tribunal de Justicia reconoce al legislador de la Uni\u00f3n un margen de apreciaci\u00f3n amplio cuando debe adoptar decisiones complejas de car\u00e1cter pol\u00edtico, econ\u00f3mico o t\u00e9cnico. La jurisprudencia sobre proporcionalidad y margen de apreciaci\u00f3n del legislador de la Uni\u00f3n y, de forma especialmente relevante, la sentencia del Tribunal de Justicia de la Uni\u00f3n Europea de 4 de mayo de 2016, Philip Morris Brands SARL y otros contra Secretary of State for Health, asunto C-547\/14, ECLI:EU:C:2016:325, demuestra que no basta con acreditar que otra soluci\u00f3n hubiera sido posible o incluso preferible. Para declarar inv\u00e1lida una medida legislativa por desproporci\u00f3n ser\u00e1 normalmente necesario demostrar que el legislador ha excedido los l\u00edmites de su margen de apreciaci\u00f3n.<\/p>\n

Pero ese margen no equivale a inmunidad. Tampoco impide preguntarse si la inclusi\u00f3n generalizada del texto en el art\u00edculo 50.2 responde verdaderamente al riesgo que el Reglamento pretende neutralizar. La comparaci\u00f3n con la sentencia Philip Morris, lejos de cerrar el debate, permite formularlo con mayor precisi\u00f3n. All\u00ed el Tribunal admiti\u00f3 restricciones sobre la presentaci\u00f3n de productos cuya propia comercializaci\u00f3n se encontraba asociada a un riesgo sanitario acreditado y respecto de un \u00e1mbito material muy determinado. La inteligencia artificial generativa no constituye por s\u00ed misma un producto nocivo ni el texto asistido por ella posee una peligrosidad inherente equivalente. Nos encontramos ante una tecnolog\u00eda de uso general capaz de participar en pr\u00e1cticamente cualquier actividad intelectual. Cuanto m\u00e1s transversal es la herramienta y m\u00e1s heterog\u00e9neos son sus usos, mayor importancia adquiere justificar por qu\u00e9 todos ellos deben quedar sometidos a una misma huella de procedencia.<\/p>\n

Revisi\u00f3n humana y autor\u00eda h\u00edbrida del texto<\/h2>\n

El propio art\u00edculo 50.4 proporciona, adem\u00e1s, una alternativa conceptual que debi\u00f3 ser explorada con mayor profundidad en el apartado segundo. Para determinadas publicaciones textuales de inter\u00e9s p\u00fablico, el Reglamento considera suficiente la existencia de revisi\u00f3n humana o control editorial y de una persona f\u00edsica o jur\u00eddica que asuma la responsabilidad. La Comisi\u00f3n ha interpretado esa revisi\u00f3n en t\u00e9rminos exigentes: no basta una correcci\u00f3n ortogr\u00e1fica o formal, sino que debe existir un examen sustantivo realizado por personas con conocimiento y juicio profesional, incluyendo la posibilidad de comprobar hechos y verificar la fiabilidad de las fuentes.<\/p>\n

Si ese control humano permite prescindir de la divulgaci\u00f3n p\u00fablica de la intervenci\u00f3n de una IA, cuesta entender por qu\u00e9 el ordenamiento no contempla un mecanismo equivalente respecto de la posibilidad de que la marca t\u00e9cnica siga permitiendo detectar la procedencia artificial cuando el texto ha experimentado una verdadera apropiaci\u00f3n intelectual humana. No se tratar\u00eda de permitir que cualquiera eliminara libremente la trazabilidad de un contenido para enga\u00f1ar a terceros. Se tratar\u00eda de reconocer jur\u00eddicamente que un producto intelectual puede cambiar de naturaleza a medida que atraviesa distintas fases de elaboraci\u00f3n y que la procedencia de una versi\u00f3n inicial no tiene necesariamente que definir para siempre la condici\u00f3n de la versi\u00f3n final.<\/p>\n

Ese es, probablemente, el aspecto m\u00e1s problem\u00e1tico de la regulaci\u00f3n. La inteligencia artificial obliga a abandonar una concepci\u00f3n binaria de la autor\u00eda que ya no describe adecuadamente la realidad. Entre un texto \u00edntegramente escrito sin asistencia tecnol\u00f3gica y otro generado autom\u00e1ticamente mediante una instrucci\u00f3n m\u00ednima existe un campo inmenso de producci\u00f3n h\u00edbrida. Un profesional puede aportar la tesis, la documentaci\u00f3n, la metodolog\u00eda, la selecci\u00f3n de fuentes y la conclusi\u00f3n; utilizar despu\u00e9s una IA para contrastar hip\u00f3tesis, reorganizar argumentos o producir sucesivas versiones; rechazar buena parte del resultado; modificar otra; verificar todas las referencias; introducir razonamientos nuevos y asumir finalmente como propio el texto resultante. Reducir ese proceso a la etiqueta conceptual de \u201ccontenido generado por IA\u201d proporciona muy poca informaci\u00f3n sobre d\u00f3nde se encuentra realmente la aportaci\u00f3n intelectual.<\/p>\n

Procedencia, autor\u00eda y responsabilidad son categor\u00edas distintas. El art\u00edculo 50.2 regula la primera. El riesgo aparece cuando la infraestructura creada para identificar procedencia termina siendo utilizada social o institucionalmente como una presunci\u00f3n sobre las otras dos.<\/p>\n

El riesgo de estigmatizar a quien usa IA<\/h2>\n

Ese riesgo ya no es te\u00f3rico. Se est\u00e1 extendiendo una forma particularmente pobre de valorar el trabajo intelectual conforme a la cual detectar la presencia de inteligencia artificial parece suficiente para disminuir el valor de un texto. Importa menos comprobar el razonamiento que descubrir c\u00f3mo fue redactado; interesa menos saber si las fuentes son correctas que determinar si existe una se\u00f1al estad\u00edstica de generaci\u00f3n autom\u00e1tica. El debate deja entonces de girar alrededor de la calidad del conocimiento y comienza a girar alrededor de una suerte de pureza tecnol\u00f3gica de su proceso de elaboraci\u00f3n.<\/p>\n

El Derecho deber\u00eda ser especialmente cuidadoso antes de contribuir a esa transformaci\u00f3n cultural. Una obligaci\u00f3n creada con la finalidad leg\u00edtima de garantizar transparencia puede terminar proporcionando la infraestructura para una estigmatizaci\u00f3n regulatoria de quienes utilizan intensamente herramientas de inteligencia artificial. No hace falta prohibir su uso para producir ese efecto. Basta con convertir su utilizaci\u00f3n en una circunstancia que debe poder ser descubierta posteriormente y permitir que universidades, empresas, administraciones, tribunales o medios de comunicaci\u00f3n le atribuyan un significado que el propio dato de procedencia no puede justificar.<\/p>\n

La experiencia del Derecho ofrece un buen contraste. Los juristas llevan siglos construyendo argumentos sobre materiales ajenos. Utilizan formularios, tratados, repertorios de jurisprudencia, modelos contractuales, informes de colaboradores, bases de datos y textos procedentes de resoluciones anteriores. Los tribunales reproducen doctrina y jurisprudencia precedente, en ocasiones extensamente. Ninguna de esas pr\u00e1cticas determina por s\u00ed sola la calidad del resultado. La deficiencia aparece cuando el material utilizado es incorrecto, no guarda relaci\u00f3n con el supuesto, se incorpora sin examen cr\u00edtico o conduce a una motivaci\u00f3n aparente. El juicio jur\u00eddico recae sobre la pertinencia y sobre la responsabilidad intelectual de quien adopta el resultado, no sobre la circunstancia de que cada frase haya surgido originalmente de su propia mecanograf\u00eda.<\/p>\n

La llegada de la inteligencia artificial aumenta la capacidad de delegaci\u00f3n y exige, por supuesto, elevar los est\u00e1ndares de comprobaci\u00f3n. Precisamente porque una IA puede producir con enorme fluidez una cita inexistente o un argumento solo aparentemente convincente, el profesional que la utiliza tiene una obligaci\u00f3n reforzada de verificar aquello que hace suyo. Esa obligaci\u00f3n es perfectamente compatible con rechazar la idea de que el uso de inteligencia artificial disminuye por s\u00ed mismo la autor\u00eda o el valor intelectual del resultado. Son cuestiones diferentes y mezclarlas conduce a una regulaci\u00f3n conceptualmente defectuosa.<\/p>\n

\u00bfAfecta la marca de agua a la libertad de expresi\u00f3n?<\/h2>\n

Tambi\u00e9n existe una dimensi\u00f3n vinculada con la libertad de expresi\u00f3n reconocida en el art\u00edculo 11 de la Carta de los Derechos Fundamentales de la Uni\u00f3n Europea (CDFUE). Conviene ser jur\u00eddicamente prudentes. Una marca t\u00e9cnica de procedencia no es exactamente el supuesto cl\u00e1sico de expresi\u00f3n forzada y no existe, a d\u00eda de hoy, una jurisprudencia del Tribunal de Justicia que haya declarado que el art\u00edculo 50.2 constituye por ese solo motivo una vulneraci\u00f3n de la libertad de expresi\u00f3n. Ser\u00eda impropio afirmarlo. Pero ser\u00eda igualmente impropio sostener que no existe ninguna cuesti\u00f3n constitucional porque la marca no sea visible. El art\u00edculo 11 protege el proceso de comunicar y recibir informaciones e ideas, y el art\u00edculo 52.1 obliga a examinar las injerencias p\u00fablicas en ese proceso conforme a proporcionalidad. Cuando la ley impone que el resultado generado incorpore una caracter\u00edstica t\u00e9cnica destinada a permitir a terceros detectar su procedencia artificial, existe al menos una incidencia sobre la arquitectura de esa comunicaci\u00f3n que merece control jur\u00eddico.<\/p>\n

La cuesti\u00f3n puede formularse sin grandilocuencia. Si una persona revisa de manera sustantiva un texto, comprueba todas sus fuentes, modifica cuanto considera necesario y asume plenamente su contenido, \u00bfqu\u00e9 inter\u00e9s p\u00fablico exige que un tercero pueda seguir conociendo que una fase anterior de su elaboraci\u00f3n estuvo asistida por inteligencia artificial? Si la respuesta es evitar que el receptor crea que el texto fue producido sin IA, todav\u00eda falta demostrar por qu\u00e9 esa circunstancia resulta jur\u00eddicamente relevante en todos los contextos y por qu\u00e9 la responsabilidad asumida por el autor no constituye una alternativa suficientemente eficaz. La transparencia no es un valor absoluto separado de su finalidad. Transparentar un dato que carece de relevancia sustantiva puede terminar produciendo m\u00e1s distorsi\u00f3n que informaci\u00f3n.<\/p>\n

Igualdad de trato entre audio, imagen, v\u00eddeo y texto<\/h2>\n

El principio de igualdad del art\u00edculo 20 de la Carta a\u00f1ade un argumento complementario, aunque no lo considero el principal. La jurisprudencia europea exige tratar de forma equivalente las situaciones comparables y admite que situaciones diferentes puedan requerir tratamientos diferentes. La inclusi\u00f3n conjunta de audio, imagen, v\u00eddeo y texto no es autom\u00e1ticamente contraria a ese principio; el legislador puede establecer categor\u00edas generales. Sin embargo, cuando la diferencia entre los riesgos es tan acusada, esa homogeneizaci\u00f3n refuerza la necesidad de una justificaci\u00f3n objetiva y proporcionada. Un deepfake sexual, la imitaci\u00f3n de la voz de un jefe de Estado y un informe jur\u00eddico elaborado con asistencia de una IA son productos sint\u00e9ticos en un sentido tecnol\u00f3gico, pero solo una regulaci\u00f3n excesivamente abstracta puede considerar que esa caracter\u00edstica com\u00fan agota el an\u00e1lisis jur\u00eddico relevante.<\/p>\n

\u00bfPueden las directrices de la Comisi\u00f3n corregir la norma?<\/h2>\n

La propia Comisi\u00f3n Europea parece advertir parcialmente la dificultad cuando insiste en que las soluciones t\u00e9cnicas deben atender a las particularidades y limitaciones de cada modalidad de contenido. El Reglamento contiene esa exigencia y las Directrices de la Comisi\u00f3n Europea de 20 de julio de 2026 sobre las obligaciones de transparencia de los proveedores y responsables del despliegue de sistemas de IA conforme al art\u00edculo 50 del AI Act pretenden orientar una aplicaci\u00f3n coherente y proporcionada, introduciendo adem\u00e1s modulaciones para determinados supuestos de intercambio m\u00e1quina a m\u00e1quina y entornos industriales o de desarrollo de producto en circuito cerrado. El C\u00f3digo de Buenas Pr\u00e1cticas sobre Transparencia de Contenidos Generados por IA (Code of Practice on Transparency of AI-Generated Content), adem\u00e1s, es voluntario y pretende facilitar el cumplimiento del art\u00edculo 50. .<\/p>\n

Pero ni unas directrices interpretativas ni un c\u00f3digo voluntario pueden corregir una eventual desproporci\u00f3n situada en la propia norma legislativa. Pueden acotar conceptos, orientar a los supervisores y evitar determinadas aplicaciones absurdas, pero no pueden introducir una excepci\u00f3n que el art\u00edculo 50.2 no contiene ni sustituir la decisi\u00f3n pol\u00edtica tomada por el Parlamento y el Consejo. Este punto resulta particularmente importante porque existe el riesgo de que el debate regulatorio se desplace silenciosamente desde lo aprobado por el legislador hacia los criterios t\u00e9cnicos elaborados despu\u00e9s por la Comisi\u00f3n, los organismos de normalizaci\u00f3n y las propias empresas. La flexibilidad t\u00e9cnica es necesaria, pero la definici\u00f3n de los l\u00edmites de una restricci\u00f3n de esta naturaleza no puede abandonarse indefinidamente a instrumentos de soft law.<\/p>\n

Tampoco conviene confundir lo que ordena Europa con las decisiones de cumplimiento que adopta cada compa\u00f1\u00eda. Que un proveedor aplique mundialmente un determinado sistema de watermarking o decida construir su arquitectura con mayor amplitud que la estrictamente necesaria para el mercado europeo puede responder a razones t\u00e9cnicas, comerciales o de simplificaci\u00f3n operativa. Esa decisi\u00f3n empresarial podr\u00e1 ser criticable por sus propios motivos, pero no altera el n\u00facleo de la cuesti\u00f3n: es el art\u00edculo 50.2 el que ha convertido la marcaci\u00f3n del contenido textual generado por IA en una obligaci\u00f3n jur\u00eddica europea. La eventual sobrerreacci\u00f3n de una empresa no elimina la necesidad de examinar si el mandato que la provoca est\u00e1 bien calibrado.<\/p>\n

Una alternativa: graduar la trazabilidad del texto<\/h2>\n

La alternativa regulatoria tampoco exige desmontar la transparencia. Bastar\u00eda con distinguir mejor. El proveedor podr\u00eda estar obligado a introducir inicialmente mecanismos de procedencia en aquellos outputs que entren en el \u00e1mbito del art\u00edculo 50.2, pero el ordenamiento podr\u00eda reconocer una v\u00eda jur\u00eddicamente regulada para que, tras una intervenci\u00f3n humana sustantiva y una asunci\u00f3n inequ\u00edvoca de responsabilidad editorial o profesional, la procedencia artificial dejara de operar necesariamente como una caracter\u00edstica t\u00e9cnica relevante de la versi\u00f3n final. La trazabilidad obligatoria podr\u00eda mantenerse \u00edntegramente en aquellos contenidos cuya artificialidad afecta directamente a su autenticidad, especialmente en supuestos de suplantaci\u00f3n audiovisual, y graduarse en el \u00e1mbito textual conforme a la naturaleza del uso y al grado de intervenci\u00f3n humana.<\/p>\n

Esa soluci\u00f3n tampoco tendr\u00eda que descansar en una simple declaraci\u00f3n del usuario. Podr\u00edan establecerse est\u00e1ndares de revisi\u00f3n, sistemas de certificaci\u00f3n profesional o mecanismos t\u00e9cnicos capaces de sustituir una marca de generaci\u00f3n artificial por una declaraci\u00f3n de responsabilidad humana sobre la versi\u00f3n final. Lo importante no es dise\u00f1ar ahora una tecnolog\u00eda concreta, sino reconocer el principio: una sociedad que va a trabajar de forma estructuralmente h\u00edbrida no puede construir su r\u00e9gimen de autor\u00eda alrededor de la ficci\u00f3n de que todo contenido pertenece para siempre a la m\u00e1quina o al ser humano seg\u00fan qui\u00e9n produjo sus primeras palabras.<\/p>\n

\u00bfC\u00f3mo podr\u00eda impugnarse el art\u00edculo 50.2?<\/h2>\n

Desde el punto de vista procesal, hablar de extralimitaci\u00f3n exige tambi\u00e9n precisi\u00f3n. El argumento m\u00e1s d\u00e9bil ser\u00eda sostener sin m\u00e1s que la Uni\u00f3n carec\u00eda de competencia para regular esta materia. El AI Act se apoya, entre otras bases, en el art\u00edculo 114 del Tratado de Funcionamiento de la Uni\u00f3n Europea (TFUE) y la jurisprudencia concede un margen importante a la armonizaci\u00f3n cuando existen o pueden surgir divergencias nacionales capaces de afectar al mercado interior. El verdadero debate no est\u00e1 tanto en si la Uni\u00f3n pod\u00eda intervenir como en hasta d\u00f3nde pod\u00eda llegar al hacerlo.<\/p>\n

La posible invalidez del art\u00edculo 50.2 tampoco puede plantearse hoy como si cualquier usuario pudiera acudir directamente al Tribunal de Justicia para solicitar su anulaci\u00f3n. Nos encontramos ante un acto legislativo y el r\u00e9gimen de legitimaci\u00f3n del art\u00edculo 263 TFUE es restrictivo. La sentencia del Tribunal de Justicia de 3 de octubre de 2013, Inuit Tapiriit Kanatami y otros contra Parlamento y Consejo, asunto C-583\/11 P, ECLI:EU:C:2013:625, confirm\u00f3 que la noci\u00f3n de \u00abacto reglamentario\u00bb del art\u00edculo 263, p\u00e1rrafo cuarto, TFUE no comprende los actos legislativos. A ello se a\u00f1ade que ha transcurrido el plazo ordinario de impugnaci\u00f3n directa del Reglamento. La v\u00eda jur\u00eddicamente m\u00e1s realista aparecer\u00eda cuando una medida nacional o europea de aplicaci\u00f3n, supervisi\u00f3n o sanci\u00f3n hiciera operativo el precepto en un conflicto concreto. En ese contexto podr\u00eda suscitarse ante el juez competente una cuesti\u00f3n sobre la validez de la norma europea y, en su caso, provocar una cuesti\u00f3n prejudicial ante el Tribunal de Justicia conforme al art\u00edculo 267 TFUE. La doctrina establecida por la sentencia del Tribunal de Justicia de 22 de octubre de 1987, Foto-Frost contra Hauptzollamt L\u00fcbeck-Ost, asunto 314\/85, ECLI:EU:C:1987:452, reserva precisamente al Tribunal de Justicia la declaraci\u00f3n de invalidez de los actos de las instituciones de la Uni\u00f3n.<\/p>\n

La impugnaci\u00f3n tendr\u00eda que construirse con bastante m\u00e1s rigor que una acusaci\u00f3n pol\u00edtica de exceso regulatorio. Habr\u00eda que demostrar que, respecto del contenido textual, la obligaci\u00f3n general de marcaci\u00f3n no guarda una relaci\u00f3n suficientemente estrecha con los riesgos invocados, que existen alternativas menos restrictivas capaces de alcanzar un nivel equivalente de protecci\u00f3n y que la regulaci\u00f3n produce efectos relevantes sobre derechos o intereses jur\u00eddicamente protegidos que no fueron adecuadamente ponderados. El art\u00edculo 5.4 TUE, los art\u00edculos 11 y 20 CDFUE y el art\u00edculo 52.1 de la propia Carta proporcionar\u00edan el marco de an\u00e1lisis, pero el \u00e9xito depender\u00eda de probar la desproporci\u00f3n concreta y no de invocar esos preceptos como f\u00f3rmulas ret\u00f3ricas.<\/p>\n

Antes del litigio: una interpretaci\u00f3n proporcionada<\/h3>\n

Existe adem\u00e1s un camino anterior a cualquier litigio sobre validez: exigir una interpretaci\u00f3n proporcionada, teleol\u00f3gica y conforme con los derechos fundamentales de las expresiones que delimitan el art\u00edculo 50.2. Conceptos como \u201cfunci\u00f3n de apoyo a la edici\u00f3n est\u00e1ndar\u201d o alteraci\u00f3n sustancial de la sem\u00e1ntica no deber\u00edan convertirse en excepciones testimoniales interpretadas siempre a favor de la m\u00e1xima trazabilidad. Si el Reglamento pretende realmente mantener un enfoque basado en riesgos, esos conceptos deben servir para impedir que la simple asistencia tecnol\u00f3gica convierta autom\u00e1ticamente un texto humano en contenido artificial sujeto a un mecanismo t\u00e9cnico de detectabilidad de su procedencia.<\/p>\n

Regular el perjuicio, no el proceso intelectual<\/h2>\n

El debate de fondo, sin embargo, supera el alcance de una disposici\u00f3n concreta. Europa corre el riesgo de institucionalizar una sospecha equivocada precisamente en el momento en que la inteligencia artificial est\u00e1 convirti\u00e9ndose en una herramienta ordinaria del trabajo intelectual. Si dentro de pocos a\u00f1os pr\u00e1cticamente todos los profesionales utilizan sistemas generativos para buscar, contrastar, organizar, traducir, programar o redactar, continuar dividiendo la producci\u00f3n intelectual entre contenidos humanos y contenidos de IA ser\u00e1 tan poco informativo como preguntar hoy si un contrato fue escrito en un procesador de textos o a mano. Lo decisivo seguir\u00e1 siendo qui\u00e9n lo asume y qui\u00e9n responde por \u00e9l.<\/p>\n

Si un abogado firma un escrito, responde por sus argumentos y por sus citas. Si un investigador publica un trabajo, responde por sus datos y por su metodolog\u00eda. Si un periodista difunde una informaci\u00f3n, responde conforme a las reglas de su profesi\u00f3n y del ordenamiento jur\u00eddico. La inteligencia artificial puede intervenir en cada uno de esos procesos y esa intervenci\u00f3n podr\u00e1 ser relevante en determinados contextos, pero no deber\u00eda funcionar como una presunci\u00f3n de menor valor intelectual ni como un indicio aut\u00f3nomo de irregularidad.<\/p>\n

La Uni\u00f3n Europea tiene raz\u00f3n al afrontar los riesgos de los deepfakes, de la suplantaci\u00f3n y de la producci\u00f3n automatizada de desinformaci\u00f3n. Tiene incluso razones atendibles para construir est\u00e1ndares t\u00e9cnicos de procedencia. Lo que no deber\u00eda aceptarse sin discusi\u00f3n es el salto l\u00f3gico que lleva desde esos objetivos leg\u00edtimos hasta una trazabilidad general del texto cuyo fundamento real termina siendo el mero hecho de haber sido producido con una determinada tecnolog\u00eda.<\/p>\n

El Derecho no debe proteger una supuesta pureza humana de la escritura. Debe proteger a las personas frente al enga\u00f1o, exigir responsabilidad a quien causa un da\u00f1o y establecer garant\u00edas all\u00ed donde exista un riesgo real. Cuando convierte la herramienta utilizada para pensar o redactar en objeto aut\u00f3nomo de sospecha, deja de regular el perjuicio y empieza a regular el proceso intelectual.<\/p>\n

Ese es el punto en el que el art\u00edculo 50.2 merece ser cuestionado. No porque la inteligencia artificial deba quedar fuera del Derecho, sino precisamente porque una regulaci\u00f3n tecnol\u00f3gicamente madura deber\u00eda ser capaz de distinguir entre falsificar la realidad y utilizar una m\u00e1quina para trabajar sobre ella. La diferencia es demasiado importante para esconderla dentro de un watermark.<\/p>\n","protected":false},"excerpt":{"rendered":"

El art\u00edculo 50.2 del Reglamento de Inteligencia Artificial y la trazabilidad del texto Antonio Tejeda Encinas Doctor en Derecho de la Uni\u00f3n Europea | Presidente del Euro-American Committee of Digital Law \u2013 CEA Digital Law La Uni\u00f3n Europea ha construido buena parte del Reglamento (UE) 2024\/1689, de 13 de junio de 2024, por el que […]<\/p>\n","protected":false},"author":2,"featured_media":123824,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"wds_primary_category":0,"wds_primary_cea_women":0,"footnotes":""},"categories":[1084],"tags":[],"cea_women":[],"class_list":["post-123829","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial"],"acf":[],"_links":{"self":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts\/123829","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/comments?post=123829"}],"version-history":[{"count":0,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts\/123829\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/media\/123824"}],"wp:attachment":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/media?parent=123829"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/categories?post=123829"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/tags?post=123829"},{"taxonomy":"cea_women","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/cea_women?post=123829"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}