La empresa estadounidense Anthropic ha anunciado que todos los modelos lanzados a partir de este mes de agosto incorporarán una marca de agua invisible en los textos generados por la IA. Además, las imágenes creadas por Claude incluirán metadatos con una firma digital que permitirá identificar que han sido procesadas por el modelo.
La decisión responde a las nuevas obligaciones del Reglamento Europeo de Inteligencia Artificial. La AI Act exige que los contenidos generados por los modelos de IA de propósito general sean detectables. Sin embargo, convertir esta obligación en una práctica generalizada plantea un debate de fondo: ¿debería quedar marcado todo contenido elaborado con la ayuda de la inteligencia artificial?
Sobre el papel, la idea parece razonable. Una marca de agua permitiría identificar cuándo un contenido ha sido generado por una IA y aportaría un elemento adicional de transparencia. El problema es que la frontera entre contenido humano y contenido generado por IA es cada vez más fina. Cada vez es más habitual utilizar modelos de lenguaje para corregir un texto, mejorar el estilo, resumir un documento, traducir un artículo, reorganizar ideas o detectar errores.
En estos casos, la inteligencia artificial no sustituye al autor sino que actúa como una herramienta de apoyo, igual que un corrector ortográfico o un traductor automático. Marcar automáticamente estos contenidos como generados por IA transmite la idea de que el resultado tiene un valor menor al no haber sido elaborado de íntegramente por el autor.
Una marca que no demuestra nada y que es fácil de superar
Anthropic reconoce que la presencia de una marca de agua no demuestra cómo se ha utilizado el modelo. Un texto podría aparecer marcado simplemente porque Claude ha corregido la gramática, resumido un informe o traducido un documento originalmente escrito por una persona. Del mismo modo, la ausencia de una marca tampoco demuestra que un contenido sea completamente humano. Basta con reescribir parte del texto o pasarlo por otro modelo para eliminar el patrón estadístico que permite detectar la marca. En otras palabras, la marca de agua no ofrece una prueba concluyente sobre la autoría.
Estas marcas difícilmente impedirán el fraude académico o la generación masiva de contenidos de baja calidad. Quien pretenda ocultar deliberadamente el uso de IA puede eliminar la marca con relativa facilidad utilizando otro modelo para parafrasear el texto. En cambio, quienes emplean la IA de forma transparente y responsable serán precisamente los más expuestos a que su contenido aparezca identificado. El sistema puede terminar penalizando a los usuarios legítimos sin frenar realmente a quienes buscan engañar. Lo que con total seguridad logrará Anthropic con esta medida es que los usuarios emigren a otros sistemas para evitar el marcado de sus contenidos como es el caso de Grok.
El peligro de crear dos categorías de contenido
Una de las consecuencias más graves será convertir la presencia de una marca en un juicio de valor. Existe el riesgo de que un texto marcado sea interpretado automáticamente como un trabajo íntegramente generado por IA, mientras que un documento sin marca pase a considerarse completamente humano. Sin embargo, esa dicotomía resulta cada vez más artificial. La creación de contenidos está evolucionando hacia un modelo híbrido en el que personas e inteligencia artificial colaboran de forma natural.
El verdadero reto no es detectar la IA
El debate no debería centrarse en si un texto ha sido escrito con ayuda de inteligencia artificial, sino en si el contenido es correcto, original, verificable y aporta valor. En investigación, periodismo, educación o empresa, lo importante sigue siendo la responsabilidad del autor. La IA puede ayudar a escribir mejor, más rápido o con mayor claridad, pero la obligación de verificar los datos, asumir las conclusiones y responder por el contenido continúa siendo plenamente humana.
Por ello, una política que aspire a marcar de forma sistemática todo lo generado con IA corre el riesgo de convertirse en un mecanismo más simbólico que efectivo. En lugar de fomentar un uso responsable de esta tecnología, podría contribuir a estigmatizar una herramienta que, utilizada correctamente, ya forma parte del trabajo cotidiano de millones de profesionales. La transparencia es necesaria pero equiparar cualquier intervención de la inteligencia artificial con un contenido que debe quedar permanentemente señalado es un error. El futuro probablemente no pertenezca a los textos escritos por humanos o por máquinas, sino a aquellos creados mediante una colaboración entre ambos.
