Los textos producidos mediante inteligencia artificial podrían ser cada vez más fáciles de identificar. Anthropic, desarrolladora de Claude, avanza en la incorporación de señales de procedencia para cumplir con las nuevas obligaciones europeas sobre transparencia del contenido generado con IA.
La iniciativa apunta a que determinados contenidos puedan conservar información sobre su origen incluso después de ser utilizados fuera de la plataforma. Esto cobra especial relevancia para quienes recurren a herramientas de inteligencia artificial para redactar, editar, traducir o resumir documentos.
El cambio se produce en el marco del Código de Prácticas sobre Transparencia de Contenido Generado por IA de la Unión Europea, que busca que las personas puedan conocer cuándo un contenido fue creado o modificado mediante inteligencia artificial.
Uno de los aspectos que más debate genera es el contenido que no fue creado completamente desde cero por una IA.
Según la información difundida sobre la implementación, un documento podría incorporar señales de procedencia aunque Claude haya sido utilizado únicamente para editar, traducir, resumir o transformar un texto originalmente escrito por una persona.
Esto implica que detectar una señal de IA no necesariamente demostraría que todas las ideas o palabras fueron creadas por el modelo: podría indicar simplemente que una herramienta de inteligencia artificial intervino en alguna etapa del proceso.
¿Se puede eliminar la marca?
La identificación tampoco sería infalible. Ediciones importantes, traducciones posteriores, la combinación del contenido con otros textos o determinadas conversiones podrían dificultar su detección.
Por ese motivo, la ausencia de una señal tampoco permitiría asegurar automáticamente que un contenido nunca pasó por una inteligencia artificial.
OpenAI también avanza con sistemas de procedencia
El movimiento no se limita a Anthropic. OpenAI también respalda el Código europeo y está desarrollando tecnologías para identificar contenido generado mediante sus herramientas.
Sin embargo, hay una precisión importante: actualmente la documentación oficial de OpenAI confirma estas señales para imágenes y audio, no para texto. La compañía utiliza Content Credentials (C2PA) y marcas invisibles SynthID, y dispone de una herramienta pública de verificación para esos formatos.
Por lo tanto, no sería correcto afirmar por ahora que todos los textos escritos con ChatGPT llevan una marca de agua detectable.
La tendencia, de todos modos, marca un cambio importante: a medida que avance la regulación, la procedencia del contenido generado o modificado mediante inteligencia artificial tendrá cada vez mayor relevancia.
