El texto armado con IA tendrá marca de agua

Anthropic, la empresa creadora del modelo de inteligencia artificial Claude, ha anunciado que los textos generados por cualquier modelo lanzado a partir del 2 de agosto incluirán una marca de agua invisible que indica que el resultado fue escrito por IA. Asimismo, las imágenes generadas por Claude incluirán, en la mayoría de los casos, metadatos con una firma digital que demuestra que el modelo procesó el archivo.

Las marcas de agua basadas en texto utilizan un algoritmo para ajustar la forma en que un modelo de IA selecciona su redacción. Al aplicarse a un fragmento de texto, este proceso deja una huella estadísticamente observable en el resultado. Anthropic, con sede en San Francisco, California, afirma que su marca de agua no alterará el significado, la calidad ni la legibilidad de la respuesta de Claude, y que la marca podría persistir incluso después de algunas ediciones.

Esta medida responde a la Ley de IA de la UE, adoptada formalmente en 2024. Desde el 2 de agosto de este año, los proveedores de modelos de IA de vanguardia deben garantizar que los resultados generados por la IA sean detectables, o se enfrentarán a multas de hasta 15 millones de euros (unos 17 millones de dólares) o el 3 % de su facturación anual global. Los modelos lanzados después del 2 de agosto deberán cumplir los requisitos de inmediato, mientras que las versiones que ya están en el mercado tienen hasta el 2 de diciembre para hacerlo. Anthropic afirma que se aplicarán marcas de agua a los resultados de Claude en todo el mundo.

La presencia de la marca de agua revela poco sobre cómo se utilizó el modelo. Según Anthropic, detectarla «sugiere» que el contenido se creó con Claude, pero no es concluyente: el modelo podría haberse utilizado simplemente para resumir o traducir una idea humana original, por ejemplo. Del mismo modo, la ausencia de una marca de agua no significa que el texto no haya sido generado por IA. Dado que las marcas de agua se basan en patrones de cambios sutiles en la elección de palabras del modelo, los pasajes muy cortos, parafraseados o reescritos podrían dejar de contener la marca.

El impacto que estas marcas de agua tendrán en la integridad académica aún no está claro. Dado que las marcas de agua se pueden eliminar fácilmente del texto —por ejemplo, utilizando otro modelo—, es poco probable que impidan que personas con malas intenciones utilicen la IA para producir trabajos falsos o de baja calidad , lo que se conoce como "materia basura generada por IA" , afirma Reese Richardson, metacientífico de la Universidad Northwestern en Evanston, Illinois.

Pero si las empresas de IA crean herramientas que permitan a otros comprobar la marca de agua —como ha dicho Anthropic que hará— y si estas herramientas tienen una tasa aceptablemente baja de falsos positivos, se podrían detectar algunos usos ilegítimos de la IA, afirma el científico informático Nihar Shah, que estudia la evaluación de la ciencia en la Universidad Carnegie Mellon de Pittsburgh, Pensilvania.

Las marcas de agua podrían, por ejemplo, ayudar a los editores de revistas o a los organizadores de conferencias a aplicar políticas estrictas de "no IA" en las revisiones por pares, como hizo la Conferencia Internacional sobre Aprendizaje Automático (ICML) 2026 en una de sus dos posibles modalidades de revisión. Los organizadores del evento de julio añadieron una marca de agua a los artículos distribuidos para revisión por pares que generaba un texto revelador cuando se utilizaba IA en los informes de revisión. Detectaron a 506 revisores que infringieron la política de no IA. "Esta experiencia sugiere que, si bien algunos usos ilegítimos de la IA pueden realizarse con cuidado para evitar la detección, muchos otros simplemente copian y pegan los resultados de la IA", afirma Shah, responsable del proceso de marcas de agua de la ICML.