La IA dejará huellas en tus palabras

Dr. Tomás de Camino Beck

Director Sistemas Inteligentes Universidad CENFOTEC

Hace unos días Anthropic, creadores de Claude AI, dijeron que comienzan a dejar “marcas de agua” o “watermarks”, en cualquier texto generado con su plataforma. Estas marcas son señales invisibles, que permanecen incluso al copiar y pegar el texto muchas veces.  Se está haciendo debido a que la legislación de la Unión Europea lo exige, y en general piden que proveedores de IA, hagan que sus resultados estén marcados, y sean detectables como generados o manipulados artificialmente.

Estas marcas de agua lo que hacen es dejar una huella que persiste incluso si el texto es copiado o modificado posteriormente. Aunque no se ha publicado exactamente cómo implementará este mecanismo, es muy probable que utilice algo que se conoce como “marca de agua estadística”, una técnica bastante conocida que aprovecha el hecho de que, cuando una IA escribe, normalmente tiene muchas palabras posibles para continuar una oración, todas razonables, pero favorece ligeramente algunas de ellas siguiendo un patrón que solamente Anthropic conoce. Entonces, en un texto suficientemente extenso, esas pequeñas preferencias se van acumulando y producen una distribución estadística particular, que luego puede ser detectada automáticamente.

Para explicarlo de una manera más sencilla, consideremos el siguiente texto:

“El perro corrió rápidamente hacia la puerta cuando escuchó un ruido.”

Este es un texto normal que escribí yo. Supongamos ahora que una IA expresa la misma idea y, siguiendo el patrón de su marca de agua, escribe:

“El perro avanzó rápidamente hacia la entrada cuando percibió un sonido.”

Noten que ambos textos dicen lo mismo, pero en el segundo aparecen las palabras “avanzó”, “entrada”, “percibió” y “sonido”, seleccionadas entre muchas alternativas posibles porque forman parte de las opciones que el sistema favorece en determinados contextos. Una sola de estas palabras no permitiría concluir absolutamente nada, porque cualquier persona podría utilizarla naturalmente, pero cuando el fenómeno se repite cientos de veces en un texto largo comienza a aparecer un patrón estadístico, y la probabilidad de que ese patrón haya surgido simplemente por casualidad es muy pequeño.

Las marcas no están ocultas dentro del texto como caracteres invisibles, las estamos viendo y leyendo, porque son las propias palabras. Lo que permanece oculto para nosotros es el patrón utilizado para favorecer unas palabras sobre otras, así como la distribución estadística que se esperaría encontrar cuando se analiza un texto generado por Claude. Conociendo ese patrón, Anthropic podría calcular qué tan probable es que determinado texto haya sido producido o procesado por sus modelos.

Por supuesto, una persona podría intentar modificar suficientes palabras para eliminar un patrón, parafrasear o editar a profundidad para debilitar las marcas, pero para un texto largo, habría que modificar una cantidad considerable de palabras para eliminar el patrón. 

Es por esto que la detección tendría que expresarse en términos de probabilidad y confianza, no como una etiqueta absoluta, muy parecida a los detectores actuales, pero más preciso.

Todo esto implica además que Anthropic tiene que ofrecer algún mecanismo de verificación, donde cualquier persona pueda introducir un texto y obtener una estimación de la presencia de la marca de Claude, sin necesidad de conocer el patrón o la clave utilizada para producirla. De esta manera, Anthropic podría mantener en secreto el mecanismo que permite insertar la marca y, al mismo tiempo, permitir que terceros verifiquen su presencia.

Creo que algo que debe quedar claro, es que no prueba que el contenido no fue hecho por una persona, simplemente detecta que fue procesado por IA, que “pasó” por la IA. Esto quiere decir que correcciones de ortografía, gramática, etc. dejaría marcas. Otra cosa, la marca puede identificar intervención de IA, pero no autoría intelectual, mucho menos determina si es un texto que tiene ideas buenas o propone algo de valor. Por otro lado, un texto que pasa la prueba tampoco implica que no “pasó” por la IA. Al final pienso que esto es la misma tontería de miedo a la tecnología… ¿Qué tal si nos concentramos en las cosas que valen?

El escribir se ha convertido en una actividad híbrida entre humanos y máquinas. El texto en lenguaje natural es un medio para expresar tanto belleza como ideas formales. El valor está en lo expresado, no en el texto, ni en lo que el mercado o estado determine. ¿Qué tal si nos concentramos en crear cosas de valor, y no perder el tiempo en definir letras escarlatas?

Ahora está el asunto geopolítico de la IA. Este tipo de marcas, harán que surjan innumerables opciones donde quien decide que es IA o no, somos nosotros mismos, no gobiernos o empresas, esto lo veo positivo, y les apuesto que será de China donde emerja algo superior, basado en uso profundo de IA, no en preocupaciones superficiales.