OpenAI está implementando una nueva tecnología llamada textGrain que inserta una marca de agua estadística invisible en los textos generados por ChatGPT en la Unión Europea. A diferencia de una marca visible o caracteres ocultos, esta técnica funciona mediante patrones en la elección de palabras que solo detectan las herramientas especializadas.
Índice
Qué es textGrain y cómo funciona
La marca de agua no es un símbolo que veas al leer el texto. En lugar de eso, OpenAI utiliza un enfoque más sofisticado: elige estadísticamente las palabras de manera que introduce un patrón identificable después. Es similar a lo que ya hace Anthropic con sus modelos desde hace poco tiempo.
Cuando ChatGPT genera un texto con textGrain activado, cada palabra se selecciona según criterios probabilísticos que dejan una “huella” única. Alguien que lee el texto normalmente no notará nada diferente. Pero si usas una herramienta de detección configurada para identificar esa huella estadística, podrás confirmar que el contenido proviene de una IA de OpenAI.
El objetivo es cumplir con las regulaciones de transparencia de la UE sobre generación de contenidos con IA. Aunque por ahora la implementación es limitada a Europa, OpenAI permite que cualquier cliente que use su API active esta funcionalidad voluntariamente en otros países.
Limitaciones importantes que no debes ignorar
OpenAI fue honesto en su anuncio: textGrain no es infalible. La detección pierde efectividad si alguien edita el texto después de que ChatGPT lo genera. Si reemplazas el 10% de las palabras por sinónimos, la tasa de detección cae de 92% a 66%. Con el 25% de cambios, cae a apenas 17%.
También importa la longitud del texto. Con 200 tokens, la herramienta de detección identifica correctamente el 80% de los contenidos generados por IA (con una tasa de falsos positivos del 1%). Pero con 400 tokens, esa precisión sube a 95%. Los textos muy cortos casi no contienen suficientes palabras para que el patrón sea detectable.
Hay otro problema crítico: los falsos positivos. La herramienta de detección podría atribuir incorrectamente una huella de IA a textos que fueron escritos completamente por personas. Esto crea un riesgo real de acusaciones injustas.
Qué se pierda en la detección
Incluso cuando textGrain acierta en identificar que algo fue generado por IA, la tecnología tiene límites claros. No puede determinar qué porcentaje del texto vino de la IA y cuánto fue trabajo humano posterior. Tampoco revela quién escribió el prompt, qué conversación tuvo con ChatGPT el usuario, o su información de cuenta.
Por eso OpenAI reconoce que textGrain no es una solución completa. La compañía ya usa otros estándares como C2PA y marcas de agua SynthID para firmar imágenes y audio generados por IA. Para textos, dice OpenAI, textGrain es un primer paso, no la palabra final.
Por qué esto importa ahora
La Unión Europea está presionando a los desarrolladores de IA para que demuestren transparencia. Las regulaciones europeas sobre IA requieren que la gente sepa cuándo está leyendo contenido generado automáticamente. OpenAI y Anthropic responden con estas marcas invisibles antes de que la regulación se endurezca aún más.
El despliegue inicial será en la UE como una prueba en condiciones reales. Si funciona bien, OpenAI probablemente la amplíe a otras regiones. Por ahora, clientes de la API pueden solicitar la función en cualquier lugar donde OpenAI esté presente.
Con información de Xataka.
Imagen: Coolcaesar / Wikimedia Commons (CC BY 4.0)
