OpenAI empezará a añadir en las próximas semanas una marca de agua invisible, llamada textGrain, a los textos que generen ChatGPT y Codex en la Unión Europea. La técnica no añade nada visible: altera ligeramente la elección de palabras del modelo para dejar un patrón estadístico que después puede detectarse. Con ello, la compañía busca cumplir las obligaciones de transparencia que impone la normativa europea sobre los contenidos generados por IA. Fuera de la UE no será la opción por defecto: los desarrolladores que usan la API pueden activarla de forma voluntaria. La herramienta tiene límites importantes, y OpenAI los reconoce. Editar el texto debilita la marca: en sus pruebas, cambiar el 10 % de las palabras por sinónimos bajó la detección del 92 % al 66 %, y cambiar el 25 %, al 17 %. Los textos cortos y los de temas como las matemáticas son más difíciles de detectar. Y, sobre todo, detectar la marca no revela quién generó el texto ni prueba que sea correcto, y no encontrarla tampoco demuestra que lo haya escrito una persona. Por ahora, el detector solo está disponible para investigadores y organizaciones aprobados. Qué falta por saber: cómo se usará en universidades, empresas y procesos de selección, y qué garantías tendrá quien sea señalado por error.
textGrain: OpenAI marcará con agua invisible los textos de ChatGPT y Codex en la UE

Imagen ilustrativa: NODO · Identidad del sitio
Fuente principal:
NODO · Redacción →
NODO · Redacción →