Según un reporte del Wall Street Journal OpenAI ha desarrollado hace tiempo un sistema de marca de agua que permite identificar los textos creados por ChatGPT con un 99,9% de efectividad. La herramienta ha estado lista desde hace ya más de un año, pero la organización no ha resuelto aún si su distribución sería realmente conveniente.
Método
El sistema de detección comienza con la alteración del funcionamiento de ChatGPT para que deje un patrón, imperceptible para el lector, en los textos generados. Este patrón, conocido como marca de agua, sería fácilmente detectado por un programa dedicado a esta función. El resultado que se ofrece es un porcentaje de posibilidad de que un texto esté escrito utilizando ChatGPT. Puede evaluar textos completos o fragmentos.
Dudas sobre el sistema
El sistema ha sido el objeto de un importante debate interno. Uno de los aspectos en cuestión es la facilidad con la que la marca de agua puede ser eliminada. Al parecer entre las tecnicas conocidas para tal fin aparece usar el traductor de Google para mover el texto a otro idioma y luego regresarlo al original. Otro es pedirle a ChatGPT que agregue emojis y luego eliminarlos de forma manual.
Por otro lado, se apunta que si la herramienta de detección cae en malas manos podría descubrirse como funciona la detección de los patrones. Esto haría que rápidamente el sistema fuera obsoleto. Una opción que se consideró es controlar cuidadosamente el acceso al programa.
Por otro lado la empresa tiene algunas dudas sobre si el sistema de detección podría desalentar el uso de ChatGPT y hacerle perder clientes.
