Con el auge de la IA generativa en los últimos dos años, es normal que la detección de IA se haya convertido en algo esencial. Este tipo de contenido está creando enormes problemas en el mundo académico, pero también se está apoderando de todo el contenido de la web. Incluso hay informes de que gran parte del contenido reciente de Wikipedia está escrito por IA.
Comprender los falsos positivos:
Los falsos positivos se producen cuando una herramienta de detección de IA identifica incorrectamente un texto completamente escrito por un humano como generado por IA. Dada la naturaleza del funcionamiento de estas herramientas, exploraremos algunas razones por las que se producen estos desafortunados sucesos.
Causas de los falsos positivos en los detectores de IA:
Ya hemos explicado cómo funciona la detección de IA en un artículo anterior; la causa principal de los falsos positivos es el hecho de que la detección de IA funciona analizando un texto y devolviendo una probabilidad de que haya sido realizado por un humano o un robot. Dependiendo del grado de entrenamiento que tenga un detector de IA, tendrá mayor precisión a la hora de discernir el texto humano de la IA. Si un texto carece de bustiness y perplejidad, y es extremadamente predecible, puede parecer sospechoso a una herramienta de detección de IA. Sin embargo, los mejores detectores de IA, como Winston AI, han realizado un amplio entrenamiento con estos casos y han mejorado sus modelos para intentar evitar estos desafortunados sucesos.
Un elemento importante de toda herramienta de detección de IA que está en la raíz de cualquier falso positivo: las evaluaciones se basan en probabilidades. En otras palabras, los detectores de IA escanearán tu texto y devolverán una probabilidad de que tu texto esté generado por IA o por humanos. A diferencia de las herramientas de detección de plagio, en las que hay una prueba determinada, las herramientas de detección de IA proporcionarán una evaluación probabilística.
Por las razones antes mencionadas, los educadores que utilicen detectores de IA deben ser cautos a la hora de tomar una evaluación como prueba absoluta de cualquier irregularidad.
Consecuencias de los falsos positivos:
Una de las razones por las que las herramientas de detección de IA han tardado en implantarse en las escuelas es la cantidad de falsos positivos que reporta la nueva función de detección de IA de Turnitin. Como software heredado para detectar el plagio, Turnitin tuvo que lanzar una detección por IA para ayudar a las escuelas a identificar el contenido ChatGPT. Sin embargo, ha habido numerosos casos de estudiantes acusados falsamente de hacer trampas. Para un estudiante que ha dedicado incontables horas a su trabajo, esto es extremadamente frustrante e inaceptable.
Para los editores de contenidos que dedican mucho tiempo a investigar y escribir, es muy frustrante que alguien marque tu contenido como generado por IA.
Estrategias para minimizar los falsos positivos:
El «consejo» obvio para evitar activar los detectores de IA es evitar cualquier herramienta de IA generativa que ayude a tu escritura.
Con muchos casos de falsos positivos, hay informes de que en realidad se utilizó IA para ayudar al escritor en primer lugar. Si utilizas una herramienta como Grammarly para ayudarte a revisar determinadas frases o estructuras de párrafos, debes saber que estas herramientas funcionan con IA y podrían activar detectores de IA.
Mantenga su contenido lo más interesante y perspicaz posible y, lo que es más importante, evite «esponjar» sus textos con demasiadas palabras que no contribuyan al objetivo de su texto.
Conclusión
Es probable que los modelos de IA generativa y las herramientas de detección de IA jueguen al gato y al ratón en los próximos años. Un potente detector de IA como Winston AI debería saber cuándo marcar los contenidos de IA tanto como evitar los casos de falsos positivos.
Si escribes de forma original y perspicaz, y evitas las palabras no esenciales y la palabrería, seguro que evitarás que las herramientas de detección de IA te marquen injustamente.
