El 31 de enero de 2023, OpenAI lanzó una herramienta de clasificación de textos de IA destinada a detectar si los pasajes fueron escritos por un humano o por un sistema de IA. Este lanzamiento iba a cambiar el panorama de la detección de contenidos sintéticos y ayudar a las instituciones a marcar este tipo de contenidos. Sin embargo, apenas unos meses después de su lanzamiento, OpenAI interrumpió bruscamente la herramienta debido a su decepcionante bajo índice de precisión a la hora de diferenciar la escritura humana de la de la IA.
El clasificador de OpenAI y sus deficiencias
La herramienta de clasificación de textos de OpenAI tenía como objetivo detectar contenidos generados por IA mediante el análisis de características lingüísticas en pasajes de texto. Asignaría una «calificación de probabilidad» para indicar si el sistema determinó que el texto había sido escrito por un humano o por una IA. Tras su lanzamiento, la herramienta ganó cierta popularidad a medida que crecía el interés por la detección de IA.
Sin embargo, apenas unos meses después, el 20 de julio de 2023, OpenAI anunció que dejaba de utilizar el clasificador debido a su baja tasa de precisión. En la práctica, el sistema tuvo grandes dificultades para diferenciar con fiabilidad la escritura humana de la mecánica. A pesar de analizar patrones lingüísticos, el clasificador a menudo no identificaba correctamente si los pasajes estaban generados por IA o no. Nuestra exhaustiva investigación sobre los mejores detectores de IA reveló una tasa de detección sorprendentemente débil para la herramienta desplegada por Open AI.
El reto más amplio del avance de los detectores de IA
El abrupto fracaso del clasificador de OpenAI subraya los continuos retos a los que se enfrenta el desarrollo de sistemas de detección de IA precisos. Investigaciones recientes han revelado importantes deficiencias y sesgos entre los actuales verificadores de IA.
Los estudios han descubierto que estas herramientas suelen etiquetar erróneamente texto escrito por humanos como generado por IA.
Además, muchos programas informáticos de detección de IA no están entrenados para los nuevos LLM y son incapaces de detectarlos. También pueden ser fácilmente eludidas por herramientas de parafraseo como Quillbot.
El rápido avance de la IA generativa también significa que las herramientas de detección a menudo se ven superadas, lo que permite una evasión más fácil. El objetivo principal de Winston AIes mejorar continuamente su modelo para detectar la escritura de IA, minimizando al mismo tiempo la aparición de falsos positivos.
La necesidad de mejores soluciones
Aunque la tecnología de detección de IA sigue siendo de vital importancia para la rendición de cuentas a medida que se extienden los contenidos artificiales, ejemplos como el de OpenAI demuestran que la tarea no es fácil. La misión principal de Winston AI es detectar la IA, mientras que muchos otros detectores alternativos de IA se ofrecen como proyecto paralelo. OpenAI declaró su compromiso de desarrollar técnicas de procedencia más sólidas, pero el rápido fallo de su clasificador revela que perfeccionar tales sistemas sigue siendo difícil.
Hay quien dice que el ritmo de desarrollo de la IA generativa supera actualmente a la innovación en los métodos de detección, pero Winston AI tiene, con diferencia, el modelo de detección de IA más preciso que existe.
Conclusión
La abrupta interrupción del clasificador de textos de IA de OpenAI tras sólo unos meses demuestra los formidables retos que aún quedan por superar para desarrollar herramientas fiables de detección de IA. Su clasificador fracasó rápidamente a pesar de que pretendía diferenciar la escritura humana de la de las máquinas mediante el análisis de patrones lingüísticos.
Grandes empresas que lideran el movimiento de la IA, como Amazon, Anthropic, Google, Inflection, Meta, Microsoft y Open AI, se reunieron con la administración Biden-Harris y asumieron compromisos voluntarios para avanzar en el desarrollo seguro y transparente de la IA. Esto incluye la adición de marcas de agua para garantizar la capacidad de detectar la IA, especialmente las falsificaciones profundas.
A medida que se extienden los contenidos artificiales, el desarrollo de una tecnología de detección de IA más sólida es cada vez más crucial para mantener la transparencia y la confianza. Aunque dista mucho de ser perfecta, la mejora de estas herramientas mediante la investigación y el progreso continuos sigue siendo esencial.
PREGUNTAS FRECUENTES
El clasificador de texto de OpenAI era un sistema de IA lanzado el 31 de enero de 2023 cuyo objetivo era detectar si los pasajes de texto habían sido escritos por un humano o por un sistema de IA. Se diseñó para analizar rasgos lingüísticos de la escritura y asignar una «calificación de probabilidad» para indicar si el contenido había sido generado por IA. El objetivo era ayudar a hacer frente a la creciente necesidad de identificar contenidos artificiales a medida que los sistemas de IA generativa se hacen más avanzados.
OpenAI interrumpió su clasificador de texto en julio de 2023, apenas unos meses después de su lanzamiento, debido a su decepcionante baja tasa de precisión a la hora de diferenciar la escritura humana de la de la IA. En la práctica, el sistema tuvo problemas para distinguir con fiabilidad los contenidos escritos por personas de los escritos por máquinas mediante su análisis lingüístico.
Aunque desarrollar una detección precisa de la IA es difícil, sigue siendo de vital importancia para la rendición de cuentas a medida que se extienden los contenidos artificiales. Herramientas como OpenAI, a pesar de sus defectos, pretenden mantener la transparencia sobre la procedencia de los textos y otros soportes. A medida que avanza la IA generativa, es esencial encontrar mejores soluciones, aunque el progreso sea lento.
Las principales empresas de IA se han comprometido a avanzar en el desarrollo seguro y transparente de la IA, incluida la mejora de las capacidades para detectar contenidos de IA. La investigación en curso también sigue trabajando para reforzar las herramientas de detección y minimizar las falsas identificaciones de contenidos creados por humanos. Sin embargo, perfeccionar estos sistemas sigue siendo un reto, ya que las capacidades de la IA aumentan rápidamente.
