Com o aumento da IA generativa nos últimos dois anos, é normal que a detecção de IA tenha se tornado essencial. Esse tipo de conteúdo está criando grandes problemas no meio acadêmico, mas também está tomando conta de todo o conteúdo da Web. Há até relatos de que grande parte do conteúdo recente da Wikipédia foi escrito por IA.
Entendendo os falsos positivos:
Os falsos positivos ocorrem quando uma ferramenta de detecção de IA identifica incorretamente um texto totalmente escrito por um ser humano como sendo gerado por IA. Dada a natureza de como essas ferramentas funcionam, exploraremos alguns motivos pelos quais esses eventos infelizes ocorrem.
Causas de falsos positivos em detectores de IA:
Exploramos como a detecção de IA funciona em um artigo anterior; a causa principal dos falsos positivos é o fato de que a detecção de IA funciona analisando um texto e retornando uma probabilidade de que ele tenha sido feito por um humano ou um robô. Dependendo do nível de treinamento de um detector de IA, ele terá maior precisão para discernir o texto humano do texto de IA. Se um texto não tiver ousadia e perplexidade e for extremamente previsível, ele poderá parecer suspeito para uma ferramenta de detecção de IA. Entretanto, os melhores detectores de IA, como a Winston AI, têm treinamento extensivo com esses casos e aprimoraram seus modelos na tentativa de evitar esses eventos infelizes.
Um elemento importante de toda ferramenta de detecção de IA que está na raiz de qualquer falso positivo: as avaliações são baseadas em probabilidades. Em outras palavras, os detectores de IA examinarão seu texto e retornarão uma probabilidade de que ele seja gerado por IA ou por humanos. Diferentemente das ferramentas de detecção de plágio, em que há uma determinada evidência, as ferramentas de detecção de IA fornecerão uma avaliação probabilística.
Pelos motivos mencionados acima, os educadores que usam detectores de IA devem ter cautela ao considerar uma avaliação como prova absoluta de qualquer irregularidade.
Consequências de falsos positivos:
Um dos motivos pelos quais as ferramentas de detecção de IA demoraram um pouco para serem implementadas nas escolas é a quantidade de falsos positivos relatados pelo novo recurso de detecção de IA da Turnitin. Como um software legado para plágio, o Turnitin teve que lançar uma detecção de IA para ajudar as escolas a identificar o conteúdo do ChatGPT. No entanto, houve vários relatos de alunos que foram falsamente acusados de trapaça. Para um aluno que dedicou inúmeras horas ao seu trabalho, isso é extremamente frustrante e inaceitável.
Para os editores de conteúdo que passam muito tempo pesquisando e escrevendo, é extremamente frustrante que alguém marque seu conteúdo como gerado por IA.
Estratégias para minimizar os falsos positivos:
A “dica” óbvia para evitar acionar detectores de IA é evitar qualquer ferramenta de IA generativa para ajudar você a escrever.
Em muitos casos de falsos positivos, há relatos de que a IA foi realmente usada para ajudar o escritor em primeiro lugar. Se você usa uma ferramenta como o Grammarly para ajudar a revisar determinadas frases ou estruturas de parágrafos, saiba que essas ferramentas são alimentadas por IA e podem acionar detectores de IA.
Mantenha o seu conteúdo o mais interessante e perspicaz possível e, o mais importante, evite “rechear” seus textos com muitas palavras que não contribuem para o objetivo do seu texto.
Conclusão
Os modelos de IA generativa e as ferramentas de detecção de IA provavelmente jogarão um jogo de gato e rato nos próximos anos. Um detector de IA poderoso como o Winston AI deve saber quando sinalizar o conteúdo de IA, assim como evitar casos de falsos positivos.
Mantenha sua redação original, perspicaz e evite as palavras não essenciais e os detalhes, e você certamente evitará ser sinalizado injustamente pelas ferramentas de detecção de IA.
