Detector de Conteúdo de IA

Os detectores de conteúdo gerado por IA analisam padrões estatísticos na escrita que diferem entre textos escritos por humanos e gerados por IA. Eles procuram indicadores tais como comprimentos e estruturas de frases uniformes, distribuição preditável do vocabulário (perplexidade), linguagem de hesitação consistente, ausência de anedotas pessoais ou variações emocionais, transições temáticas fórmulas e uma uniformidade de qualidade ao longo do texto que os humanos raramente mantêm.

A perplexidade é uma medida da previsibilidade de uma sequência de palavras para um modelo de linguagem. O texto gerado por IA tende a ter baixa perplexidade porque o modelo escolhe sequências de palavras estatisticamente prováveis. A escrita humana geralmente tem maior perplexidade porque as pessoas usam escolhas inesperadas de palavras, expressões criativas, gírias e estilos pessoais que tornam o texto menos previsível para um modelo de linguagem.

Sim, os detectores de conteúdo gerado por IA podem gerar falsos positivos, especialmente em textos altamente formais ou técnicos, em escritas de falantes não nativos do inglês que podem parecer fórmulas, em textos fortemente editados ou polidos e em conteúdos que seguem diretrizes de estilo rígidas. Estudos mostram que as ferramentas de detecção podem classificar textos escritos por humanos como gerados por IA em taxas variando de 21% a mais de 201%, dependendo da ferramenta e do tipo de texto.

A marcação incorpora padrões estatísticos invisíveis no texto gerado por IA no momento da criação, tornando-o identificável posteriormente com uma precisão quase perfeita. A detecção, por outro lado, analisa o texto após o fato, sem sinais incorporados, dependendo das propriedades estatísticas da escrita. A marcação é mais confiável, mas exige cooperação do fornecedor da IA, enquanto a detecção funciona em qualquer texto, mas é intrinsecamente probabilística e menos precisa.