Falso positivo
Quando um teste ou sistema acusa algo que não existe, como um antivírus que trata um arquivo inofensivo como vírus ou um detector que aponta IA num texto humano.
Falso positivo é o alarme que toca sem ladrão em casa. O sistema diz “achei!”, mas não havia nada para achar.
O glossário de segurança do NIST, o instituto de padrões dos Estados Unidos, traz definições bem diretas: um alerta que indica, de forma errada, que existe uma vulnerabilidade; ou uma ferramenta de segurança que classifica um conteúdo inofensivo como malicioso. Em estatística, o mesmo glossário lembra que isso também é chamado de “erro do tipo 1”.
O contrário é o falso negativo: o alarme que fica quieto enquanto o ladrão passa. Quem projeta o sistema precisa escolher o quanto ele é exigente antes de dar o alarme. A OpenAI, por exemplo, contou que regulou seu detector de textos para só apontar “provavelmente IA” quando estivesse muito confiante, justamente para manter baixos os falsos positivos.
No mundo da inteligência artificial, o termo aparece muito quando se fala de detector de IA. A OpenAI, por exemplo, informou que o classificador de textos que lançou em 2023 marcava como escritos por IA 9% dos textos escritos por pessoas, nos testes da própria empresa. Imagine um estudante honesto acusado de colar por causa de um desses 9%.
Por isso, a regra de ouro é: quanto mais grave a consequência, mais importante conferir o resultado por outros meios antes de agir. Um aviso de “suspeito” deve abrir uma investigação, não encerrar a conversa.