A OpenAI anunciou em uma segunda-feira (5) a criação do textGrain, uma tecnologia de marca-d’água invisível aplicada a conteúdos gerados pelo ChatGPT. A iniciativa busca cumprir as exigências de transparência do AI Act europeu e será distribuída nas próximas semanas para usuários da União Europeia, sem previsão de ativação automática no Brasil.
Diferente de etiquetas visíveis ou códigos ocultos colados no material, o recurso atua diretamente no motor de geração da inteligência artificial. O sistema manipula sutilmente as probabilidades de seleção de cada palavra — ou token — para construir um comportamento estatístico que pode ser descoberto por softwares de verificação específicos.
A empresa informou que pretende abrir o código do textGrain futuramente. No entanto, o acesso ao detector próprio não será liberado para o público geral, ficando restrito inicialmente a pesquisadores e entidades especializadas que passem por aprovação.
O movimento da companhia espelha iniciativas do mercado. Em agosto, a Anthropic integrou ao Claude uma adaptação do SynthID-Text, desenvolvido pelo Google DeepMind. Ao contrário da OpenAI, que limitou a ferramenta geograficamente, a Anthropic aplicou o recurso a nível global sob a justificativa de não possuir um método seguro para restringi-lo por região.
Desafios e limitações técnicas
Especialistas e a própria desenvolvedora alertam que o carimbo invisível não funciona como prova absoluta de autoria integral por IA. A presença da marca aponta apenas que um modelo da empresa provavelmente colaborou na redação ou revisão do trecho, sem expor quem enviou o comando original, os dados da conversa ou a veracidade do conteúdo.
Avaliações internas da OpenAI com uma margem de 1% de falsos positivos demonstraram que o identificador reconhece a assinatura em cerca de 80% dos textos compostos por 200 tokens, subindo para 95% em arquivos com 400 tokens.
A eficácia, contudo, diminui consideravelmente quando há alteração humana. Em testes com 400 tokens, a troca de apenas 10% do vocabulário por sinônimos derrubou o índice de detecção de 92% para 66%. Caso a substituição atinja 25% do texto, a taxa desaba para 17%.
Esta matéria foi produzida a partir de informações divulgadas originalmente por canaltech. O conteúdo foi reestruturado e redigido de forma independente pela nossa redação.
Informação divulgada originalmente por: canaltech
