Nerd News
Google lança ferramenta para detectar conteúdo gerado pela IA Gemini
Construída pelo Google DeepMind, divisão do Google focada no desenvolvimento de inteligência artificial e tecnologias agregadas, o SynthID marca conteúdo gerado por IA com marcas dágua imperceptíveis por humanos, mas notadas por máquinas. Esses identificadores digitais são embutidos em imagens, áudios, texto ou vídeos sintéticos.
Nos outputs de texto, o SynthID se comporta como um processador de logits aplicado no fluxo de geração do modelo. Basicamente, a ferramenta estabelece um padrão detectável e secreto na geração de texto, mas sem interferir na qualidade dos resultados.
Como resultado, a detecção da marca-dágua é probabilística — isto é, apresenta a chance entre 0% e 100% de o conteúdo ser obra de IA. Na aplicação em nível de produção disponível no Hugging Face, a ferramenta apresenta três diferentes estados: marca dágua, sem marca dágua ou incerto, e os valores para cada status pode ser ajustado manualmente.
Sendo assim, o detector do Google não consegue dar 100% de certeza que um texto foi gerado por um modelo generativo, mas dizer a probabilidade daquele conteúdo ser sintético.
Detecção é limitada
Assim como outras ferramentas semelhantes, o SynthID tem suas limitações: em respostas factuais, curtas e concisas, ela tende a ser menos eficaz. Isso porque há "menos oportunidades de aumentar a geração sem diminuir a precisão", informa o Google.
Outra barreira é quando o texto gerado por IA é totalmente reescrito ou traduzido para outro idioma. Neste caso, os padrões gerados pela marca dágua podem ser perdidos.
Fonte: https://www.tecmundo.com.br/software/294209-google-lanca-ferramenta-detectar-conteudo-gerado-ia-gemini.htm