A Meta está trabalhando em uma ferramenta para identificar imagens e vídeos criados com seu novo modelo de geração de imagens, MuseImage. A empresa fechou uma prévia Ferramenta baseada na web que pode verificar marcas d’água invisíveis usadas por modelos mais recentes.
Este sistema de marca d’água, chamado Content Seal, “permanece mesmo quando cortado, compactado, redimensionado ou capturado em captura de tela”, explica Meta. Postagem no blog. “Estamos apresentando uma ferramenta de detecção que permite verificar se uma imagem carrega uma marca d’água de selo de conteúdo, fornecendo uma maneira antecipada de ajudar a entender melhor se uma imagem foi criada com meta AI.”
O conteúdo parece ser uma nova abordagem para selar meta. A versão que faz parte do Muse Image é proprietária, embora a empresa já tenha lançado versões de código aberto da tecnologia, disse Meta ao Engadget. Os modelos mais recentes do Meta não incluem marcas d’água visíveis, como algumas versões anteriores do Meta AI que adicionavam um pequeno logotipo no canto inferior direito.
Por enquanto, os recursos de detecção do Meta AI estão limitados a imagens criadas ou editadas com Muse Images, embora a empresa diga que planeja estender a marca d’água do selo de conteúdo também para vídeos gerados e editados por IA. Meta Muse também está trabalhando em um modelo separado de geração de vídeo chamado Video, que “será lançado em breve”.
Experimentei hoje o novo recurso de detecção em imagens criadas com Meta AI, e a ferramenta baseada na web foi capaz de detectar uma marca d’água para imagens editadas e criações totalmente geradas por IA (como a imagem acima). Também encontrou marcas d’água nas capturas de tela das minhas imagens. “Um resultado positivo significa que a imagem foi criada ou editada usando o aplicativo Meta AI meta.ai“A empresa explica em um FAQ. “Um resultado negativo significa que é improvável que a imagem tenha sido processada usando o aplicativo Meta AI ou meta.ai.”
Curiosamente, os novos recursos de detecção do Meta AI ainda não parecem fazer parte do aplicativo Meta AI. Quando perguntei ao assistente baseado em aplicativo do Mater sobre uma imagem que a ferramenta da web identificou como gerada por IA, ele respondeu que não tinha a capacidade de verificar. “Não posso dizer com certeza se esta imagem em particular foi feita com Meta Al”, afirma. “MetaAl não marca água automaticamente em imagens e não tenho uma ferramenta que possa detectar qual modelo Al criou uma imagem existente.”
A Meta já enfrentou algumas críticas sobre como rotula e identifica conteúdo gerado por IA em seus aplicativos. O Conselho de Supervisão disse à empresa no início deste ano que estava “preocupada” com o fato de a Meta estar “implementando de forma inconsistente” marcas d’água digitais em conteúdo de IA criado por suas próprias ferramentas.
O novo recurso ainda parece ter algumas outras limitações. O selo de conteúdo não é compatível com a certificação de conteúdo SynthID ou C2PA, dois métodos estabelecidos de marca d’água usados por outras empresas. O recurso baseado na web não conseguiu detectar imagens criadas ou editadas com versões anteriores dos modelos Mater AI em meus testes. Quando adicionei imagens criadas a chats antigos com Meta AI, ele não conseguiu me dizer se a imagem foi criada com sua IA. O recurso também parece, por algum motivo, estar sujeito a limites de taxa do medidor. Depois de enviar alguns exemplos, fui avisado que havia atingido meu “limite diário de verificações de autenticação”.
