As novas marcas d’água de imagem da OpenAI facilitam a identificação de falsificações de IA – veja como

Siga ZDNET: Adicione-nos como fonte preferencial no Google.

Principais vantagens do ZDNET

• OpenAI agora usa metadados C2PA e marcas d’água SynthID.
• Sinais de pixels ocultos podem ajudar a identificar imagens geradas por IA.
• Uma ferramenta pública de verificação OpenAI também está sendo implementada.

Hoje, a OpenAI anunciou o que chama de sinais de origem de conteúdo em todo o seu ecossistema de imagens. Em outras palavras, ele marca suas imagens geradas por IA como geradas por IA.

Isto não é novidade. OpenAI e outras ferramentas de IA incorporam metadados em imagens geradas por IA desde 2024. O problema era que a marcação de metadados era muito fácil de prevenir. A novidade é que a OpenAI está aprimorando seu jogo de segurança de ID de imagem com algumas novas tecnologias sofisticadas.

Também: Testei ChatGPT Images 2.0 e Gemini Nano Banana para ver qual é melhor – esse modelo vence

Há muita coisa acontecendo aqui. Para ajudar a colocar isso em perspectiva, voltaremos a 440 a.C. e ao dia do cabelo ruim de um cara.

Stega, e agora?

A esteganografia é a incorporação de informações criptográficas à vista de todos, usando principalmente técnicas para ocultar mensagens, de modo que a intenção criptográfica das mensagens não seja imediatamente aparente. Em outras palavras, saber que alguém ou algo carrega o código é meio caminho andado para decifrá-lo.

De acordo com estudos modernosNo século V aC, Heródoto de Halicarnasso, escrevendo em seus nove livros Histórias Terpsícore e Polímnia, conta como: “Por volta de 440 aC, Histieu raspou a cabeça de seu (assistente) mais confiável e tatuou-a com uma mensagem que desapareceu depois que o cabelo deveria crescer novamente. Esta técnica foi aparentemente usada muito recentemente, na Segunda Guerra Mundial.

Também: Testei ChatGPT Plus e Gemini Pro para ver qual é melhor e se vale a pena trocar

Se você já assistiu a um programa de TV policial em que a leitura de algumas letras em uma nota comum revela uma mensagem oculta, você viu um exemplo de esteganografia baseada em texto. No que diz respeito à criptografia, ela é fraca. Mas se você não sabe que há uma mensagem na nota, talvez não tente decifrá-la.

A esteganografia tem sido usada em imagens digitais há anos para incorporar informações textuais entre os milhões de pixels que compõem uma imagem. Ele permite que os remetentes incorporem imagens que aparecem com destaque. Também permite que os criadores incorporem informações de propriedade e proveniência em uma imagem de uma forma que é muito difícil de superar.

Voltemos à esteganografia daqui a pouco, porque ela é a chave para o anúncio da OpenAI de hoje.

Mas primeiro, vamos voltar ao futuro, mas não totalmente. Nossa próxima parada é em 2024.

Mostre-me os metadados

Desde 2024, OpenAI incorporou metadados em imagens geradas por DALL-E 3, ImageGen e Sora. Você pode usar uma ferramenta como Credenciais de conteúdo verifique esses dados. O Google Nano Banana e outras ferramentas de IA de geração de imagens também incorporam alguns metadados em suas imagens.

Também: Parei de usar ChatGPT para tudo: esses modelos de IA superam em pesquisa, codificação e muito mais

Aqui estão imagens de exemplos gerados pelo ChatGPT à esquerda e Nano Banana à direita. Como você pode ver, os metadados estão disponíveis corretamente. As credenciais de conteúdo podem exibir dados.

Por outro lado, quando tirei uma captura de tela de cada imagem que capturou os pixels, mas não os metadados subjacentes, as credenciais de conteúdo apenas relataram que algo deu errado. A captura da imagem removeu completamente os metadados associados ao arquivo de imagem original.

É isso que a OpenAI e o Google estão tentando consertar, entre outros.

De acordo com a OpenAI, “Estamos trabalhando nesse objetivo há algum tempo. Temos usado marcas d’água visíveis em Sora e marca d’água de áudio no Voice Enginee continuamos a testar e estudar a precisão e a confiabilidade através da implantação ao longo do tempo.”

Formatação de metadados padrão

OpenAI afirma: “Recentemente, tomamos a iniciativa de tornar o OpenAI um produto gerador compatível com C2PA. Ao nos tornarmos compatíveis com C2PA, estamos oferecendo às plataformas uma maneira confiável de ler, armazenar e transmitir as informações de proveniência que adicionamos ao nosso conteúdo.”

Vamos descompactar. C2PA é uma coalizão de proveniência e autenticidade de conteúdo. Possui um programa de conformidade C2PA que “fornece garantia de que os produtos atendem às especificações de credenciais de conteúdo e a um conjunto de requisitos de segurança para garantir que produzam e validem corretamente os dados C2PA”.

Também: Como aprender ChatGPT em uma hora – de graça

Em outras palavras, os metadados de conteúdo são padronizados, seguros e contêm informações suficientes para serem úteis. A OpenAI faz isso com todas as suas ofertas de imagens. Seu representante de relações públicas me disse: “todas as imagens geradas por ChatGPT e OpenAI (incluindo a API OpenAI e Codex) contêm esses sinais de origem”.

Sinais. Plural. Isso me leva ao grande martelo desta afirmação.

Marcas d’água digitais ocultas

O Google DeepMind SynthID é um mecanismo de marca d’água digital multimodal que incorpora marcas d’água digitais invisíveis em texto, imagens, vídeo e áudio. Este é um tipo de tecnologia. Curiosamente, dado que Google e OpenAI são os principais concorrentes, a OpenAI está agora a ser incluída Tecnologia SynthID em todas as imagens criadas pela empresa.

Para imagens, SynthID é baseado em pixels. Um sinal sutil semelhante à esteganografia é incorporado nas imagens imediatamente após serem geradas. Os dados de identidade são invisíveis ao olho humano, mas as ferramentas de detecção podem lê-los. Esta marca d’água digital permanece na imagem mesmo após redimensionamento, corte, compactação e ajustes de cores. Ele transfere para capturas de tela. A assinatura digital está incluída em toda a imagem, em vez de aparecer apenas em uma pequena área da imagem.

Também: Eu tentei imagens ChatGPT 2.0: salto gigante e divertido – e surpreendentemente útil para trabalho real

Assim, embora a Nano Banana coloque seu pequeno diamante no canto da imagem gerada, ela também incorpora um sinal muito mais abrangente em toda a imagem.

Há outro aspecto extremamente poderoso do SynthID que a OpenAI não mencionou: SynthID pode marcar texto com marca d’águaaparentemente sem afetar a qualidade do texto. Ele seleciona com precisão qual token é usado em cada bloco de texto para que o que é gerado possa ser verificado em busca de uma assinatura estatística que o software detector possa identificar. Esta capacidade não foi anunciada pela OpenAI, portanto não pode ser usada no ChatGPT, mas é usada no Gemini.

Tal como acontece com C2PA, OpenAI incorpora SynthID em imagens geradas usando APIs ChatGPT, Codex e OpenAI.

Nova ferramenta de verificação pública

Simultaneamente ao anúncio da conformidade C2PA e dos recursos SynthID, a OpenAI anuncia disponibilidade de uma ferramenta de verificação pública você pode usar para ver se alguma das ferramentas de IA da OpenAI gerou alguma coisa.

Estou escrevendo isto na noite anterior ao anúncio oficial ser tornado público. No momento em que você ler este artigo, você poderá testar a ferramenta no site https://openai.com/research/verify/.

Também: Comparei como Gemini, ChatGPT e Claude podem analisar vídeos – esse modelo vence

Estou muito interessado nas limitações desta ferramenta e também em como ela funciona bem com o SynthID. O que acontece, por exemplo, se você pegar parte de uma imagem do ChatGPT e usá-la com uma foto real como parte de uma composição do Photoshop? Ele informa quantas IAs foram marcadas? Testaremos isso novamente com testes reais após o lançamento da ferramenta.

De acordo com a OpenAI: “Nenhuma técnica de proveniência é suficiente por si só. Acreditamos que uma abordagem robusta combina padrões comuns, sinais robustos de marca d’água e verificação pública. Com base em nosso suporte de longa data para credenciais de conteúdo, tornando-se compatível com C2PA, adotando SynthID e visualizando ferramentas de verificação pública, esperamos contribuir para um sistema mais interoperável no longo prazo.”

Você verificaria a origem de uma imagem se uma ferramenta de detecção tornasse isso mais fácil? Deixe-nos saber nos comentários abaixo.

Você pode acompanhar as atualizações diárias do meu projeto nas redes sociais. Certifique-se de se inscrever meu boletim informativo semanal de atualizaçãoe siga-me no Twitter/X em @DavidGewirtzFacebook em Facebook.com/DavidGewirtzInstagram em Instagram.com/DavidGewirtzno Bluesky em @DavidGewirtz.come no YouTube em YouTube.com/DavidGewirtzTV.