Google promete rotular imagens criadas por IA

Publicidade

O Google anunciou, nesta quarta-feira (10), durante o Google I/O, que incorporará informações chamadas de marcação dentro de imagens criadas por seus modelos de IA para alertar as pessoas de que as imagens foram originalmente criadas por um computador.

Os dados dentro das imagens não serão visíveis ao olho humano, mas softwares, como o Pesquisa do Google, poderão lê-los e exibir etiqueta avisando os usuários.

Leia mais:

O Google também fornecerá informações adicionais sobre todas as imagens em seus resultados para ajudar a evitar enganos, inclusive quando a foto foi carregada pela primeira vez no mecanismo de pesquisa e se foi citada por sites de notícias.

A mensagem a ser exibida pelo Google será “Imagem autorrotulada como gerada por IA”.

A mudança é o esforço mais significativo de uma grande empresa de tecnologia até agora para rotular e classificar a produção da IA generativa. Funcionários de tecnologia alertaram que os recursos da ferramenta para criar imagens realistas ou passagens fluentes de texto podem ajudar spammers, golpistas e propagandistas a enganar pessoas.

Por exemplo, uma imagem gerada recentemente do Papa Francisco em elegante jaqueta de inverno gerada no Midjourney se tornou viral e enganou algumas pessoas, fazendo-as pensar que era real.

Um problema enfrentado pela indústria de IA é que não há uma maneira confiável de determinar as imagens geradas. Embora muitas vezes existam algumas pistas, como mãos mal desenhadas, não há maneira definitiva de dizer quais imagens foram feitas por um computador e quais foram desenhadas ou fotografadas por um ser humano.

A abordagem do Google é rotular as imagens quando elas saem do sistema de IA, em vez de tentar determinar se são reais mais tarde. O Google disse que Shutterstock e Midjourney apoiariam essa nova abordagem de marcação.

A documentação do desenvolvedor do Google diz que a marcação será capaz de categorizar imagens como mídia algorítmica treinada, feita por um modelo de IA; uma imagem composta que foi parcialmente feita com um modelo IA; ou mídia algorítmica, criada por um computador, mas que não é baseada em dados de treinamento.

Com informações de CNBC

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

Popular