Google promete rotular imagens criadas por IA

Listen to this article

O Google anunciou, nesta quarta-feira (10), durante o Google I/O, que incorporará informações chamadas de marcação dentro de imagens criadas por seus modelos de IA para alertar as pessoas de que as imagens foram originalmente criadas por um computador.

Os dados dentro das imagens não serão visíveis ao olho humano, mas softwares, como o Pesquisa do Google, poderão lê-los e exibir etiqueta avisando os usuários.

O Google também fornecerá informações adicionais sobre todas as imagens em seus resultados para ajudar a evitar enganos, inclusive quando a foto foi carregada pela primeira vez no mecanismo de pesquisa e se foi citada por sites de notícias.

A mensagem a ser exibida pelo Google será “Imagem autorrotulada como gerada por IA”.

A mudança é o esforço mais significativo de uma grande empresa de tecnologia até agora para rotular e classificar a produção da IA generativa. Funcionários de tecnologia alertaram que os recursos da ferramenta para criar imagens realistas ou passagens fluentes de texto podem ajudar spammers, golpistas e propagandistas a enganar pessoas.

Por exemplo, uma imagem gerada recentemente do Papa Francisco em elegante jaqueta de inverno gerada no Midjourney se tornou viral e enganou algumas pessoas, fazendo-as pensar que era real.

Um problema enfrentado pela indústria de IA é que não há uma maneira confiável de determinar as imagens geradas. Embora muitas vezes existam algumas pistas, como mãos mal desenhadas, não há maneira definitiva de dizer quais imagens foram feitas por um computador e quais foram desenhadas ou fotografadas por um ser humano.

A abordagem do Google é rotular as imagens quando elas saem do sistema de IA, em vez de tentar determinar se são reais mais tarde. O Google disse que Shutterstock e Midjourney apoiariam essa nova abordagem de marcação.

A documentação do desenvolvedor do Google diz que a marcação será capaz de categorizar imagens como mídia algorítmica treinada, feita por um modelo de IA; uma imagem composta que foi parcialmente feita com um modelo IA; ou mídia algorítmica, criada por um computador, mas que não é baseada em dados de treinamento.

 

 

 

 

 

 

João Marcelo de Assis Peres

joao.marcelo@guiadocftv.com.br

GuiadoCFTV

Avalie esta notícia, mande seus comentários e sugestões. Encontrou alguma informação incorreta ou algum erro no texto?

Importante: ‘Todos os Conteúdos divulgados decorrem de informações provenientes das fontes aqui indicadas, jamais caberá ao Guia do CFTV qualquer responsabilidade pelo seu conteúdo, veracidade e exatidão. Tudo que é divulgado é de exclusiva responsabilidade do autor e ou fonte redatora.’

Quer enviar suas notícias? Envie um e-mail para noticias@guiadocftv.com.br

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.