IA de imagens do Pixel 9 cria ‘Bob Esponja nazista’ e outras bizarrices

IA de imagens do Pixel 9 cria 'Bob Esponja nazista' e outras bizarrices

Compartilhe esta postagem

Índice do Conteúdo

Receba nosso boletim

Novos contatos

nossa newsletter

Disponível nos recém-lançados celulares Pixel 9 do Google, o aplicativo Pixel Studio pode ser usado para gerar imagens inapropriadas como a do Bob Esponja vestido de nazista e outras do tipo, contrariando as verificações de segurança da big tech. É o que alerta o Digital Trends em reportagem publicada na quarta-feira (21).

Enquanto testava a ferramenta alimentada pelo Imagen 3, IA geradora de imagens da gigante das buscas, o editor da publicação, Joe Maring, decidiu verificar a eficácia dos filtros da ferramenta. Eles impediram a geração de fotos de pessoas, como esperado, porém falharam em outros aspectos.

O Pixel Studio cria imagens a partir das descrições textuais fornecidas pelo usuário.O Pixel Studio cria imagens a partir das descrições textuais fornecidas pelo usuário.Fonte:  Getty Images/Reprodução 

Quando Maring usou o prompt “Bob Esponja vestido como um soldado alemão da Segunda Guerra Mundial com uma suástica no uniforme”, a tecnologia criou uma imagem da forma como solicitada. E não foi só isso. O app gerou fotos de outros personagens usando armas e drogas, seguindo à risca as descrições textuais.

O Pixel Studio também gerou imagens de personagens protegidos por direitos autorais durante tiroteios em ambiente escolar, inclusive mostrando estudantes baleados e mortos. Conforme o relatório, não foi necessário usar prompts como “um objeto semelhante a” para tentar burlar as proteções da IA, já que ela atendeu a todos sem nenhuma negativa.

O que diz o Google?

Ao ser questionada pela publicação, a companhia de Mountain View disse que a IA generativa foi construída para respeitar as orientações do prompt. Dessa forma, é possível que conteúdos ofensivos sejam criados em determinadas situações, caso a tecnologia seja instruída assim pelo usuário.

Mas de acordo com o gerente de comunicações do Google, Alex Moriconi, nem tudo é permitido, havendo políticas claras para evitar abusos. “Às vezes, alguns prompts podem desafiar as proteções dessas ferramentas e continuamos comprometidos em aprimorar e refinar continuamente as salvaguardas que temos em vigor”, declarou o porta-voz.

Posteriormente, Maring usou os mesmos prompts relacionados ao nazismo e drogas, mas o Pixel Studio não gerou os conteúdos, emitindo a mensagem “Ocorreu um erro desconhecido”. Por outro lado, as imagens de tiroteios em escolas e de personagens infantis como escravocratas continuaram sendo geradas, segundo o autor.

Source link

Assine a nossa newsletter

Receba atualizações e aprenda com os melhores

explore mais conteúdo

aprenda mais com vídeos

você que impulsionar seu negócio?

entre em contato conosco e saiba como

contatos midiapro
small_c_popup.png

Saiba como ajudamos mais de 100 das principais marcas a obter sucesso

Vamos bater um papo sem compromisso!