O Google Imagen é o novo gerador de texto para imagem de IA lançado pelo Google. Ao anunciar o novo modelo de IA, a empresa compartilhou o trabalho de pesquisa, uma ferramenta de benchmarking chamada Drawbench, para traçar comparações objetivas com os concorrentes da Imagen.
A ideia é que você simplesmente diga o que deseja que o gerador de imagens de IA evoque e ele faça exatamente isso. As fotos podem parecer que foram pintadas a óleo, feitas a partir de computação gráfica, ou até mesmo se assemelhar a fotografias.
Nas próprias palavras do Google, esses modelos de IA codificam “vários preconceitos e estereótipos sociais, incluindo um viés geral de gerar imagens de pessoas com tons de pele mais claros e uma tendência de imagens que retratam diferentes profissões se alinharem aos estereótipos de gênero ocidentais”.
A empresa Alphabet sempre pode filtrar certas palavras ou frases e alimentar bons conjuntos de dados. Mas com a escala de dados em que essas máquinas trabalham, nem tudo pode ser peneirado, ou nem todos os problemas podem ser resolvidos. O Google admite isso dizendo que “[Os] requisitos de dados em larga escala dos modelos de texto para imagem […] conjuntos de dados tendem a refletir estereótipos sociais, pontos de vista opressivos e associações depreciativas ou prejudiciais a grupos de identidade marginalizados”.
Então, como o Google diz, o Imagen “não é adequado para uso do público no momento”. Se e quando estiver disponível, vamos tentar dizer a ele: “Ei, Google Imagen, não há céu. É fácil se você tentar. Nenhum inferno abaixo de nós. Sobre nós somente o céu”
