O Conselho de Supervisão da Meta disse que as regras da empresa sobre imagens sexualmente explícitas geradas por inteligência artificial não são claras o suficiente e pediu mudanças para evitar que essas imagens apareçam nas plataformas da empresa.
O conselho, financiado pela Meta mas que trabalha de forma independente, decidiu após revisar duas postagens falsas de pornografia com mulheres famosas criadas por IA e publicadas no Facebook e Instagram.
A Meta anunciou que vai revisar as recomendações feitas pelo seu conselho e que vai fornecer uma atualização sobre quaisquer mudanças que sejam acrescentadas e implementadas.
No relatório do conselho, duas mulheres foram identificadas apenas como figuras públicas femininas da Índia e dos Estados Unidos. Essa abordagem foi adotada para proteger a privacidade das pessoas mencionadas.
O conselho identificou que ambas as imagens infringiam a política da Meta que proíbe o uso de “photoshop sexualizado depreciativo”. A Meta considera essa prática como uma forma de bullying e assédio. De acordo com o conselho, a Meta deveria ter removido as imagens imediatamente após a identificação da violação.
No caso específico da mulher indiana, a Meta falhou em analisar um relato de usuário sobre a imagem dentro do prazo de 48 horas estipulado pela sua política. Como resultado, a solicitação foi automaticamente encerrada sem que qualquer medida fosse tomada para resolver o problema.
O usuário fez uma nova tentativa de solucionar o problema com a empresa, mas a companhia inicialmente manteve sua decisão e não tomou nenhuma ação. Foi somente quando a diretoria do caso entrou em cena que a situação começou a ser tratada de maneira adequada.
Em relação ao incidente envolvendo a celebridade norte-americana, a Meta agiu de forma automática e retirou a imagem dos seus sistemas. O conselho responsável pelo caso declarou que as restrições impostas ao conteúdo são justificadas. Eles acrescentaram que, dada a gravidade dos danos causados, a remoção do conteúdo foi a única medida eficaz para proteger as pessoas afetadas.
O conselho sugeriu que a Meta revise e amplie suas regras para tornar mais claro o que é proibido. Especificamente, eles destacaram que a definição atual de “photoshop” é muito limitada e precisa ser ajustada. A recomendação é que a proibição não se restrinja apenas ao uso da palavra “photoshop”, mas que também inclua uma variedade mais ampla de técnicas de edição de imagem, como aquelas envolvendo inteligência artificial generativa. Isso garantiria uma cobertura mais completa das práticas de modificação de imagens, refletindo melhor as tecnologias e métodos atuais.
