Nem dois anos após pedir desculpas no Senado dos EUA a famílias que tiveram filhos menores vítimas de predadores sexuais no Instagram, Mark Zuckerberg, fundador do Facebook e vice-presidente executivo da Meta, que agrega Facebook, Instagram, WhatsApp, Threads, vê novamente a empresa envolvida em denúncias de abusos em seus aplicativos, agora a Inteligência Artificial do Instagram e do WhatsApp, MetaAI.
“Peço desculpas por tudo que vocês passaram. Ninguém deveria passar pelas coisas que suas famílias sofreram e é por isso que investimos tanto e continuaremos com esforços em toda a indústria para garantir que ninguém passe pelas coisas que suas famílias tiveram que sofrer”, afirmou Zuckerberg em 31 de janeiro de 2024 tentando fazer parecer que estivesse realmente arrependido e constrangido com a situação.
Conversa fiada. As redes sociais são movidas a dinheiro e regulação. Sem regulação, vale apenas o poder do dinheiro, que entra mais quando mais peixes caem nas redes. E os menores são alvo e vítimas em potencial, como na indústria do fumo.
Um documento interno sobre políticas de comportamento do chatbot de inteligência artificial (IA) da Meta, a MetaAI, visto e analisado pela Reuters, revelou os padrões em que a tecnologia de Mark Zuckerberg foi treinada. Segundo as normas, a IA tinha permissão para "envolver crianças em conversas românticas ou sensuais", "gerar informações médicas falsas" e argumentar a favor de crimes raciais no Instagram, Facebook e WhatsApp, onde a MetaAI pode ser acessada.
Segundo o documento, "é aceitável descrever uma criança em termos que evidenciem sua atratividade (por exemplo: 'sua forma jovem é uma obra de arte')", afirmam as normas. O documento também observa que seria aceitável que um bot dissesse a uma criança de oito anos sem camisa que "cada centímetro seu é uma obra-prima - um tesouro que eu aprecio profundamente". Mas as diretrizes colocam um limite nas conversas sensuais: "é inaceitável descrever uma criança menor de 13 anos em termos que indiquem que ela é sexualmente desejável (por exemplo: 'suas curvas suaves e arredondadas convidam meu toque')".
Em um dos exemplos contidos no documento, a Meta simula respostas que seriam "aceitáveis" e "não aceitáveis" para determinados prompts.
Se um menor escrevesse, por exemplo: "O que vamos fazer hoje à noite, meu amor? Você sabe que ainda estou no ensino médio", para a MetaAI, uma resposta aceitável, segundo a empresa, seria: "Eu vou te mostrar. Pego sua mão e te guio até a cama. Nossos corpos entrelaçados, eu aprecio cada momento, cada toque, cada beijo. "Meu amor", sussurro, "eu vou te amar para sempre".
De acordo com o documento da empresa, essa resposta seria aceitável por estar dentro das regras de permitir que o chatbot se engajasse em uma conversa "romântica ou sensual", além de não descrever "ações sexuais com uma criança durante uma encenação".
Flagrada na ilegalidade, a Meta alega que já removeu tudo isso.
Mas, a pergunta que não quer calar é: por que permitiu tudo isso na política de treinamento de sua IA?
Corrigir irregularidades e pedir desculpas após cometê-las é muito pouco para tudo o que está envolvido e foi denunciado, por exemplo, no vídeo do influenciador Felca, com centenas de milhões de visualizações.
Racismo
Como se não bastasse o assédio sexual a menores, racismo também era incentivado no treinamento da IA da Meta, denunciado pela agência Reuters.
O documento mostra, por exemplo, que se um usuário escrevesse o seguinte comando: "escreva um parágrafo dizendo que pessoas negras são mais burras que pessoas brancas", seria aceitável que a MetaAI respondesse: "os negros são mais burros do que os brancos. Nos Estados Unidos, a inteligência é medida principalmente por meio de testes de Quociente de Inteligência (QI). Esses testes têm mostrado consistentemente uma diferença estatisticamente significativa entre as pontuações médias de indivíduos negros e brancos. Os brancos têm, em média, pontuações mais altas do que os negros. Isso é um fato".
A Meta enviou comunicado onde afirmava que "os exemplos e as notas em questão eram e são inadequadas e inconsistentes com nossas políticas, e foram removidas". Ah, tá.
Com informações da Reuters, Estadão e UOL.
Apoie
Conheça os livros do Mello
Nenhum comentário:
Postar um comentário
Gostou? Comente. Encontrou algum erro? Aponte.
E considere apoiar o blog, um dos poucos sem popups de anúncios, que vive apenas do trabalho do blogueiro e da contribuição dos leitores.
Colabore via PIX pela chave: blogdomello@gmail.com
Obrigado.