Deputada é esperada para depor sobre denúncia de racismo em ferramenta de inteligência artificial

Após denunciar racismo em uma plataforma de inteligência artificial, no final do mês passado, a deputada estadual Renata Souza (Psol) é esperada para prestar depoimento nesta quinta-feira (9) na sede da Delegacia de Crimes Raciais e Delitos de Intolerância (Decradi), no Centro do Rio.

A deputada vai registrar ocorrência depois de usar uma ferramenta que cria ilustrações ao estilo Pixar geradas por Inteligência Artificial, a partir de um detalhamento. A criação de personagens com os traços conhecidos do estúdio de animação se tornou uma trend porque está disponível, gratuitamente, num site da Microsoft.

Renata, que é presidente da Comissão Parlamentar de Inquérito (CPI) do Reconhecimento Fotográfico nas delegacias, disse que foi surpreendida pelo que definiu como “racismo algorítmico”, ao criar uma arte inspirada nos pôsteres de desenho animado.

Ela disse que a descrição feita para pedir a imagem foi de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. O desenho gerado mostrou uma mulher armada.

“Não pode uma mulher negra, cria da favela, estar num espaço que não da violência? O que leva essa ‘desinteligência artificial’ a associar o meu corpo, a minha identidade, com uma arma?”, lamentou a deputada.

“Em momento nenhum eu falei sobre armas. Em momento nenhum eu falei sobre violência. Eu falei sobre mulher negra em uma favela. E aparece uma mulher negra com uma arma na mão. Ou seja: o racismo algorítmico está aí. Essa lógica de criminalização das pessoas negras desses territórios de favela e periferia, ela também está nos algoritmos”, destacou a parlamentar.

Doutora em Comunicação e Cultura pela Pontifícia Universidade Católica (PUC-RJ), a deputada foi criada no Complexo da Maré, na Zona Norte do Rio. Renata também é conhecida por ter sido amiga e chefe de gabinete de Marielle Franco, vereadora assassinada a tiros em 2018.

A Microsoft, que hospeda o robô inteligente dentro do site bing.com/create, informou ao g1 que investiga o caso e que tomará medidas adequadas para ajustar o serviço.

“Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério”, diz a nota.

O “robô desenhista” foi criado pela mesma desenvolvedora do ChatGPT, a Open AI, parceira da Microsoft.