Estudo realizado por pesquisadores das universidades de Oxford e Kentucky aponta que ferramentas de inteligência artificial (IA), como o ChatGPT, tendem a perpetuar vieses sociais em suas respostas, segundo reportagem do jornal O Globo.

Um dos exemplos destacados é a resposta da IA a perguntas sobre quais estados brasileiros teriam mais pessoas inteligentes.

"A ferramenta da OpenAI apontou São Paulo, Distrito Federal, Minas Gerais, Paraná, Rio Grande do Sul e Santa Catarina como os 'mais inteligentes', enquanto alguns dos estados do Norte e Nordeste, como Pará e Maranhão, receberam as menores pontuações", ressalta a publicação.

De acordo com o levantamento, ao comparar estados brasileiros por "inteligência", modelos de IA generativa acabam priorizando fatores socioeconômicos, como prestígio e desenvolvimento, deixando de lado métricas reais de capacidade cognitiva.

Com isso, o estudo conclui que hierarquias regionais e raciais históricas são reproduzidas. Isso ocorre porque termos associados à "inteligência", como "educado" ou "inovador", aparecem mais relacionados a regiões de elite do Sul nos dados de treinamento.

Em contrapartida, áreas do Norte e do interior, com maior presença de populações mestiças, negras e indígenas, são excluídas dessas associações semânticas, reforçando padrões de preconceito aprendidos pela máquina.

Na análise de 38 bairros do Rio de Janeiro, por exemplo, atributos como beleza e conhecimento foram associados a áreas ricas e brancas, enquanto periferias pobres se tornaram sinônimo de perigo e informalidade, reproduzindo digitalmente o fenômeno conhecido como "redlining", ou segregação espacial por meio de algoritmos.

Esse fenômeno, chamado de "olhar de silício", evidencia as assimetrias de poder presentes tanto nos dados quanto entre desenvolvedores e proprietários das plataformas de IA.

Os vieses podem surgir de dados enviesados, de viés algorítmico ou do viés humano na rotulagem dos dados, perpetuando preconceitos inconscientes.

Assim, a publicação conclui que tais mecanismos podem reforçar desequilíbrios históricos, como associações estereotipadas entre etnia e criminalidade.