Quando uma inteligência artificial analisa o rosto de alguém, ela consegue enxergar aquela pessoa de forma neutra? Ou será que características como gênero, idade, cor da pele e aparência influenciam as respostas geradas por essas tecnologias? Em uma realidade em que chatbots, assistentes virtuais e imagens ultrarrealistas fazem parte do cotidiano, dúvidas como essas passaram a fazer parte das discussões sobre os impactos sociais e éticos da Inteligência Artificial.
É justamente por conta desse questionamento que surge a pesquisa de pós-doutorado do professor Victor Flavio Araujo, dos cursos de Tecnologia da Informação (TI) da Universidade Tiradentes (Unit). O estudo será desenvolvido em parceria com o Instituto Kunumi e a Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS), com foco na análise de vieses presentes tanto em seres humanos quanto em inteligências artificiais quando interagem com humanos digitais realistas.
A proposta do projeto é investigar se ferramentas de IA, como chatbots e sistemas de análise de imagem, reproduzem padrões sociais presentes na internet e na sociedade. “A ideia é avaliar vieses de gênero, cor de pele, idade, entre outros, em Inteligências Artificiais focadas em imagens de humanos virtuais realistas. Por exemplo, um Claude, um ChatGPT ou qualquer outro chatbot consegue classificar corretamente o gênero de uma pessoa que passa por uma transição de gênero? Ou será que essas IAs são enviesadas por contextos sociais em relação a determinadas características visuais?”, explica Victor Flavio.
Etapas e parceria
Segundo o pesquisador, a primeira etapa da investigação será justamente identificar se esses vieses existem e como eles se manifestam. Depois disso, o grupo pretende desenvolver estratégias computacionais capazes de reduzir essas distorções e contribuir para sistemas mais inclusivos.
A parceria que deu origem ao projeto surgiu a partir da professora Soraia Raupp Musse, orientadora de mestrado e doutorado de Victor Flavio na área de Ciência da Computação da PUCRS. “Ela me convidou para fazer pós-doutorado nessa linha de pesquisa no Instituto Kunumi, e aí eu aceitei e convidei os alunos da graduação em Ciência da Computação da Unit, a Ana Carolina Andrade Passos, o Erick Marck De Barros Menezes e o Rafael José Mecenas Silva”, relata.
O Instituto Kunumi, parceiro da pesquisa, atua como coletivo de pesquisa e laboratório de Inteligência Artificial do Sul Global, com foco em aprendizado de máquina, inovação científica e desenvolvimento de tecnologias com abordagem humana e colaborativa. A aproximação entre os pesquisadores e o instituto aconteceu após a apresentação de estudos anteriores desenvolvidos por Victor Flavio e seus alunos sobre percepção de humanos virtuais e representação de cor da pele.
As pesquisas mostraram, por exemplo, que homens e mulheres apresentam preferências diferentes em relação a personagens virtuais dependendo do gênero deles, além de apontarem que algoritmos utilizados para criação de tonalidades de pele apresentam maior precisão para peles claras em comparação com tons mais escuros. “Também mostramos que algoritmos para criação de cor de pele são mais enviesados para tonalidades mais claras em relação a interações com luzes de ambientes. Tudo isso foi apresentado ao Instituto Kunumi, e eles aprovaram um projeto relacionado a essa temática”, afirma.
Na prática, o estudo utilizará humanos virtuais criados digitalmente e modificados com diferentes características físicas e visuais. A partir dessas imagens, os pesquisadores irão observar como as inteligências artificiais interpretam essas representações. “Podemos pegar uma foto minha, transformar em um humano virtual 3D, alterar tonalidade da pele, cabelo, idade ou características femininas e depois enviar essas imagens para uma IA analisar. Cada mudança gera uma nova imagem e uma nova resposta da IA, permitindo identificar padrões de comportamento e possíveis vieses”, detalha o professor.
Sinergia entre diversas áreas
A pesquisa também dialoga com áreas como psicologia, cinema, jogos digitais e redes sociais. Isso porque humanos virtuais já fazem parte de campanhas publicitárias, produções audiovisuais e até interações comerciais. Victor Flavio cita como exemplo o software Metahuman Creator, utilizado pelo grupo para desenvolver personagens digitais realistas e também empregado por grandes produções da indústria do entretenimento.
“Esses humanos virtuais são usados em filmes, jogos, séries e até influenciadores digitais. Então, tanto do lado da indústria quanto do lado das Inteligências Artificiais, esses produtos precisam representar fielmente a diversidade da população em termos de cor de pele, raça, gênero, peso e idade”, ressalta.
O pesquisador explica ainda que os vieses observados nas inteligências artificiais costumam refletir padrões históricos e sociais já presentes nos dados utilizados para treinar essas ferramentas. “As IAs generativas são treinadas com informações disponíveis na internet. Se a maior parte dessas informações apresenta determinados padrões sociais, essas características acabam sendo reproduzidas pelas respostas geradas”, pontua.
Com duração inicial prevista de dois anos, o pós-doutorado envolverá a criação de humanos virtuais diversos, análise das respostas produzidas por IAs generativas e desenvolvimento de técnicas para reduzir vieses computacionais. Ao longo do projeto, a expectativa é publicar artigos científicos e apresentar resultados em eventos nacionais e internacionais da área. Inclusive, dois trabalhos já foram submetidos para importantes conferências da computação: o SEMISH 2026, que acontecerá em Gramado, e o SIBGRAPI 2026, previsto para Goiânia.
Para Victor Flavio, discutir diversidade e representatividade dentro da tecnologia é uma necessidade urgente diante do avanço das inteligências artificiais generativas e da crescente presença de humanos digitais no cotidiano. “Nós de TI criamos softwares e produtos para pessoas. Então precisamos entender as pessoas, compreender suas características e suas diferenças para que esses produtos façam com que todos se sintam representados e confortáveis. A tecnologia também precisa discutir questões sociais”, conclui.
Leia também: Unit Idiomas abre novas turmas e lança curso inédito de Alemão em 2026.2