Eventos Acadêmicos do IFPB, 4º Simpósio de Pesquisa, Inovação e Pós-Graduação

Tamanho da fonte: 
PERCEPÇÕES SOBRE AS DIMENSÕES DE JUSTIÇA E DIVERSIDADE EM MODELOS DE ANÁLISE PREDITIVA
Amanda Days Ramos Novo, Damires Yluska Souza Fernandes, Alex Sandro Cunha Rego

Última alteração: 2021-11-17

Resumo


Devido ao contínuo avanço nas tecnologias de comunicação, naturalmente aconteceu uma evolução também na quantidade de dados produzidos, o que provoca o interesse de organizações públicas e/ou privadas na análise desses dados para auxiliar na tomada de suas decisões. A Análise de Dados (AD) inclui tarefas que têm como objetivo geral extrair insights a partir de um conjunto de dados. A ideia é que os insights obtidos possam agregar valor na tomada de decisão. Uma das formas de proceder com AD é por meio da construção de modelos preditivos baseados em padrões extraídos a partir de dados históricos (KELLEHER; MACNAMEE; D’ARCY, 2015).

A Qualidade dos Dados (QD) empregados na geração de um modelo de análise preditiva influencia na precisão do modelo. A QD pode ser definida como a “adequação ao uso pretendido dos dados (“fitness for use”), ou seja, considera-se uma informação com qualidade se ela atender a um conjunto de requisitos que visem conformidade à uma determinada finalidade (WANG; STRONG, 1996). Para avaliar a QD são definidas dimensões como, por exemplo, completude dos dados ou reputação da fonte. No tocante à AD preditiva, dimensões de qualidade associadas à ética (FIRMANI; TANCA; TORLONE, 2019), como justiça e diversidade, têm sido cada vez mais exploradas em pesquisas e aplicações.

A ideia é que a perpetuação de preconceitos injustos seja evitada nos modelos preditivos. Isso tem acontecido em vários momentos, como, por exemplo, em 2016, quando um sistema que avaliava o risco de reincidência criminal nos Estados Unidos utilizava modelos que apresentavam resultados enviesados pela cor da pele do indivíduo analisado, considerando réus negros como futuros criminosos duas vezes mais do que réus brancos (ANGWIN et al., 2016). Esses e outros casos encontrados na literatura nos fazem refletir o quanto um modelo preditivo pode apresentar comportamentos considerados injustos e sem diversidade em relação a determinados grupos sociais devido às características dos dados utilizados para a análise.



Texto completo: Sem título