Dados do Trabalho

Título

RACISMO ALGORITMICO E O ACESSO DE PESSOAS NEGRAS A FILA DE TRANSPLANTE RENAL.

Introdução

Em Chicago, pessoas negras são 27% menos propensas a acessar a fila do transplante renal e o ordenamento dessa lista tem sido realizado por Inteligência Artificial (IA). Entre os possíveis vieses, destacam-se as variáveis que classificam a gravidade clínica dos pacientes, pois não há consenso sobre como determinar a taxa de filtração glomerular estimada (eGFR) de pessoas negras. Estudos apontam que o uso da raça superestima em até 16% a eGFR de pacientes negros, fazendo com que eles sequer entrem na fila de transplante. Assim, o objetivo deste trabalho é descrever os vieses da IA que fomentam o racismo algorítmico e seu impacto no ordenamento da fila de transplante renal.

Material e Método

Trata-se de uma revisão descritiva da literatura científica. As questões norteadoras foram: “Por que a IA direciona as pessoas negras para o fim da fila de transplante? O que pode ser feito para corrigir os vieses?". Foram realizadas buscas no PubMed® e BVS, utilizando os descritores: Artificial Intelligence, Racism, Ethics, Transplantation. Adicionalmente, houve buscas na literatura cinza em blogs, livros digitais, seminários, etc.

Resultados

Foram encontradas 635 publicações, destas 3 atendiam aos objetivos da pesquisa. Outras 3 fontes foram adicionadas da literatura cinza. Para o presente trabalho, destaca-se três pontos associados aos vieses da IA que corroboram para o racismo algorítmico: 1) Número elevado de features; 2) Cálculo da eGFR; 3) Amostras desbalanceadas.

Discussão e Conclusões

1) O uso exacerbado de variáveis para atingir maior precisão dos modelos de IA é prejudicial à população negra, possivelmente por denotar seus piores indicativos sociodemográficos.
2) O uso da variável raça para o cálculo da eGFR pode classificar como mais hígidas as pessoas negras, fazendo que estas não cheguem a fila ou sejam colocadas no final dela.
3) Se a eGFR está superestimando a função renal dos pacientes negros, não há dados equânimes para o desenvolvimento do modelo de IA. Assim, o viés seria decorrente da amostra homogênea no qual o modelo foi treinado.
Para equiparar os valores contidos nas variáveis de amostras desbalanceadas, pode-se tratar os dados de treino utilizando uma fórmula matemática que evita que o resultado seja determinado pelo grupo dominante.
O presente trabalho apontou que o excesso de features nos modelos e a seleção da fórmula mais adequada para o cálculo da eGFR são os pontos centrais na discussão sobre os vieses da IA no ordenamento da fila de transplante renal.

Palavras Chave

Discriminação algoritmica; Vieses algoritmos; Algoritmos de Leviathan; Machine Learning.

Área

Multiprofissional: Outras áreas