Monitore a imparcialidade e o viés dos modelos de classificação.
Com a análise de perfil de dados, você pode monitorar as previsões de um modelo de classificação para verificar se o modelo apresenta desempenho semelhante em dados associados a diferentes grupos. Por exemplo, você pode investigar se um classificador dedefault de empréstimos gera a mesma taxa de falsos positivos para candidatos de diferentes perfis demográficos.
Trabalhar com métricas de imparcialidade e viés
Para monitorar a imparcialidade e o viés, você cria uma expressão Boolean de segmentação. O grupo definido pela expressão de fatiamento que avalia para True é considerado o grupo protegido (isto é, o grupo contra o qual você está verificando a existência de viés). Por exemplo, se você criar slicing_exprs=["age < 25"], a fatia identificada por slice_key = “idade < 25” e slice_value = True é considerada o grupo protegido e a fatia identificada por slice_key = “idade < 25” e slice_value = False é considerada o grupo não protegido.
O perfil calcula automaticamente métricas que comparam o desempenho do modelo de classificação entre grupos. As seguintes métricas são apresentadas na tabela de métricas do perfil:
predictive_parity, que compara a precisão do modelo entre grupos.predictive_equality, que compara as taxas de falsos positivos entre grupos.equal_opportunity, que mede se um rótulo é previsto igualmente bem para ambos os grupos.statistical_parity, que mede a diferença nos resultados previstos entre os grupos.
Essas métricas são calculadas somente se o tipo de análise for InferenceLog e problem_type for classification.
Para obter as definições dessas métricas, consulte as seguintes referências:
- Artigos da Wikipédia sobre imparcialidade em machine learning:
https://en.wikipedia.org/wiki/Fairness_(machine_learning) - Definições de equidade explicadas, Verma e Rubin, 2018
Resultados das métricas de imparcialidade e viés
Consulte a referênciaAPI para obter detalhes sobre essas métricas e como view las nas tabelas de métricas. Todas as métricas de equidade e viés compartilham o mesmo tipo de dados, conforme mostrado abaixo, exibindo as pontuações de equidade calculadas em todas as classes previstas de maneira "um contra todos", como par key-valor.
Você pode criar um alerta com base nessas métricas. Por exemplo, o proprietário do modelo pode configurar um alerta para quando as métricas de equidade ultrapassarem um determinado limite e, em seguida, encaminhar esse alerta para uma pessoa ou equipe de plantão para investigação.