Monitore a imparcialidade e o viés dos modelos de classificação.
Com a análise de perfil de dados, você pode monitorar as previsões de um modelo de classificação para verificar se o modelo apresenta desempenho semelhante em dados associados a diferentes grupos. Por exemplo, você pode investigar se um classificadordefault de empréstimos gera a mesma taxa de falsos positivos para candidatos de diferentes perfis demográficos.
Trabalhar com métricas de imparcialidade e viés
Para monitorar a imparcialidade e o viés, crie uma expressão Boolean de segmentação. O grupo em que a expressão de fatiamento resulta em True é o grupo protegido (isto é, o grupo contra o qual você está verificando a existência de viés). Por exemplo, se você criar slicing_exprs=[“age < 25”], a fatia com slice_key = “idade < 25” e slice_value = True é o grupo protegido. A fatia com slice_value = False é o grupo desprotegido.
O perfil calcula automaticamente métricas que comparam o desempenho do modelo de classificação entre grupos. A tabela de métricas de perfil apresenta as seguintes métricas:
predictive_parity, que compara a precisão do modelo entre grupos.predictive_equality, que compara as taxas de falsos positivos entre grupos.equal_opportunity, que mede se um rótulo é previsto igualmente bem para ambos os grupos.statistical_parity, que mede a diferença nos resultados previstos entre os grupos.
Essas métricas se aplicam somente quando o tipo de análise é InferenceLog e problem_type é classification.
Para obter as definições dessas métricas, consulte as seguintes referências:
- Equidade (machine learning) Artigos da Wikipédia sobre equidade em machine learning
- Definições de equidade explicadas, Verma e Rubin, 2018
Resultados das métricas de imparcialidade e viés
Consulte a referênciaAPI para obter detalhes sobre essas métricas e como view las nas tabelas de métricas. Todas as métricas de equidade e viés compartilham o mesmo tipo de dados, com as pontuações de equidade calculadas em todas as classes previstas de maneira um-contra-todos como par key-valor.
Você pode criar um alerta com base nessas métricas. Por exemplo, o proprietário do modelo pode configurar um alerta para quando as métricas de equidade ultrapassarem um determinado limite e, em seguida, encaminhar esse alerta para uma pessoa ou equipe de plantão para investigação.