Questão de Engenharia de SoftwareInteligencia Artificial
- Banca:
- CESPE / CEBRASPE
- Ano:
- 2026
- Modalidade:
- Múltipla escolha
- Código:
- Q3856595
Certa startup brasileira desenvolveu uma aplicação de
inteligência artificial para auxiliar a justiça federal na análise
inicial de recursos jurídicos de baixo valor. O sistema opera
como um agente inteligente que utiliza um extenso dataset de
jurisprudências passadas para calcular a probabilidade de sucesso
de novos recursos, com o objetivo de otimizar a triagem
processual ao maximizar a taxa de acerto nas suas previsões.
Em testes, a aplicação atingiu uma impressionante taxa de
precisão de 98% na previsão de resultados. No entanto, uma
auditoria de compliance ético revelou que o algoritmo
apresentava um viés: os recursos originários de regiões com
baixo índice de desenvolvimento humano (IDH) do Nordeste
brasileiro eram sistematicamente classificados com menor
probabilidade de sucesso, mesmo quando apresentavam mérito
legal similar a casos de regiões mais desenvolvidas. A equipe
técnica defendeu o sistema, alegando que ele era racional, pois
maximizava consistentemente a métrica de acerto definida.
Considerando a natureza do sistema criado nessa situação
hipotética e a distinção fundamental entre racionalidade e justiça
em sistemas de IA, assinale a opção que apresenta corretamente a
falha ética do sistema à luz dos conceitos básicos da inteligência
artificial.
inteligência artificial para auxiliar a justiça federal na análise
inicial de recursos jurídicos de baixo valor. O sistema opera
como um agente inteligente que utiliza um extenso dataset de
jurisprudências passadas para calcular a probabilidade de sucesso
de novos recursos, com o objetivo de otimizar a triagem
processual ao maximizar a taxa de acerto nas suas previsões.
Em testes, a aplicação atingiu uma impressionante taxa de
precisão de 98% na previsão de resultados. No entanto, uma
auditoria de compliance ético revelou que o algoritmo
apresentava um viés: os recursos originários de regiões com
baixo índice de desenvolvimento humano (IDH) do Nordeste
brasileiro eram sistematicamente classificados com menor
probabilidade de sucesso, mesmo quando apresentavam mérito
legal similar a casos de regiões mais desenvolvidas. A equipe
técnica defendeu o sistema, alegando que ele era racional, pois
maximizava consistentemente a métrica de acerto definida.
Considerando a natureza do sistema criado nessa situação
hipotética e a distinção fundamental entre racionalidade e justiça
em sistemas de IA, assinale a opção que apresenta corretamente a
falha ética do sistema à luz dos conceitos básicos da inteligência
artificial.