Desmascarar os preconceitos de género: em Inteligência Artificial

Bol

Através de uma revisão sistemática da literatura, este documento explora a forma como alguns algoritmos de IA são tendenciosos, uma situação que representa um grande risco ético e social, dado que os sistemas automatizados participam ativamente numa série de decisões. Discute também a forma como a falta de diversidade nas equipas de desenvolvimento de IA e nos conjuntos de dados de treino aumenta a probabilidade de enviesamento. Além disso, destaca as implicações éticas e sociais destes enviesamentos em diferentes contextos, como no local de trabalho, onde as ferramentas de recrutamento automatizado discriminam as candidatas do sexo feminino, ou na medicina, onde os diagnósticos são menos exactos para as mulheres devido à falta de dados representativos. Do ponto de vista regulamentar, reconhece-se a insuficiência de quadros jurídicos vinculativos. Embora existam esforços como a proposta de lei sobre a IA da União Europeia ou as recomendações éticas da UNESCO, muitos destes regulamentos carecem de mecanismos de aplicação eficazes. Em contrapartida, países como o Canadá avançaram com ferramentas obrigatórias de avaliação do impacto dos algoritmos, que representam um modelo mais eficaz.

Amazon

Pagina's: 68, Paperback, Edições Nosso Conhecimento