Erro em algoritmo leva Facebook a classificar negros como “primatas”
Software que fez disparar a mensagem racista já foi desativado.
Miguel Azevedo
7 de Setembro de 2021 às 08:24
Um erro “lamentável” e “inaceitável”. Foi assim que a Facebook classificou o lapso originado por um algoritmo de Inteligência Artificial (IA) que é usado pela empresa para gerar recomendações e que classificou agora um vídeo de homens negros com o termo “primatas”. A Facebook já desativou o software que fez disparar a mensagem e diz agora que está a analisar o que se terá passado.
Tudo aconteceu quando alguns utilizadores que viram um vídeo publicado pelo tabloide britânico ‘Daily Mail’ a 27 de junho de 2020 e que retratava homens negros receberam depois a recomendação para “continuar a ver vídeos de primatas”. O vídeo incluía vários clipes de homens negros em confrontos com civis brancos e polícias, não tendo quaisquer conteúdos sobre vida animal. A denúncia desta situação está a gerar polémica, com a gigante tecnológica a ter de vir a público pedir desculpa. “Já realizámos várias melhorias na nossa Inteligência Artificial, mas sabemos que não é perfeita e temos muitos progressos a fazer ainda. Pedimos desculpa a todas as pessoas que possam ter visto estas recomendações ofensivas”, afirmou um porta-voz da rede social citado pelo ‘The New York Times’.
pormenores
Google chama “gorilas”
Em 2015, a aplicação Google Fotos identificou homens negros como “gorilas” e, já no ano passado, também o Facebook anunciava estar a investigar se os seus algoritmos de Inteligência Artificial (IA) apresentavam traços de discriminação racial.
Empresas sob escrutínio
Google, Amazon e outras empresas tecnológicas estão sob escrutínio por causa dos sistemas de IA em torno de questões de raça. Estudos mostram que a tecnologia de reconhecimento facial é tendenciosa contra pessoas negras e tem problemas para identificá-las.
Ver comentários