Cientista expõe como a indústria da IA lucra com a desigualdade e a exploração, em entrevista ao PrograMaria Summit.
A cientista cognitiva etíope Abeba Birhane, membro do Órgão Consultivo de IA do Secretário-Geral da ONU e reconhecida entre as 100 pessoas mais influentes da IA pelas revistas Time e Wired, utilizou sua participação no PrograMaria Summit, evento que promove ações para impulsionar a jornada de mulheres no mundo da tecnologia, para desmascarar a face obscura da indústria.
Em uma conversa com a professora Kizzy Terra, Birhane expôs como a IA, muitas vezes vendida como uma solução para os problemas da humanidade, na verdade, amplifica as desigualdades sociais e explora trabalhadores e o meio ambiente.
Ela já expôs, por exemplo, o uso de bancos de dados com imagens racistas e misóginas criados por renomadas universidades americanas, como o MIT e a NYU, que posteriormente foram obrigadas a remover os conteúdos e se desculpar publicamente.
Para Birhane, a ascensão da IA é impulsionada por interesses capitalistas que maximizam lucros às custas do meio ambiente e de trabalhadores mal remunerados. Segundo ela, é preciso abandonar a ideia de que a IA foi desenvolvida com uma visão altruísta, e sim tratá-la como uma ferramenta do capitalismo.
A cientista alerta também para a falta de regulamentação e de transparência, que permite que a indústria escape de responsabilidade pelas consequências das suas criações. Ela defende que, assim como qualquer outra área da engenharia, a IA deveria ser submetida a rigorosos testes de segurança antes de seu uso.
Além disso, Birhane aponta para o uso discriminatório de algoritmos, como os de recrutamento, que muitas vezes favorecem determinados perfis com base em gênero ou raça. Estudos mostram que sistemas de recomendação para vagas de trabalho, por exemplo, frequentemente discriminam candidatos mulheres e negros, direcionando vagas de prestígio a homens brancos e asiáticos.
Ela também critica o impacto ambiental da IA generativa, cuja alta demanda energética agrava a crise climática. A cientista destaca ainda o uso de dados extraídos sem o devido consentimento de comunidades e trabalhadores sub-remunerados na América do Sul, África e Ásia.
Birhane argumenta que a IA poderia ser usada para o bem social, mas isso requer uma mudança de foco. Em vez de prever a probabilidade de alguém reincidir no crime, por exemplo, a IA poderia ser usada para facilitar a reinserção de ex-detentos na sociedade.
Com uma visão crítica, Abeba Birhane nos lembra que a verdadeira revolução tecnológica é aquela que beneficia a todos de forma justa e equitativa.
Fonte: Tilt