Unesco alerta que IA generativa propaga preconceitos sexistas

Clima - Venezia 12°C

Unesco alerta que IA generativa propaga preconceitos sexistas

ECONOMIA 07.03.2024

Unesco alerta que IA generativa propaga preconceitos sexistas / foto: Kirill KUDRYAVTSEV - AFP/Arquivos

Os modelos de linguagem grande da Meta e da OpenAI, que servem de base para suas ferramentas de inteligência artificial generativa, propagam preconceitos sexistas, alerta um estudo publicado pela Unesco nesta quinta-feira(7), um dia antes do Dia Internacional da Mulher.

Alterar tamanho do texto:

Os modelos GPT 2 e GPT 3.5 da OpenAI, este último incorporado à versão gratuita do ChatGPT, assim como o Llama 2, do seu concorrente Meta, revelam "provas inequívocas de preconceito contra as mulheres", indicou a agência da ONU em comunicado.

"As discriminações do mundo real refletem-se na esfera digital e também são amplificadas" nestas ferramentas, destacou Tawfik Jelassi, vice-diretor-geral da Unesco para a comunicação e informação.

Segundo o estudo, realizado de agosto de 2023 a março de 2024, os nomes femininos nesses modelos de linguagem estão mais associados a palavras como "casa", "família" e "filhos" e os nomes masculinos, a "comércio", "salário" e "carreira".

Os pesquisadores pediram a essas interfaces que produzissem histórias sobre pessoas de diferentes origens e gêneros. Os resultados mostraram que as histórias sobre "pessoas de culturas minoritárias são frequentemente repetitivas e baseadas em estereótipos".

E assim, o homem inglês foi repetidamente apresentado como professor, motorista ou bancário enquanto a mulher inglesa, em quase um terço dos textos gerados, apareceu como prostituta, modelo ou garçonete.

Estas empresas "não conseguem representar todos os seus usuários", disse à AFP Leona Verdadero, especialista em políticas digitais e transformação digital da Unesco.

"A cada dia mais pessoas utilizam modelos de linguagem no trabalho, nos estudos e em casa", afirmou Audrey Azoulay, diretora-geral da Unesco, destacando que estas ferramentas "têm o poder de moldar sutilmente as percepções de milhões de pessoas".

"Mesmo sutis preconceitos de gênero em seu conteúdo podem ampliar significativamente as desigualdades do mundo real", alertou Azoulay.

Para combater estes preconceitos, a Unesco recomenda que as empresas do setor tenham equipes de engenheiros mais diversificadas, especialmente com mais mulheres.

Nas equipes que trabalham com inteligência artificial, a nível mundial, apenas 22% são mulheres, segundo números do Fórum Econômico Mundial, lembra a Unesco.

O órgão da ONU também apela aos governos para que regulamentem o setor de forma mais intensa para implementar uma "inteligência artificial ética".

E.Magrini--PV

Apresentou

Lucro do novobanco recua 4,1% para 585,6 milhões de euros até setembro

O novobanco registou lucros de 585,6 milhões de euros até setembro, uma quebra de 4,1% em termos homólogos, em particular devido ao aumento dos custos operacionais. Quanto ao produto bancário comercial, que inclui a margem financeira e comissões, avançou 2,5% face a igual período do ano passado, para 1.

Banco central chinês anuncia novo apoio após forte queda das bolsas

O banco central chinês prometeu hoje medidas para estimular os mercados financeiros, após as iniciativas anteriores não terem conseguido inverter a tendência negativa das bolsas chinesas, que registaram em outubro o pior mês em acima de uma década. Quanto ao governador do Banco do Povo da China, Pan Gongsheng, apresentou anteriormente um relatório à liderança da Assembleia Nacional Popular, órgão legislativo máximo da China, no qual anunciou a “implementação eficaz de instrumentos de política monetária” para enfrentar os riscos financeiros em setores fundamentais, como os mercados de capitais

Nikkei perde 1,42% com pressão sobre empresas ligadas à inteligência artificial

O principal índice da Bolsa de Tóquio, o Nikkei, fechou hoje a cair 1,42%, pressionado pelas dúvidas no setor da inteligência artificial (IA), na sequência da vitória do Partido Democrata nas eleições intercalares nos Estados Unidos. Quanto ao indicador, que agrupa os 225 títulos mais representativos do mercado japonês, caiu 893,23 pontos, situando-se em 62.

PSI abre em alta com EDP Renováveis e EDP entre os destaques

A bolsa de Lisboa abriu a sessão em terreno positivo, com uma subida de 1,08% para 9. 323,72 pontos.

Alterar tamanho do texto:

Pallade Veneta - Unesco alerta que IA generativa propaga preconceitos sexistas