A inteligência artificial não é inteligente no sentido humano. No fundo, trata-se de algoritmos que analisam grandes quantidades de dados existentes, identificam padrões e os aplicam a novas situações. Assim, a IA reflete o passado – e, com ele, as desigualdades e discriminações existentes na nossa sociedade. Para os trabalhadores, isto acarreta riscos consideráveis.
Os algoritmos aprendem com dados do passado – e, assim, também incorporam os preconceitos desses dados. Isso influencia, por exemplo, o processo de candidatura: os sistemas de IA são treinados com decisões anteriores e aprendem, assim, quais candidaturas foram «bem-sucedidas» e quais não foram. Nesse contexto, a avaliação baseada apenas no nome, no género ou na fotografia pode levar a uma desigualdade de tratamento. Isso, por si só, não é novidade. No entanto, os sistemas algorítmicos tiram conclusões sobre o género, a origem ou a classe social com base em indícios aparentemente neutros, como o percurso académico, os conhecimentos linguísticos ou a experiência profissional. Os candidatos são automaticamente excluídos, sem que um ser humano analise os seus documentos.A discriminação começa muitas vezes antes mesmo da candidatura. Pesquisas da Algorithm Watch revelaram que os anúncios de emprego em plataformas online como o Facebook são exibidos de forma direcionada a determinados grupos – ou simplesmente não são. Isso reforça os papéis tradicionais. Os empregos na área da infância são mais frequentemente apresentados a mulheres, enquanto os empregos nos transportes são apresentados principalmente a homens.
Também no dia-a-dia do trabalho, o uso da IA aumenta a pressão sobre os trabalhadores. Sob o pretexto da eficiência e da produtividade, os processos são condensados e acelerados. Para os trabalhadores, isso significa: mais ritmo, mais controlo e mais stress. Mas nenhuma participação nos lucros, nem aumento salarial, nem mais tempo livre.Em grandes centros logísticos, como na Amazon, isto já é levado ao extremo: algoritmos atribuem tarefas, calculam os tempos médios necessários e monitorizam constantemente o desempenho. Através da IA, os dados são analisados em tempo real. Quem não atingir os valores-alvo predefinidos é automaticamente sancionado.
A utilização da IA no local de trabalho não pode ser um espaço sem regras. Deve ser possível contestar as decisões. Por isso, o Unia defende a transparência na utilização da IA no local de trabalho. Os direitos de co-decisão aplicam-se também às tecnologias digitais. Os empregadores assumem a total responsabilidade pela utilização de sistemas de IA e devem responder pelas suas decisões erradas. Se houver suspeita de discriminação, ou mesmo se esta for comprovada, esta pode ser ser comunicado ao Algorithm Watch.
Referências:
A autora é secretária especializada do Unia