A inteligência artificial parece estar “ampliando as desigualdades”, e sua implantação deve estar sujeita a rígidos regulamentos e limites, especialmente para tecnologias sensíveis, como a do reconhecimento facial, alertam pesquisadores em um relatório divulgado nesta quinta-feira.
O AI Now Institute, um centro da Universidade de Nova York que estuda as implicações sociais da inteligência artificial, disse que, à medida que essas tecnologias se tornam mais acessíveis, seus efeitos negativos começam a aparecer.
Os sistemas de IA (armazenamento e análise de dados em larga escala, automação de processos, aprendizado autônomo de máquinas…) estão sendo implementados em setores como saúde, educação, recrutamento de pessoal e justiça “sem salvaguardas ou estruturas de controle apropriadas”, estimam os pesquisadores no relatório de 93 páginas.
Uma preocupação especial é o uso da IA nos “serviços sociais, vigilância e monitoramento de imigrantes e minorias”.
“Está claro que, em vários campos e contextos, a IA está ampliando as desigualdades, colocando a informação e meios de controle nas mãos de quem já tem poder, privando aqueles que não o têm”.
O reconhecimento facial, já muito expandido, e o reconhecimento de emoções pelas máquinas, mais incipiente, estão sendo implementados muito rapidamente, segundo o estudo.
Governos e empresas devem parar de usar o reconhecimento facial “em contextos sociais e políticos sensíveis”, até que os riscos sejam melhor compreendidos, aponta o estudo.
A identificação de emoções pelas máquinas deveria ser simplesmente proibida. “Não deve ser permitido desempenhar um papel importante nas decisões que afetam as pessoas, como entrevistas de emprego, o preço de uma apólice de seguro, consultas médicas ou avaliação de alunos na escola”, afirma o relatório.
Continua depois da publicidade |
Os pesquisadores chamam engenheiros e desenvolvedores a estarem melhor informados sobre as implicações dos dispositivos e programas que constroem e “denunciam os usos antiéticos ou perigosos de seu trabalho”.
De maneira mais geral, alertam que o setor de inteligência artificial deve fazer “mudanças estruturais” para garantir que os algoritmos não reforcem o racismo ou a falta de diversidade. “A indústria de IA é terrivelmente homogênea”, critica o estudo.
Gostou? Então compartilhe:
