O Nevada Independent escreveu em junho que o modelo de IA, treinado nas leis e políticas de desemprego do estado, irá analisar transcrições de audiências virtuais de apelação. Em seguida, irá emitir um parecer, que um funcionário estadual irá revisar em busca de erros e decidir se deve ser acatado.
Isso substitui o processo atual do Departamento de Emprego, Treinamento e Reabilitação de Nevada (DETR), que leva em média três horas para ser concluído por um ser humano real. Carl Stanfield, administrador de TI do DETR, disse ao Nevada Independent que a IA do Google (que utiliza o sistema de nuvem Vertex da empresa) pode emitir um parecer em apenas cinco minutos. “A economia de tempo é fenomenal”, disse Stanfield.
É fácil entender por que Nevada estaria ansioso para contar com essa tecnologia emergente. Até junho, o estado tinha um acúmulo de mais de 10.000 apelações não processadas, cerca de 1.500 das quais remanescentes da pandemia. E se as análises da tecnologia forem precisas — ou se os revisores humanos detectarem seus erros —, poderia representar uma economia de tempo enorme.
No entanto, pode haver pressão psicológica para que os funcionários que revisam os casos aprovem as conclusões da IA. “Se um robô acabou de lhe dar uma recomendação e você só precisa marcar uma caixa, e há pressão para eliminar um acúmulo, isso é um pouco preocupante”, disse Michele Evermore, ex-diretora adjunta de política de modernização do desemprego no Departamento do Trabalho, ao Gizmodo.
Stanfield disse ao Gizmodo que um comitê de governança se reunirá semanalmente enquanto o estado aprimora o modelo e trimestralmente após sua implementação para monitorar alucinações e viés. Os riscos podem ser altos para os requerentes, já que o sistema alimentado por IA pode afetar sua capacidade de contestar decisões equivocadas. “Em casos que envolvem questões de fato, o tribunal distrital não pode substituir seu próprio julgamento pelo do árbitro de apelação”, disse Elizabeth Carmona, advogada sênior da Nevada Legal Services, ao Gizmodo. Em outras palavras, se o revisor humano não perceber os erros da IA, um tribunal pode não ter base legal para anulá-los.
Um político de Nevada expressou suas dúvidas de forma mais direta. “Estamos loucos?”, disse o senador estadual de Nevada Skip Daly (D-Reno) ao Nevada Independent neste verão. “Estou cético em relação ao conceito de dependência excessiva de algoritmos e computadores. Espero que tenhamos cautela e pensem antes de simplesmente dizer: ‘Temos que ser mais rápidos ou melhores que o próximo cara’.”
Redação Confraria Tech
Referências:
Nevada will use Google AI to process a backlog of unemployment cases
