Califórnia proíbe demissão de funcionário por decisão exclusiva de IA
O governador da Califórnia, nos EUA (Estados Unidos), Gavin Newsom, sancionou uma lei que impede empresas de demitir ou punir funcionários com base apenas em decisões tomadas por inteligência artificial.
O que aconteceu
A Lei SB 947, chamada de "No Robo Bosses Act" (Lei sem chefes robôs, em tradução livre), veta o uso exclusivo de sistemas automatizados em decisões de demissão e disciplina. A regra também limita a IA (inteligência artificial) como "ferramenta principal" nesses casos e obriga revisão humana quando a empresa se apoiar "principalmente" no resultado do sistema.
A obrigação de revisão humana passa a valer quando a decisão tiver como base principal a saída da IA. Nesses casos, um revisor precisa confirmar o resultado com outras informações, como avaliações de gestores, análises de colegas e registros do funcionário.
Os trabalhadores afetados terão de ser avisados por escrito quando a IA tiver papel principal na decisão. O comunicado deve explicar quais dados pessoais foram usados pelo sistema e indicar um contato humano para esclarecer o motivo da demissão ou punição.
A fiscalização ficará com o comissário do Trabalho da Califórnia, a procuradoria-geral do estado e promotores locais. A SB 947 é a medida mais ampla já aprovada nos EUA para regular o uso de IA no ambiente de trabalho.
Autor do projeto, o democrata Jerry McNerney defendeu a exigência de controle humano sobre a tecnologia. "A IA precisa continuar sendo uma ferramenta controlada por humanos, e não o contrário", disse o político à CNBC.
Por que a lei voltou ao debate
Newsom havia vetado uma versão anterior do texto em outubro do ano passado, mesmo após ampla aprovação no Legislativo estadual. À época, ele afirmou concordar com o risco de danos aos trabalhadores, mas criticou o que chamou de exigências amplas de notificação para qualquer empresa que usasse ferramentas automatizadas.
Para destravar a sanção, McNerney retirou pontos que incomodavam o governo e parte do setor empresarial. A nova versão eliminou a obrigação de avisar previamente sempre que um sistema de IA estivesse em uso e também removeu trechos que estenderiam proteções a trabalhadores de aplicativos, alvo de críticas de empresas como Uber e Lyft.
Outras medidas e cenário nos EUA
O governador da Califórnia sancionou a SB 947 junto com outras propostas de IA e trabalho. O pacote inclui um projeto que obriga empresas a avisar por escrito se uma demissão em massa for causada por um sistema de IA e uma lei que proíbe ferramentas de vigilância no trabalho em banheiros.
O estado também vem ampliando regras para avaliação independente de sistemas de IA. Em setembro, Newsom sancionou duas leis que criam um marco para auditorias independentes de terceiros e assinou uma ordem executiva para que um grupo de especialistas proponha recomendações, incluindo a possibilidade de um "botão de desligamento" de emergência para modelos de IA de ponta.
Outros estados têm iniciativas mais limitadas, enquanto projetos federais patinam no Congresso. O estado de Illinois passou a exigir em janeiro que empresas informem o uso de IA em alguns contextos de emprego, mas sem proibir que a tecnologia seja a única responsável pela decisão; e senadores democratas apresentaram em junho um projeto federal com proposta semelhante, que não avançou.
*Com informações da CNBC e do Quart
