Assembleia legislativa da Califórnia aprova polêmico projeto de lei de segurança de inteligência artificial “kill switch”

O projeto de lei SB-1047, que visa impor normas de segurança para grandes modelos de inteligência artificial, foi aprovado pela Assembleia Estadual da Califórnia por uma votação de 45 a 11. Após uma votação de 32 a 1 no Senado estadual em maio, o SB-1047 agora enfrenta apenas mais uma votação procedimental no Senado estadual antes de seguir para a mesa do governador Gavin Newsom.

Como já exploramos detalhadamente anteriormente, o SB-1047 solicita aos criadores de modelos de IA a implementação de um “interruptor de desligamento” que pode ser ativado se esse modelo começar a introduzir “ameaças inovadoras à segurança pública”, especialmente se estiver agindo “com supervisão, intervenção ou controle humano limitados”. Alguns criticaram o projeto de lei por se concentrar em riscos extravagantes de um futuro imaginado da IA, em vez dos danos reais e atuais dos casos de uso da IA, como deep fakes ou desinformação.

Ao anunciar a aprovação legislativa na quarta-feira, o patrocinador do projeto de lei e senador estadual Scott Weiner citou o apoio de luminárias da indústria de IA, como Geoffrey Hinton e Yoshua Bengio (que no ano passado também assinaram um comunicado alertando para o “risco de extinção” decorrente da rápida evolução tecnológica da IA).

Restam 8 parágrafos | Comentários
. Redação Confraria Tech

Referências:
California legislature passes controversial “kill switch” AI safety bill