O novo memorando apresenta um cronograma para que as agências estudem as aplicações e regulamentações dos ferramentas de IA, com prazos que, em sua maioria, coincidem com o fim do mandato do presidente Biden. Um dos principais objetivos do memorando é evitar cenários distópicos, como o desenvolvimento de armas autônomas, conforme destacado pelo New York Times. Isso reflete uma preocupação crescente sobre o uso da tecnologia em contextos que podem ameaçar a segurança global.
Jake Sullivan, conselheiro de segurança nacional, anunciou a nova diretriz durante uma palestra na Universidade de Defesa Nacional, onde discutiu a presença da IA nas operações governamentais. Sullivan tem sido um defensor ativo da análise dos benefícios e riscos da tecnologia de IA, levantando também preocupações sobre como países como a China utilizam essa tecnologia para controlar sua população e disseminar desinformação. O memorando pode abrir espaço para diálogos com outras nações que estão desenvolvendo suas próprias estratégias de IA.
Um dos pontos mais importantes do memorando é a definição de limites claros para o uso da IA, especialmente em sistemas de armamento. O documento deixa claro que a IA nunca deve ser utilizada como um tomador de decisões para o lançamento de armas nucleares ou para determinar o status de asilo de imigrantes nos Estados Unidos. Além disso, proíbe o uso de IA para rastrear indivíduos com base em sua raça ou religião, ou para determinar se um suspeito é um terrorista conhecido sem a intervenção humana.
O memorando também enfatiza a proteção dos avanços em IA do setor privado, considerando-os “ativos nacionais que precisam ser protegidos… de espionagem ou roubo por adversários estrangeiros”. As agências de inteligência foram instruídas a auxiliar as empresas que trabalham com modelos de IA a garantir a segurança de seus projetos e a fornecer relatórios de inteligência atualizados para proteger esses ativos.
Essas diretrizes representam um esforço importante para equilibrar a inovação tecnológica com a responsabilidade e a ética, garantindo que o uso da IA beneficie a sociedade sem comprometer a segurança e os direitos humanos. Em um mundo cada vez mais dependente da tecnologia, é fundamental que haja um diálogo contínuo sobre como implementá-la de maneira segura e responsável.
Redação Confraria Tech.
Referências:
President Biden sets up new AI guardrails for military, intelligence agencies
