Para os não familiarizados, a DeepMind é uma das divisões de IA da Google, e a carta afirma que a adoção de contratos militares entra em conflito com as próprias regras de IA da empresa. A carta foi enviada quando preocupações internas começaram a circular no laboratório de IA de que a tecnologia estava supostamente sendo vendida para organizações militares por meio de contratos de nuvem.
De acordo com a Time, os contratos da Google com o exército dos Estados Unidos e o exército israelense permitem acesso a serviços por meio da nuvem, e isso inclui supostamente a tecnologia de IA desenvolvida pela DeepMind. A carta não se detém em nenhuma organização militar específica, com os trabalhadores enfatizando que “não se trata da geopolítica de nenhum conflito específico”.
Relatórios desde 2021 têm lentamente revelado o alcance da tecnologia fornecida pela Google (e Amazon) ao governo israelense por meio de uma parceria conhecida como Projeto Nimbus. Esta está longe de ser a primeira vez que os funcionários da Google protestam abertamente contra o uso de seu trabalho para apoiar objetivos militarmente carregados politicamente – a empresa demitiu dezenas de funcionários que se manifestaram contra o Projeto Nimbus no início deste ano.
“Qualquer envolvimento com a fabricação militar e de armas afeta nossa posição como líderes em IA ética e responsável, e vai contra nossa declaração de missão e princípios declarados de IA,” diz a carta da DeepMind. Vale ressaltar que o slogan da Google costumava ser “não seja mal”.
A carta continua pedindo que os líderes da DeepMind neguem acesso de usuários militares à sua tecnologia de IA e estabeleçam um novo órgão interno de governança para impedir que a tecnologia seja usada por futuros exércitos. De acordo com quatro funcionários não identificados, a Google ainda não ofereceu uma resposta tangível à carta. “Não recebemos nenhuma resposta significativa da liderança,” disse um deles, “e estamos ficando cada vez mais frustrados”.
A Google respondeu ao relatório da Time, dizendo que cumpre seus princípios de IA. A empresa afirma que o contrato com o governo israelense “não se destina a cargas de trabalho altamente sensíveis, classificadas ou militares relevantes para armas ou serviços de inteligência”. No entanto, sua parceria com o governo israelense tem sido alvo de muita atenção nos últimos meses.
A Google comprou a DeepMind em 2014, sob a promessa de que sua tecnologia de IA nunca seria usada para fins militares ou de vigilância. Durante muitos anos, a DeepMind teve permissão para operar com um bom grau de independência de sua empresa-mãe, mas a crescente corrida pela IA parece ter mudado isso. Os líderes do laboratório passaram anos buscando maior autonomia da Google, mas foram rejeitados em 2021.
Referências:
DeepMind workers urge Google to drop military contracts
