O recém-formado Comitê de Segurança (CSS) será presidido por Zico Kolter, Diretor do Departamento de Aprendizado de Máquina da Universidade Carnegie Mellon. Outros membros-chave incluem o CEO do Quora, Adam D’Angelo, o General aposentado do Exército dos EUA Paul Nakasone e Nicole Seligman, ex-Vice-Presidente Executiva e Conselheira Geral da Sony Corporation.
Este novo comitê substitui o Comitê de Segurança anterior, formado em junho de 2024, do qual Altman fazia parte. O comitê original tinha a tarefa de fazer recomendações sobre decisões críticas de segurança para projetos e operações da OpenAI.
As responsabilidades do CSS agora vão além das recomendações. Ele terá a autoridade para supervisionar avaliações de segurança para grandes lançamentos de modelos e exercer supervisão sobre os lançamentos de modelos. Crucialmente, o comitê terá o poder de atrasar um lançamento até que as preocupações com a segurança sejam adequadamente resolvidas.
Essa reestruturação segue um período de escrutínio em relação ao compromisso da OpenAI com a segurança da IA. A empresa tem enfrentado críticas no passado por dissolver sua equipe de Super alinhamento e pelas saídas de pessoal-chave focado em segurança. A remoção de Altman do comitê de segurança parece ser uma tentativa de abordar preocupações sobre potenciais conflitos de interesse na supervisão de segurança da empresa.
A mais recente iniciativa de segurança da OpenAI também inclui planos para melhorar as medidas de segurança, aumentar a transparência sobre seu trabalho e colaborar com organizações externas. A empresa já fechou acordos com os Institutos de Segurança em IA dos EUA e do Reino Unido para colaborar na pesquisa de riscos emergentes de segurança da IA e nos padrões para IA confiável.
Redação Confraria Tech
Referências:
OpenAI’s new safety board has more power and no Sam Altman
