Os modelos de GPAI são aqueles que utilizam uma capacidade computacional superior a 10²⁵ FLOPs, e empresas como OpenAI, Google, Meta, Anthropic e Mistral estão entre as que devem se enquadrar nessas diretrizes. No entanto, é possível que essa lista se expanda à medida que novas tecnologias surjam.
O rascunho aborda diversas áreas fundamentais para os desenvolvedores de GPAI, como transparência, conformidade com direitos autorais, avaliação de riscos e mitigação de riscos técnicos e de governança. Com 36 páginas, o documento já abrange uma ampla gama de tópicos, e é provável que cresça ainda mais antes de ser finalizado. Alguns pontos destacados merecem atenção especial.
Um dos focos do código é a transparência no desenvolvimento da IA, exigindo que as empresas forneçam informações sobre os crawlers da web utilizados para treinar seus modelos. Essa exigência é especialmente importante para os detentores de direitos autorais e criadores de conteúdo. A seção dedicada à avaliação de riscos busca prevenir ofensas cibernéticas, discriminação generalizada e a perda de controle sobre a IA — um tema recorrente em muitos filmes de ficção científica, onde a tecnologia “sai do controle”.
Os desenvolvedores de IA são incentivados a adotar um Framework de Segurança e Proteção (SSF) para detalhar suas políticas de gestão de riscos e mitigá-los de forma proporcional aos riscos sistêmicos que enfrentam. As regras também abordam aspectos técnicos, como a proteção dos dados dos modelos, a implementação de controles de acesso seguros e a reavaliação contínua da eficácia dessas medidas. Por fim, a seção de governança busca promover a responsabilidade dentro das empresas, exigindo avaliações de risco constantes e a inclusão de especialistas externos quando necessário.
Assim como em outras regulamentações tecnológicas da UE, as empresas que não cumprirem a Lei de IA podem enfrentar penalidades severas. As multas podem chegar a €35 milhões (cerca de US$36,8 milhões) ou até sete por cento de seus lucros anuais globais, o que for maior.
Os interessados estão convidados a enviar feedback por meio da plataforma Futurium até 28 de novembro, contribuindo para o aprimoramento do próximo rascunho. As regras devem ser finalizadas até 1º de maio de 2025.
Redação Confraria Tech.
Referências:
The EU publishes the first draft of regulatory guidance for general purpose AI models
