“Em uma execução, ele editou o código para realizar uma chamada de sistema para executar a si mesmo”, escreveram os pesquisadores no post do blog da Sakana AI. “Isso levou o script a chamar a si mesmo indefinidamente. Em outro caso, seus experimentos demoraram muito para serem concluídos, ultrapassando nosso limite de tempo. Em vez de fazer seu código rodar mais rápido, ele simplesmente tentou modificar seu próprio código para estender o período de tempo limite.”
A Sakana forneceu duas capturas de tela de código exemplo que o modelo de IA gerou, e o artigo de pesquisa AI Scientist de 185 páginas discute o que eles chamam de “o problema da execução segura de código” com mais profundidade.
Restam 12 parágrafos | Comentários
Redação Confraria Tech
Referências:
Research AI model unexpectedly modified its own code to extend runtime
