“Não alucine”: Testers encontram instruções destinadas a manter a Inteligência da Apple nos trilhos.

A Apple Intelligence foi revelada na WWDC 2024. Como pai de uma criança pequena, posso dizer que fazer com que uma criança responda da maneira desejada pode exigir uma cuidadosa definição de expectativas. Especialmente quando estamos tentando algo novo pela primeira vez, percebo que quanto mais detalhes eu posso fornecer, melhor ele é capaz de antecipar eventos e lidar com imprevistos.

Trago isso à tona porque os testadores dos novos recursos de inteligência artificial da Apple no recém-lançado macOS Sequoia beta descobriram arquivos JSON em texto simples que listam uma série de condições destinadas a manter a tecnologia de IA generativa de ser inútil ou imprecisa. Não quero humanizar algoritmos de IA generativa, porque eles não merecem, mas as listas cuidadosamente redigidas de instruções me lembram o que é tentar dar instruções básicas a (ou explicar moralidade a) uma entidade que não está totalmente preparada para compreendê-la.

Os arquivos em questão estão armazenados na pasta /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels/purpose_auto em Macs executando o macOS Sequoia 15.1 beta que também aderiram ao beta da Apple Intelligence. Essa pasta contém 29 arquivos metadata.json, vários dos quais incluem algumas frases que parecem ser prompts de sistema em inglês simples para definir o comportamento de um chatbot de IA alimentado por um grande modelo de linguagem (LLM).

Redação Confraria Tech.

Referências:
“Do not hallucinate”: Testers find prompts meant to keep Apple Intelligence on the rails