Esse método se aproveita de caracteres invisíveis que surgem a partir de uma peculiaridade no padrão de codificação de texto Unicode. Esses caracteres atuam como um canal oculto, permitindo que atacantes escondam códigos maliciosos que são alimentados em modelos de linguagem (LLMs). Além disso, esse texto oculto pode ser usado para mascarar a exfiltração de senhas, informações financeiras e outros segredos valiosos dos chatbots alimentados por IA.
Um dos aspectos preocupantes desse fenômeno é que o texto invisível pode ser misturado ao texto normal. Isso faz com que usuários desavisados possam colar acidentalmente esses caracteres ocultos em seus comandos. O resultado é que conteúdos secretos podem ser anexados a textos visíveis nas respostas dos chatbots, criando uma situação na qual a segurança das informações pessoais fica em risco.
Essencialmente, estamos lidando com uma estrutura steganográfica que está embutida no que é, de longe, um dos canais de codificação de texto mais utilizados. É um alerta importante para todos nós que interagimos com essas tecnologias: a cautela é necessária, pois o que pode parecer inofensivo à primeira vista pode esconder uma complexidade ameaçadora.
Com o avanço das ferramentas de IA, é fundamental estarmos sempre atentos ao que compartilhamos e ao que processamos. A segurança digital é uma responsabilidade de todos e entender as vulnerabilidades é um passo crucial para proteger nossas informações pessoais.
Redação Confraria Tech.
Referências:
AI chatbots can read and write invisible text, creating an ideal covert channel
