O Slopsquatting representa uma ameaça emergente à cadeia de abastecimento, possibilitada pelas alucinações da IA. À medida que os desenvolvedores dependem cada vez mais de assistentes de codificação de IA, eles, sem saber, concedem aos cibercriminosos acesso ao seu software desde o primeiro dia.
Entendendo o que é slopsquatting
Slopsquatting é um novo tipo de ataque à cadeia de suprimentos que usa modelo de linguagem grande (LLM) alucinações para injetar código malicioso em fluxos de trabalho de desenvolvimento. O termo combina "Resíduos de IA" e "erro de digitação," uma prática enganosa em que invasores registram versões com erros ortográficos ou semelhantes de domínios populares para atacar usuários que inserem URLs incorretamente.
Este novo vetor de ataque explora a tendência dos LLMs de gerar nomes de pacotes de software fictícios, que os agentes de ameaças podem então registrar e preencher com código malicioso.
Durante a codificação assistida por IA, o modelo pode gerar pacotes falsos de código aberto – coleções agrupadas de arquivos, programas e ferramentas de instalação. Isto por si só não é necessariamente prejudicial. No entanto, se um invasor registrar esse nome de pacote falso, ele poderá injetar malware que será incorporado diretamente à base de código do desenvolvedor.
Como a IA cria um risco na cadeia de abastecimento
Tradicionalmente, IA riscos de segurança decorrem de alucinaçõeso que pode afetar negativamente os usuários que consideram a desinformação válida. No entanto, essas mesmas alucinações evoluíram para vulnerabilidades de segurança exploráveis.
Typosquatting é uma prática enganosa em que um cibercriminoso registra uma versão com erro ortográfico de um pacote popular para enganar os desenvolvedores. Ela existe há décadas, por isso os registros criaram proteções contra ela.
No entanto, a IA mudou o modelo de ameaça. Ele recomenda pacotes fictícios que parecem plausíveis, em vez de simples erros ortográficos. Depois que os invasores souberem quais pacotes alucinados os modelos tendem a inventar, eles poderão registrar pacotes cheios de malware com esses nomes.
Como os pacotes alucinados não são simplesmente versões digitadas de bibliotecas populares, não há proteções contra esta prática em grande escala. Por exemplo, o registro protege contra a publicação de um invasor "crossenv," um agachamento do popular "ambiente cruzado" pacote. Contudo, não identificaria "mpn instalar arquivo cross-env" ou "estendido entre ambientes cruzados" como ameaças.
As alucinações são persistentes e graves
Mesmo que muitos LLMs recomendem o mesmo pacote alucinado, ainda é possível um compromisso generalizado. Pacotes maliciosos podem permanecer em produção sem serem detectados por meses ou até anos, permitindo que os agentes de ameaças injetem malware passivamente em inúmeros ambientes.
Uma pesquisa equipe analisou 31.267 vulnerabilidades pertencente a 14.675 pacotes em 10 linguagens de programação. Eles descobriram que as vulnerabilidades relatadas estão aumentando a uma taxa anual de 98%, um crescimento mais rápido do que o aumento anual de 25% no número de pacotes de software de código aberto. A equipe também observou um aumento de 85% na vida útil média das vulnerabilidades, indicando um declínio na segurança.
Perigos do mundo real das alucinações de IA
Atores maliciosos podem criar pacotes de acesso aberto com o mesmo nome de bibliotecas comumente alucinadas. Em vez de código padrão, eles estão cheios de malware. As modelos acreditam que se referem a pacotes existentes, por isso repetem frequentemente os mesmos nomes alucinados. Como as alucinações não são aleatórias, os invasores poderiam, teoricamente, registrar pacotes que enganam dezenas de milhares de desenvolvedores.
Esses pacotes parecem legítimos. A semelhança das strings com bibliotecas reais as torna reconhecíveis. Erros de digitação de um caracter sugerem erros simples, em vez de intenções maliciosas. Mesmo nomes totalmente fabricados permanecem verossímeis quando a IA os apresenta no contexto adequado. A detecção é um desafio, pois os desenvolvedores confiam em seus assistentes de codificação para recomendar dependências válidas.
Por que os LLMs estão alucinando pacotes?
Os LLMs geram a resposta estatisticamente mais provável, em vez de priorizar a precisão. Como resultado, as alucinações são relativamente comuns. Um estudo encontrou taxas de alucinação variam de 50% a 82%dependendo do modelo e do método de solicitação. Mesmo o GPT-4o, o modelo de melhor desempenho, não passa de 23%, mesmo com mitigação imediata.
Ataques de alucinação adversários podem piorar este problema. Os atores da ameaça podem aproveitar a manipulação em nível de token ou o envenenamento de recuperação para forçar os modelos a alucinar da maneira que desejarem, aumentando a probabilidade de os modelos recomendarem seus pacotes maliciosos.
Quais LLMs são propensos a slopsquatting?
Embora todos os LLMs sejam propensos ao slopsquatting, alguns são mais vulneráveis do que outros. A probabilidade de produção de pacotes alucinados durante a geração do código depende do modelo. Os modelos proprietários têm quatro vezes menos probabilidade de gerar pacotes alucinados do que os modelos de código aberto.
Um grupo de pesquisa provou isso conduzindo 30 testes em 30 sistemas diferentes. Fora de os 576.000 exemplos de código e dos 2,23 milhões de embalagens que produziu, 19,7% foram alucinações. O GPT-4.0 Turbo teve uma taxa de alucinação de 3,59%, enquanto o DeepSeek 1B, o modelo de código aberto com melhor desempenho, atingiu 13,63%.
Esta pesquisa sugere que as organizações que dependem de ferramentas de IA de código aberto para geração de código estão cerca de quatro vezes mais expostas a ataques de slopsquatting. Isso não significa necessariamente que as ferramentas proprietárias sempre permanecerão mais seguras. Assim que os invasores perceberem essa disparidade, eles poderão manipular LLMs proprietários para tirar vantagem da segurança percebida.
A codificação Vibe contribui para o problema
Os desenvolvedores de software que usam ferramentas de IA estimam que mais de 40 por cento do código eles se comprometem inclui assistência de IA. Eles esperam que essa percentagem aumente consideravelmente nos próximos anos. 72% dos que experimentaram a IA já a utilizam diariamente.
O aumento na codificação de vibração e na codificação assistida por IA amplifica a superfície da ameaça. À medida que mais desenvolvedores integram ferramentas de IA em seus fluxos de trabalho sem implementar processos de verificação adequados, a superfície de ataque para slopsquatting continua a se expandir.
Para aqueles que usam IA para auxiliar na codificação, verificar novamente os resultados é essencial. Verificar se os pacotes recomendados realmente existem nos repositórios oficiais antes de incorporá-los nos projetos reduz o risco.
Navegando no desenvolvimento assistido por IA
A implementação de verificações automatizadas que validam nomes de pacotes em registros conhecidos pode ajudar a detectar pacotes alucinados antes que eles entrem no código de produção. As equipes de segurança também devem monitorar instalações incomuns de pacotes e manter informações atualizadas sobre ameaças em campanhas conhecidas de slopsquatting.
Zac Amos é o editor de recursos da Rehackear.
Fonte ==> Cyberseo
