Saiba mais sobre o livro de Benny Czarny, «Cybersecurity Upside Down»

Saiba mais
Utilizamos inteligência artificial para as traduções dos sítios e, embora nos esforcemos por garantir a exatidão, estas podem nem sempre ser 100% precisas. Agradecemos a sua compreensão.

MetaDefender Lançamento do Aether™ v3.3.0: Apresentamos a funcionalidade de análise de LLM

Os modelos LLM pré-treinados podem agora ser analisados para detetar ameaças ocultas que as sandboxes convencionais possam deixar escapar
Por OPSWAT

O LLM Scanning é uma funcionalidade do Aether™ da MetaDefender que analisa ficheiros de modelos LLM pré-treinados à procura de ameaças ocultas. Combina a análise estática, que inspeciona a estrutura de um modelo sem o executar, com a análise dinâmica, que testa o comportamento de um modelo em funcionamento face a prompts adversários, proporcionando às organizações uma forma de avaliar modelos de terceiros antes da sua implementação.

Principais conclusões

  • MetaDefender A versão 3.3.0 do Aether™ introduz a análise de modelos de IA (LLM) na análise estática da Camada 2 e na análise dinâmica da Camada 3, alargando o fluxo de processamento de ameaças de cinco camadas da plataforma para incluir ficheiros de modelos de IA e de aprendizagem automática
  • A análise estática analisa 7 formatos de ficheiros LLM sem executar o modelo, identificando cargas úteis incorporadas através de mais de 30 indicadores de ameaças específicos
  • A análise dinâmica testa os pontos finais do modelo em tempo real com mais de 50 técnicas adversárias e mais de 1 000 prompts, abrangendo nove categorias de comportamentos de ataque específicos de LLM, com os resultados mapeados para o MITRE ATLAS
  • OPSWAT é um dos primeiros fornecedores de ambientes sandbox a incorporar a análise de LLM, numa altura em que a versão atualizada da Estrutura de Avaliação « Sandbox » da AMTSO se centra nos testes relacionados com a IA

Por que razão os ficheiros de modelos de IA se tornaram um problema de segurança

As organizações estão a implementar modelos de código aberto e de terceiros em ambiente de produção mais rapidamente do que conseguem analisá-los. Um modelo descarregado do Hugging Face não é apenas um conjunto de dados. Pode conter código executável e, uma vez carregado, um único modelo comprometido pode afetar todos os sistemas que o executarem.

A maioria das equipas tem poucas bases em que se apoiar, para além de esperar que a fonte fosse fiável. Essa lacuna está a manifestar-se em incidentes reais. No final de agosto de 2026, investigadores revelaram uma falha na pilha NemoClaw da NVIDIA que permitia que uma página web controlada por um atacante assumisse o controlo de uma instância local do Ollama e inserisse instruções ocultas diretamente no modelo que um agente de IA estava a utilizar. Dias depois, os investigadores da Check Point publicaram o PuzzleMask, uma técnica que oculta instruções maliciosas em inglês comum, de modo a que um modelo de triagem rápida não as detete, enquanto um modelo a jusante mais avançado continua a agir de acordo com elas. E, a 1 de setembro de 2026, o CERT/CC publicou uma vulnerabilidade (CVE-2026-80047) no Hugging Face Transformers que permitia que repositórios de modelos maliciosos escrevessem ficheiros Python controlados pelo atacante no sistema de um utilizador antes de ocorrer qualquer verificação de consentimento para a execução de código remoto.

O padrão subjacente a todos os três: tanto o ficheiro do modelo como o comportamento do modelo constituem superfícies de ataque, e a maioria das ferramentas de segurança não foi concebida para inspecionar nenhuma delas. O documento da OpenAI intitulado«Um apelo à ação coletiva em matéria de ciberdefesa», assinado por mais de 100 organizações, incluindo a Anthropic, a Microsoft e a Google, enquadra esta situação como uma janela de oportunidade limitada, na qual a IA está a proporcionar aos defensores novas ferramentas para corrigir as vulnerabilidades acumuladas, desde que ajam agora. Guias como a visão geral sobre segurança de LLM da AI Security & Safety apontam para a mesma mudança, referindo que a injeção indireta de prompts se tornou o vetor de ataque dominante em 2026, à medida que os LLMs adquirem a capacidade de navegar, recuperar documentos e aceder a ferramentas.

As orientações da AMTSO em matéria de testes estão a orientar-se para a IA

A AMTSO, o organismo do setor responsável pela definição de normas de teste para produtos de segurança, aproveitou a sua atualização de 4 de setembro de 2026 para anunciar a aprovação das novas «Orientações para o Teste de Produtos de Segurança Agentes» e uma atualização do seu Quadro de Avaliação « Sandbox », que também aborda funcionalidades relacionadas com a IA. Trata-se de um sinal de que a metodologia de testes em sandbox está a começar a ter em conta as ameaças impulsionadas pela IA e direcionadas contra a IA, a par do trabalho já existente da AMTSO na deteção de malware tradicional.

A atualização de setembro adiciona um sétimo KPI denominado «Análise Dinâmica de LLM como Amostra». Este avalia se uma sandbox consegue importar um endpoint de LLM ou um ficheiro de modelo como amostra, executá-lo através de uma bateria de prompts estruturados em condições reprodutíveis e classificar as suas respostas da mesma forma que classificaria o comportamento de um binário. O KPI evita avaliar a segurança ou o alinhamento do modelo, uma vez que estas questões são da competência do Grupo de Trabalho de IA da AMTSO. No entanto, a «Análise Dinâmica de LLM como Amostra» avalia uma sandbox com base nos metadados de reprodutibilidade e nos relatórios por categoria, o que corresponde aos mesmos critérios a que as sandboxes já estão sujeitas no que diz respeito a amostras de malware.

MetaDefender A Aether Adaptive Sandbox já possui um historial em testes alinhados com a AMTSO. Na avaliação da Venak Security de 2026, detetou 19 das 20 amostras de malware geradas por IA, a pontuação mais elevada entre as quatro sandboxes testadas. O LLM Scanning estende esse mesmo rigor de nível de sandbox a uma superfície de ameaças que as orientações da AMTSO estão apenas a começar a formalizar, o que coloca o MetaDefender Aether entre as primeiras soluções de sandbox a suportá-la.

metadefender Lançamento do Aether v330: apresentação da comparação entre o LLM Scanning e o AMTSO Sandbox
Resultados gerais dos testes em sandbox da Venak Security de 2026.

O que a funcionalidade «LLM Scanning» acrescenta ao Aether™ v3.3.0 d MetaDefender

MetaDefender O Aether é a solução unificada de deteção de «zero-day» de cinco camadas d OPSWAT, que combina verificações de reputação de ameaças, análise estática pré-execução, análise dinâmica baseada em emulação, pontuação de ameaças e deteção proativa de ameaças num único veredicto por ficheiro. A versão 3.3.0 alarga duas dessas camadas — a Análise Estática da Camada 2 e a Análise Dinâmica da Camada 3 — para inspecionar ficheiros de modelos de IA e de aprendizagem automática.

Uma ameaça pode estar incorporada num ficheiro de modelo antes da sua distribuição, ou pode residir na forma como o modelo reage após a sua implementação. A análise de LLM abrange ambas as situações, em vez de as tratar como problemas distintos.

Análise estática de camada 2: inspeção do próprio ficheiro do modelo

metadefender Lançamento do Aether v330: apresentação da imagem de digitalização do LLM 1 – Relatório de demonstração 1
A Análise Estática de Camada 2 deteta evasão de «pickle» empilhado

A análise estática analisa um modelo até à sua estrutura sem nunca o executar. É compatível com 7 formatos de ficheiro das principais plataformas de IA: Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF e ONNX, e deteta o formato real a partir dos próprios bytes do ficheiro, em vez de se basear na sua extensão, pelo que um ficheiro renomeado não consegue passar despercebido apenas pelo nome.

Cada formato acarreta os seus próprios riscos. O Pickle e o PyTorch permitem a execução de código arbitrário durante a deserialização. O formato .pb do TensorFlow pode ocultar uma camada Lambda que permite a execução de código. Os ficheiros .h5 do Keras podem conter uma camada Lambda serializada por marshal com o mesmo efeito. Os cabeçalhos SafeTensors e os espaços entre tensores podem ocultar adulterações ou um ficheiro poliglota. Os modelos de chat GGUF podem ser transformados em lógica executável, e os cabeçalhos GGUF malformados são concebidos para provocar falhas ou explorar carregadores. Os gráficos ONNX podem referenciar ficheiros externos por caminho, chamar operadores personalizados que executam código ou conter uma porta traseira ao nível da lógica que só se ativa com entradas específicas.

A análise estática percorre o Pickle, opcode a opcode, com um desmontador desenvolvido especificamente para o efeito, desmonta objetos serializados dentro de ficheiros .pkl, .pt e .h5 e inspeciona os cabeçalhos .safetensors e .gguf em busca de estruturas malformadas. Revela cargas úteis incorporadas, importações perigosas e assinaturas anómalas através de mais de 30 indicadores de ameaça dedicados e processa modelos de vários gigabytes com uma pegada de memória limitada, para que a escala não obrigue a um compromisso em termos de profundidade.

Um exemplo ilustrativo mostra por que razão isto é importante: uma amostra do Stacked Pickle aninhava vários objetos Pickle e dividia uma carga útil em camadas, cada uma das quais parecia inofensiva por si só. A análise por LLM descasca essas camadas uma a uma, descodificando e descomprimindo cada segmento e reconstruindo a carga útil completa sem executar o código.

Análise dinâmica da camada 3: Testar o comportamento do modelo em tempo real

metadefender Lançamento do Aether v330, que introduz a análise de modelos LLM — Aether 33: análise de modelos LLM, versão 2.1
Camada 3 — A Análise Dinâmica deteta comportamentos maliciosos em ficheiros de modelos de IA pré-treinados

Um ficheiro de modelo «limpo» não é garantia de um comportamento seguro. A análise dinâmica liga-se a qualquer modelo que exponha um ponto final de preenchimento de chat compatível com a OpenAI e envia-lhe prompts adversários, avaliando as respostas para revelar pontos fracos que só surgem no momento da inferência.

Mais de 50 técnicas e mais de 1 000 prompts adversariais que abrangem várias categorias de comportamentos de ataque específicos dos LLM. A cobertura da injeção de prompts inclui a injeção direta, a injeção indireta através de conteúdos de terceiros e técnicas de «jailbreak» ou de contornamento de medidas de segurança, como a supressão de recusa e os sufixos adversariais. Os testes de divulgação de informação sensível verificam a existência de fugas de credenciais, a exposição de dados pessoais identificáveis (PII) e a divulgação não autorizada de documentos confidenciais.

Outras categorias abrangem a violação da cadeia de abastecimento da IA, o envenenamento de dados e modelos (incluindo RAG e envenenamento de memória persistente), o tratamento inadequado dos resultados, o uso indevido excessivo de ferramentas de agência, a fuga de prompts do sistema, a geração de desinformação e de conteúdos fraudulentos, bem como ataques de consumo ilimitado que esgotam tokens e geram custos. Vários mecanismos de avaliação atribuem uma pontuação a cada resposta, e os resultados utilizam veredictos em dois eixos que separam o grau de confiança de uma descoberta da gravidade dos danos que esta poderia causar, tornando os resultados mais fáceis de classificar do que uma simples pontuação de «aprovado/reprovado».

O pipeline de cinco camadas por trás da análise de LLM

A deteção baseada em IA colmata as lacunas relacionadas com vulnerabilidades de dia zero e com a latência no seu fluxo de segurança
As conclusões são classificadas e integradas num veredicto consolidado de cinco níveis.

Os resultados estáticos e dinâmicos do LLM não são isolados. São associados a técnicas do MITRE ATLAS, a base de conhecimento sobre aprendizagem automática adversária, e integram-se no veredicto consolidado d MetaDefender , da Aether, juntamente com a Reputação de Ameaças da Camada 1, a Pontuação de Ameaças da Camada 4 e a Detecção de Ameaças da Camada 5. Esse veredicto consolidado inclui provas de apoio anexadas, para que os analistas obtenham contexto para uma investigação e resposta mais rápidas, em vez de um simples sinal de alerta. Um modelo que aciona um sinal de alerta estático e outro comportamental é correlacionado numa única pontuação de risco priorizada, em vez de duas conclusões desconexas que um analista tem de conciliar manualmente.

Os beneficiários da digitalização LLM

O LLM Scanning permite que diferentes funções de segurança tomem medidas relativamente à mesma deteção, e não apenas as equipas do SOC, que tratam os alertas um a um.

  • Os analistas do SOC obtêm um veredicto consolidado para os modelos sinalizados, seguindo o mesmo fluxo de trabalho que já utilizam para os ficheiros, em vez de um processo separado e desconexo para os artefactos de IA
  • Os responsáveis pelas equipas de segurança têm uma visão clara do que realmente passa pelos registos de modelos e pelos pipelines antes de chegar à produção
  • Os CISOs e os responsáveis pelas decisões de TI dispõem de um ponto de controlo para aplicar a política de verificação de modelos na adoção de IA de código aberto e de terceiros, um processo que, atualmente, decorre frequentemente sem qualquer tipo de revisão
  • As equipas de conformidade e de risco obtêm evidências mapeadas no MITRE ATLAS quando as entidades reguladoras ou os auditores começam a questionar a forma como a organização está a gerir os riscos da cadeia de abastecimento relacionados com a IA

Ameaças relacionadas com modelos LLM em diversos setores

Finanças

Os bancos e as instituições financeiras estão a adotar modelos de linguagem de grande escala (LLMs) para a deteção de fraudes, o atendimento ao cliente e os «copilotos» internos, muitas vezes baseados em modelos de base de código aberto obtidos a partir de plataformas públicas. Um estudo da Universidade de Cambridge de 2026 revelou que 81 % das empresas de serviços financeiros já estão a adotar a IA, em algum nível. Um modelo com porta traseira ou que sofra fugas de dados, integrado num fluxo de trabalho de deteção de fraudes ou num chatbot de atendimento ao cliente, cria uma exposição direta a dados financeiros sujeitos a regulamentação.

Governo

As agências governamentais e de defesa enfrentam riscos relacionados com a cadeia de abastecimento de modelos, agravados pela sensibilidade dos dados a que esses modelos podem ter acesso: dados dos cidadãos, informação classificada ou controlada e apoio à tomada de decisões críticas para a missão. A CISA publicou novas orientações federais em 2026 que abordam especificamente a forma como as agências devem avaliar os modelos de IA de código aberto antes da sua adoção. Um modelo comprometido ou manipulado constitui um vetor potencial de desinformação ou sabotagem no interior dos sistemas dos quais o público depende.

Energia

As empresas do setor energético e de serviços públicos estão a começar a integrar a IA na monitorização da rede, na manutenção preditiva e no apoio à tomada de decisões operacionais, ambientes em que as tecnologias operacionais (OT) e as tecnologias da informação (IT) se cruzam cada vez mais. Estudos sobre os riscos cibernéticos no setor energético revelaram que uma parte significativa dos dispositivos de tecnologia operacional apresenta vulnerabilidades conhecidas que já foram exploradas e continua ligada à Internet de forma insegura, uma exposição que aumenta à medida que a IA é integrada nestes sistemas.

Cuidados de saúde

As organizações de saúde estão a adotar LLMs para a documentação clínica, o apoio à triagem e a automatização administrativa, processando frequentemente informações de saúde protegidas nesse contexto. Uma análise revista por pares, publicada em 2026, concluiu que as aplicações médicas baseadas em LLMs podem causar fugas de dados médicos através da utilização de « API », o que suscita preocupações diretas quanto à conformidade com a HIPAA. Um modelo que divulga dados sensíveis através dos seus resultados, ou que contém código executável nos seus pesos, coloca em risco, simultaneamente, os dados dos doentes e a conformidade regulamentar.

Fabrico

Os fabricantes estão a incorporar modelos de IA no controlo de qualidade, na manutenção preditiva e na automatização do design, recorrendo frequentemente a repositórios públicos de modelos para agir com rapidez. Uma análise de segurança da cadeia de abastecimento da indústria transformadora, realizada em 2026, identificou o «envenenamento de dados» como um dos principais riscos da IA neste setor, especificamente porque os atacantes podem corromper os dados de treino para manipular subtilmente as decisões de manutenção preditiva e controlo de qualidade. Um modelo envenenado num fluxo de controlo de qualidade pode degradar silenciosamente a tomada de decisões sem um sinal óbvio de falha, e um modelo com porta traseira numa ferramenta de conceção cria uma via de acesso à propriedade intelectual.

A verificação de modelos de IA antes de estes chegarem à fase de produção já não tem de ser um processo manual, feito com o melhor esforço possível. MetaDefender A versão 3.3.0 do Aether aplica aos modelos — que as organizações estão a adotar mais rapidamente do que conseguem analisá-los — o mesmo rigor de cinco camadas que o OPSWAT aplica aos ficheiros

FAQs

O que é a «LLM Scanning» no « MetaDefender » Aether?

A «Análise de Modelos de IA» é uma funcionalidade d MetaDefender Aether que analisa ficheiros de modelos LLM pré-treinados e examina modelos implementados para detetar riscos de segurança antes de estes chegarem à produção, abrangendo a Análise Estática da Camada 2 e a Análise Dinâmica da Camada 3.

Que formatos de ficheiros de modelos são suportados pela digitalização LLM?

A análise estática processa 7 formatos: Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF e ONNX, abrangendo as principais estruturas de IA atualmente em uso.

A análise estática executa o modelo?

Não. A análise estática analisa um modelo até à sua estrutura e nunca o executa, identificando cargas úteis incorporadas, importações perigosas e assinaturas anómalas sem necessidade de execução.

Como é que a análise dinâmica testa um modelo implementado?

A análise dinâmica liga-se a qualquer modelo que exponha um ponto final de preenchimento de chat compatível com a OpenAI e envia-lhe mais de 50 técnicas adversárias e mais de 1 000 prompts que abrangem nove categorias de comportamentos de ataque específicos de LLM, com os resultados mapeados para o MITRE ATLAS para a aprendizagem automática adversária.

Será que o « MetaDefender Aether» é o único sandbox com análise de LLM?

MetaDefender O Aether é uma das primeiras soluções de tipo «sandbox» a incorporar a análise de LLM, surgindo num momento em que o Quadro de Avaliação « Sandbox » atualizado da AMTSO orienta as suas diretrizes de teste para funcionalidades relacionadas com a IA.

De que forma os resultados da análise do LLM se enquadram no veredicto geral da Aether?

Os resultados são associados às técnicas do MITRE ATLAS e contribuem para o veredicto consolidado de cinco camadas d MetaDefender Aether, juntamente com a Reputação de Ameaças, a Pontuação de Ameaças e a Detecção de Ameaças.

Mantenha-se atualizado com OPSWAT!

Inscreva-se hoje mesmo para receber as últimas novidades da empresa, histórias, informações sobre eventos e muito mais.