A análise LLM é uma funcionalidade do Aether™ da MetaDefender que verifica ficheiros de modelos de IA pré-treinados em busca de ameaças ocultas antes da sua implementação. Combina a análise estática da estrutura de um modelo com a análise dinâmica do comportamento de um modelo em funcionamento, proporcionando às equipas de segurança uma forma de avaliar modelos de terceiros da mesma forma que avaliariam qualquer outro ficheiro que entrasse na rede. |
|---|
Principais conclusões
- MetaDefender O « Adaptive » da AetherSandbox deteta ameaças «zero-day» através da detonação comportamental, em vez da correspondência de assinaturas, e integra essa informação no fluxo de processamento de ameaças de cinco camadas
- A AMTSO aprovou formalmente, a 4 de setembro de 2026, atualizações centradas na IA ao seu Quadro de Avaliação « Sandbox » e novas Orientações para o Teste de Produtos de Segurança Agentes
- No teste realizado pela Venak Security em 2026, em conformidade com a norma AMTSO, o Adaptive Sandbox detetou 95% das amostras de malware geradas por IA, o melhor resultado entre as quatro sandboxes testadas
- A análise de modelos de IA alarga o pipeline do Aether da MetaDefender a sete formatos de modelos de IA generativa, utilizando mais de 30 indicadores de ameaça para a análise estática e prompts adversariais mapeados para o OWASP LLM Top 10 para a análise dinâmica
- As conclusões são mapeadas para o MITRE ATLAS e integradas no pipeline de avaliação existente do Aether da MetaDefender , a par das ameaças convencionais relacionadas com ficheiros
Detecção comportamental apoiada por uma norma de teste de IA
MetaDefender O Aether™ Adaptive Sandbox foi concebido para detetar ameaças que ainda ninguém viu. Em vez de comparar ficheiros com assinaturas conhecidas, o Aether™ executa-os num ambiente emulado e observa o que realmente fazem; é assim que deteta malware de dia zero que, de outra forma, passaria despercebido pelas defesas baseadas na reputação.
MetaDefender Aether é a camada de coordenação em torno desse motor. Fornece ao Adaptive Sandbox informações de inteligência sobre ameaças, para que os veredictos sejam emitidos de forma mais rápida e precisa, e integra as conclusões de todas as camadas num único fluxo de processamento de ameaças unificado, composto por cinco camadas, que abrange a reputação das ameaças, a análise preditiva, a detonação dinâmica, a pontuação das ameaças e a deteção proativa de ameaças.
A 4 de setembro de 2026, a Organização de Normas de Testes Antimalware (AMTSO) confirmou que tinha aprovado formalmente uma atualização centrada na IA do seu Sandbox Quadro de Avaliação, juntamente com novas «Orientações para o Teste de Produtos de Segurança Agentes». Nenhum dos documentos tem caráter obrigatório. Ambos constituem atualizações de uma norma de teste voluntária, mas representam o sinal mais claro até à data de que os testes em sandbox estão a acompanhar o que os modelos de IA são agora capazes de fazer.
Por que razão a segurança dos modelos de IA se tornou, de repente, uma questão importante
As infraestruturas críticas estão no centro de um debate político que avança rapidamente em duas frentes: o endurecimento dos quadros regulamentares dos EUA em torno da IA de ponta e o impulso paralelo da China no que diz respeito aos modelos LLM de código aberto e à capacidade computacional. Nenhuma destas tendências diminui o volume de modelos LLM pré-treinados que estão a ser implementados em ambientes empresariais.
É esse volume, e não novas técnicas de ataque, que constitui o problema central. A IA não inventou novas formas de comprometer um ficheiro. O que fez foi tornar os ficheiros comprometidos e os modelos LLM comprometidos significativamente mais comuns e mais rápidos de produzir — a mesma pressão de volume que moldou a tecnologia OPSWATTecnologia Deep CDR™ da xml-ph-0000@deepl.internal em relação às ameaças baseadas em ficheiros há anos.
Há algumas semanas, a NVIDIA concordou em adquirir a Hugging Face, o principal centro de distribuição de modelos LLM de peso aberto, por 12,93 mil milhões de dólares. A aquisição coloca o maior repositório de modelos LLM do setor sob o mesmo teto que o seu principal fornecedor de recursos computacionais.
A Anthropic juntou-se a mais de uma centena de empresas, incluindo a OpenAI, a Google e a Microsoft, na assinatura de uma carta aberta apelando a uma defesa cibernética coordenada à medida que os ataques baseados em IA ganham escala. O relatório de inteligência de ameaças da Anthropic, de setembro de 2026, documentou que os atacantes tratavam a cadeia de abastecimento da IA tanto como alvo como recurso, incluindo operações criadas especificamente para recolher chaves de « API » de IA e credenciais de produção.
Da OpenAI «Path to Astra» , publicado a 1 de setembro de 2026, elevou ainda mais a fasquia. O Astra é o primeiro modelo da OpenAI a ultrapassar o limiar «crítico» de cibersegurança ao abrigo do Quadro de Preparaçãoda empresa, sendo capaz de detetar e explorar vulnerabilidades de dia zero, em grande parte de forma autónoma. Essa capacidade é exatamente o que as novas diretrizes de testes agenticos da AMTSO se destinam a avaliar. As normas de teste estão a evoluir rapidamente para acompanhar o que os modelos LLM de ponta conseguem agora fazer sem supervisão.
O que abrange, na realidade, o quadro de avaliação atualizado da AMTSO para o « Sandbox »
O Grupo de Trabalho « Sandbox » da AMTSO adicionou um novo conjunto de critérios centrados na IA ao quadro de avaliação existente « Sandbox », proporcionando aos evaluadores uma forma estruturada de avaliar a forma como as sandboxes tratam os modelos de IA como objetos de análise, em vez de apenas como ferramentas. A atualização foi submetida a revisão pública durante o verão, antes de ser formalmente aprovada pelos membros no início de setembro.
O Grupo de Trabalho « Sandbox » da AMTSO está agora a acompanhar a adoção do quadro atualizado e a criar uma estrutura de relatórios, para que os testadores possam comparar o desempenho das «sandboxes» com os novos critérios de IA de forma consistente. Este trabalho preparatório é importante porque proporciona aos fornecedores um parâmetro comum, em vez de alegações baseadas em dados fornecidos pelos próprios.
MetaDefender O historial da Aether no âmbito do quadro da AMTSO
Antes de introduzir uma nova funcionalidade, é útil saber como a funcionalidade existente se comporta quando submetida a uma análise independente. No teste de sandbox alinhado com a norma AMTSO 2026, o Adaptive Sandbox da OPSWATdetetou 19 das 20 amostras de malware geradas por IA, o que corresponde a uma taxa de deteção de 95% e ao melhor resultado entre as quatro sandboxes testadas. A Venak criou as amostras de teste com o seu Simulador de Malware por IA, mapeadas para as técnicas MITRE ATT&CK especificamente para contornar a deteção tradicional.
OPSWATO Adaptive Sandbox obteve uma pontuação de 95% (19 em 20) num teste recente que utilizou vinte amostras distribuídas por cinco categorias de ameaças, criadas com o Simulador de Malware com IA da Venak e mapeadas para as técnicas do MITRE ATT&CK.
Análise estática e dinâmica para modelos LLM pré-treinados
A análise de modelos de IA é a funcionalidade que alarga o pipeline multicamadas do Aether, d MetaDefender , aos modelos de IA pré-treinados. Dois tipos distintos de análise refletem a abordagem estática e comportamental também aplicada ao malware convencional.
A análise estática analisa ficheiros de modelos LLM em sete formatos — Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF e ONNX — sem necessidade de execução. Recorre a mais de 30 indicadores de ameaças específicos para detetar cargas úteis incorporadas, importações perigosas e backdoors específicas do método de serialização de cada formato.
A análise dinâmica adota a abordagem oposta: interroga um ponto final de um modelo LLM em funcionamento com prompts adversariais mapeados para o OWASP Top 10 para Aplicações LLM, avaliando as respostas reais do modelo LLM quanto à injeção de prompts, divulgação de dados sensíveis e riscos de execução relacionados. As conclusões de ambas as fases são mapeadas para o MITRE ATLAS, a base de conhecimento sobre aprendizagem automática adversária, e são integradas no pipeline de veredicto unificado existente d MetaDefender Aether, juntamente com as conclusões convencionais sobre ameaças.
A que ritmo estão a crescer as ameaças relacionadas com modelos de IA
Em maio de 2026, um repositório falso que se fazia passar por um lançamento da OpenAI, Open-OSS/privacy-filter, alcançou o primeiro lugar nas tendências do Hugging Face em 18 horas e registou mais de 244 000 transferências antes de ser retirado, com um script de carregamento que instalava silenciosamente um programa de roubo de informações nos computadores Windows que o executavam.
Em julho de 2026, a OpenAI revelou que os seus próprios modelos LLM tinham explorado vulnerabilidades na infraestrutura de investigação partilhada e comprometido partes da plataforma Hugging Face durante avaliações internas de cibersegurança, sublinhando que a cadeia de abastecimento dos modelos LLM é agora um alvo ativo para agentes sofisticados, e não apenas para agentes oportunistas.
O que a segurança dos modelos de IA significa para cinco setores
Finanças
Os modelos LLM de deteção de fraudes e de avaliação de risco recorrem cada vez mais diretamente aos dados das transações, sob a supervisão de entidades reguladoras que exigem controlos documentados. Um modelo LLM manipulado nesse contexto gera, simultaneamente, um incidente de segurança e uma constatação de auditoria.
Energia e serviços públicos
A IA está a avançar para a área da previsão e da gestão da rede elétrica, ambientes em que os sistemas de TI e de OT já se integram. Um modelo LLM com comportamento oculto ou que possa ser acionado corre o risco de causar perturbações físicas, e não apenas uma violação de dados.
As agências governamentais e de defesa
enfrentam os maiores desafios em matéria de garantia da cadeia de abastecimento, muitas vezes em ambientes isolados ou classificados. Um modelo LLM comprometido acarreta consequências para a segurança nacional que vão muito além da perda de dados habitual.
Fabrico
Os modelos LLM de controlo de qualidade e manutenção preditiva são frequentemente obtidos a partir de repositórios públicos para agilizar o processo. Um modelo LLM comprometido que chegue à linha de produção pode afetar diretamente o tempo de funcionamento e a qualidade do produto.
Saúde
Os modelos LLM de apoio e documentação no domínio do diagnóstico processam dados sensíveis dos doentes, em conformidade com as obrigações de privacidade em vigor. Um modelo LLM que divulgue informações através da injeção de prompts coloca em risco a privacidade dos doentes de forma direta, e não hipotética.
O futuro das normas de teste de modelos de IA
O Grupo de Trabalho « Sandbox » da AMTSO está agora a acompanhar a adoção do quadro atualizado por parte dos fornecedores de sandboxes e a desenvolver a estrutura de relatórios que permitirá às organizações comparar o desempenho dos testes de IA da mesma forma que já comparam as taxas de deteção convencionais. No caso do Aether da MetaDefender , a análise de modelos de IA é a primeira funcionalidade desenvolvida e validada de acordo com essa norma emergente desde o primeiro dia.
Leia a análise técnica completa da análise de modelos de IA na publicação sobre a versão v3.3.0.
