Saiba mais sobre o livro de Benny Czarny, «Cybersecurity Upside Down»

Saiba mais
Utilizamos inteligência artificial para as traduções dos sítios e, embora nos esforcemos por garantir a exatidão, estas podem nem sempre ser 100% precisas. Agradecemos a sua compreensão.

O que o design dos aviões nos pode ensinar sobre a próxima falha crítica nas infraestruturas

Por Benny Czarny

Nos últimos dias, tenho lido notícias sobre falhas de serviço na Microsoft, na FAA, na United Airlines, no Chase e na Amtrak. Também tenho ligado a amigos, familiares e colaboradores afetados por estas perturbações, para saber se estavam bem e como iriam regressar a casa.

A palavra «interrupção» ganha um significado diferente quando alguém de quem gostamos fica retido num aeroporto. Por trás da explicação técnica estão crianças cansadas, passageiros idosos à espera na fila, ligações perdidas e planos que vão por água abaixo. Para uma empresa, pode significar encomendas perdidas, pagamentos atrasados e um dia de trabalho perdido.

Sou o fundador e diretor executivo da OPSWAT, uma empresa de cibersegurança dedicada à proteção de infraestruturas críticas. Sou também piloto com qualificação para voo por instrumentos. Ao analisar estes incidentes, volto sempre à mesma questão: por que razão não aplicamos mais o raciocínio que mantém um avião em funcionamento às infraestruturas de que dependemos diariamente?

Um avião reúne sistemas de propulsão, navegação, comunicações e controlo de voo num espaço notavelmente reduzido. Estes sistemas funcionam em conjunto, por vezes em condições difíceis, e a vida das pessoas depende deles.

A conceção parte do princípio de que haverá falhas. Grande parte da formação dos pilotos consiste em reconhecer essas falhas e saber o que fazer a seguir. Pratica-se enquanto ainda se tem o luxo de poder cometer um erro.

Por exemplo, pensemos na energia elétrica. Um alternador gera eletricidade para o avião. Sim, pode ajudar a carregar o teu iPhone, mas estou mais interessado em manter os rádios e os instrumentos de voo a funcionar.

Num avião equipado com dois alternadores, um deles pode suportar as cargas essenciais caso o outro falhe. Se ambos falharem, as baterias podem proporcionar um tempo de funcionamento limitado. Deve reduzir a carga e aproveitar esse tempo para gerir a situação de emergência.

O que é importante saber é que um alternador e uma bateria funcionam de forma diferente. Um gera eletricidade. O outro armazena-a. A bateria oferece-lhe outra forma de manter o equipamento essencial a funcionar quando o sistema de geração deixa de funcionar.

Essa linha de pensamento vai mais além. A Airbus documentou projetos de controlo de voo que utilizam hardware e software diferentes nos computadores principal e secundário, incluindo sistemas secundários mais simples. O objetivo é reduzir a probabilidade de que uma única avaria impeça todas as formas de executar uma função crítica.

Normalmente levo o meu iPad com o ForeFlight, para além dos instrumentos que já se encontram no avião. Trata-se de um recurso complementar, cujas capacidades dependem dos sensores a que está ligado, e preciso de compreender os seus limites. Ainda assim, ter outra fonte de informação de voo, num dispositivo diferente com a sua própria bateria, dá-me alguma tranquilidade.

Agora, analisemos a mesma questão no âmbito das tecnologias da informação, nos sistemas críticos e nas infraestruturas críticas. Estes sistemas têm de garantir a vida ou a liberdade, tal como um avião, pelo que devemos adotar a mesma mentalidade de conceção.

Se o meu sistema principal e o sistema de reserva executam o mesmo software, recebem a mesma atualização e dependem da mesma rede, até que ponto são independentes? Transferir um deles para outro edifício não elimina uma falha no código. Uma segunda nuvem pode continuar a depender do mesmo serviço de identidade ou da mesma fonte de dados.

Podemos clonar um sistema e, ao fazê-lo, copiar também as suas fraquezas.

Se a mesma falha pode deixar ambos os sistemas inoperacionais, será que temos realmente um sistema de reserva?

Os incidentes recentes mostram por que razão essa questão é realmente importante.

Microsoft, 12 e 13 de novembro

O relatório preliminar descreve um defeito de software oculto, um aumento do tráfego no gateway e uma redução da capacidade. O redirecionamento do tráfego dos servidores em falha contribuiu para propagar a falha a outros servidores com a mesma vulnerabilidade. A Microsoft já dispunha de diferentes arquiteturas de gateway, mas alguns serviços, incluindo o Exchange Online, não conseguiram migrar para a alternativa na escala necessária. Aprecio os detalhes que a Microsoft publicou. A lição a retirar de My é que a independência e a capacidade têm de ser testadas em conjunto. Acredito que uma arquitetura alternativa tem de assumir as tarefas essenciais como um backup ativo quando for realmente necessário.

FAA, 13 de novembro

A FAA descreveu uma sobrecarga na rede durante um período de trabalhos de substituição de routers. O bloqueio de dois locais suspeitos de serem a origem do problema estabilizou a rede. Os controladores e os pilotos mantiveram a segurança, mas as partidas em todo o país foram suspensas. A causa principal continua a ser investigada, e a FAA afirma que o SMART (Gestão Estratégica do Espaço Aéreo, Rotas e Trajetórias) não esteve relacionado com o incidente. A questão relativa à arquitetura é saber como é que um problema num pequeno número de locais se propagou de forma tão generalizada e que medidas adicionais de isolamento e comunicações independentes poderiam preservar mais operações em segurança. No entanto, deveríamos também perguntar o que levou à falha da arquitetura existente e como é que o SMART foi descartado?

Amtrak, 13 de novembro

Surgiram problemas nas reservas enquanto os passageiros das companhias aéreas, que ficaram retidos, procuravam alternativas. A Amtrak atribuiu a situação a uma atualização do sistema e ao aumento da procura, embora a causa técnica exata continue por esclarecer. Este é um cenário que eu incluiria em qualquer exercício de recuperação: quando uma parte da nossa infraestrutura falha, as pessoas recorrem a outra. O sistema seguinte também precisa de capacidade para acolher essas pessoas.

United, 16 de novembro

A Reuters noticiou que uma falha afetou várias aplicações da tripulação e impediu a United de fornecer os pesos finais das aeronaves para os voos de partida. A causa técnica subjacente continua por revelar. Pensem nisto: o avião, a tripulação e os passageiros podem estar todos prontos, mas o voo não pode partir sem informações essenciais. Qualquer alternativa tem de dispor de dados de carga atualizados e precisos. A cópia de segurança de ontem não seria suficiente. Precisamos de restabelecer um sistema funcional com dados atualizados.

Chase, 16 de novembro.

Uma falha interna no software atrasou as transações, incluindo pagamentos que envolviam outros bancos. Neste caso, a recuperação tem de preservar o registo financeiro. A transição rápida só é útil se os pagamentos estiverem contabilizados, os saldos estiverem corretos e as transações não forem processadas duas vezes. Isso tem de ser demonstrado com um volume de transações realista.

Trata-se de incidentes distintos, e devemos ter cuidado com as conclusões enquanto as investigações decorrem. Mas já há aqui material suficiente para incorporar nas nossas próprias discussões de engenharia.

E agora estamos a integrar a IA nos sistemas de que dependemos.

A recuperação de uma aplicação convencional já pode ser difícil. Um sistema operado por IA acrescenta um modelo, um ambiente de execução, lagos de dados e pipelines, cujas relações podem ser difíceis de desvendar quando algo corre mal. Mesmo quando o modelo permanece inalterado, os dados e o contexto operacional podem mudar. Restaurar uma versão anterior do código pode deixar componentes que já não funcionam corretamente em conjunto.

O software pode voltar a funcionar enquanto o sistema continua a apresentar recomendações erradas.

É por isso que encaro um sistema de IA como um ambiente operacional vivo. A recuperação implica compreender o que mudou, restaurar os componentes compatíveis e verificar o comportamento antes de voltar a confiar nele.

As pessoas continuam a precisar do serviço enquanto esses trabalhos estão a decorrer.

No que diz respeito às nossas funções mais críticas, considero que devemos ponderar uma implementação separada numa arquitetura diferente, que já esteja em funcionamento e pronta para assumir o controlo. Pode tratar-se de outra plataforma de IA. Pode ser um sistema convencional mais simples, capaz de manter as operações essenciais em funcionamento.

A independência tem de se estender para além da aplicação. Outros programas na mesma rede com falhas podem continuar indisponíveis. Dois modelos diferentes que utilizem os mesmos dados corrompidos podem continuar a produzir resultados errados. Temos de analisar todo o percurso do qual o serviço depende. Temos de adotar a mesma abordagem que descrevi no exemplo da arquitetura da cabina de comando da Airbus.

Sei que isto custa dinheiro e aumenta a complexidade. A alternativa não precisa de todas as funcionalidades do sistema principal. Tal como a bateria de um avião, tem de assegurar as funções essenciais durante um período definido, utilizando uma arquitetura diferente.

Comece por decidir o que deve continuar a funcionar, em que capacidade e por quanto tempo. Se a operação só puder tolerar milissegundos ou segundos de interrupção, isso torna-se um requisito de engenharia que temos de demonstrar. A restauração de tudo o resto pode demorar mais tempo.

Em seguida, submeta o projeto a um teste de pressão em condições controladas. Desative a IA. Desligue a rede. Introduza dados desatualizados, uma atualização defeituosa ou um ataque cibernético. Teste a situação quando o sistema de reserva já tiver perdido alguma capacidade. Observe o que acontece quando pessoas reais têm de efetuar a transição e avalie se o serviço continua a ser utilizável e a funcionar corretamente.

Na cabina de pilotagem, preciso de saber o que ainda funciona após uma avaria, durante quanto tempo vai funcionar e o que devo fazer a seguir. Preciso dessas respostas antes de descolar.

As famílias que tentam regressar a casa e as empresas que aguardam pagamentos merecem essa mesma preparação da nossa parte.

Na vossa próxima reunião de liderança, perguntem à vossa equipa: «Se o nosso sistema principal falhasse neste preciso momento, o que continuaria a funcionar e será que a mesma falha poderia afetar também isso?»

Analise em pormenor o design e a arquitetura e tente encontrar falhas. Server inoperacional, comunicações inoperacionais, um incidente cibernético. Se for um sistema de IA como o SMART, estude os seus componentes. Parta do princípio de que pode ficar fora de controlo, limite a largura de banda e tenha um segundo sistema com uma arquitetura diferente pronto a entrar em ação caso todo o sistema fique inoperacional.

Depois, pede-lhes que te mostrem.

A próxima falha de energia não deve ser a primeira ocasião em que descobrimos se o sistema de reserva funciona.

Mantenha-se atualizado com OPSWAT!

Inscreva-se hoje mesmo para receber as últimas novidades da empresa, histórias, informações sobre eventos e muito mais.