Navegar pelas ciberameaças e reforçar as defesas na era da IA

Atualmente, o mundo da cibersegurança está a passar por uma enorme transformação. A inteligência artificial (IA) está no centro desta mudança, representando simultaneamente uma ameaça e uma oportunidade. Embora a IA tenha o potencial de capacitar as organizações para derrotar os ciberataques a uma velocidade nunca antes vista e impulsionar a inovação e a eficiência na deteção de ameaças, investigação e resposta a incidentes, os adversários podem utilizar a IA como parte dos seus exploits. Nunca foi tão importante para nós conceber, implementar e utilizar a IA de forma segura.

Na Microsoft, estamos a explorar o potencial da IA para melhorar as nossas medidas de segurança, desbloquear proteções novas e avançadas e criar software melhor. Com a IA, temos o poder de nos adaptarmos às ameaças em evolução, detetar anomalias instantaneamente, responder rapidamente para neutralizar os riscos e adaptar as defesas às necessidades de uma organização.

A IA pode também ajudar-nos a superar outro dos maiores desafios da indústria. Face à escassez global de mão de obra em cibersegurança, sendo necessários cerca de 4 milhões de profissionais de cibersegurança em todo o mundo, a IA tem potencial para ser uma ferramenta fundamental para colmatar a lacuna de talento e ajudar os defensores a serem mais produtivos.

Já vimos num estudo como o Microsoft Security Copilot pode ajudar analistas de segurança, independentemente do seu nível de experiência, em todas as tarefas, os participantes foram 44 por cento mais precisos e 26 por cento mais rápidos.

À medida que procuramos proteger o futuro, temos de garantir que equilibramos a preparação segura para a IA e o aproveitamento dos seus benefícios, porque a IA tem o poder de elevar o potencial humano e resolver alguns dos nossos desafios mais graves.

Um futuro mais seguro com a IA exigirá avanços fundamentais na engenharia de software. Será necessário compreendermos e combatermos as ameaças orientadas por IA, como componentes essenciais de qualquer estratégia de segurança. E temos de trabalhar em conjunto para criar uma colaboração e parcerias profundas entre os setores público e privado para combater os atores maliciosos.

Como parte deste esforço e da nossa própria Iniciativa Secure Future, a OpenAI e a Microsoft estão hoje a publicar novas informações que detalham as tentativas dos atores de ameaças de testar e explorar a utilidade dos modelos de linguagem grandes (LLM) em técnicas de ataque.

Esperamos que esta informação seja útil para todas as indústrias, à medida que trabalhamos para um futuro mais seguro. Porque, no fim de contas, somos todos defensores.

Assista ao briefing digital do Cyber Signals em que Vasu Jakkal, Vice-Presidente Corporativo da Microsoft Security Business, entrevista os principais especialistas em informações sobre ameaças, acerca das ciberameaças na era da IA, as formas como a Microsoft está a utilizar a IA para a segurança avançada e o que as organizações podem fazer para ajudar a reforçar as defesas.

O panorama das ciberameaças tem-se tornado cada vez mais desafiante, com os atacantes cada vez mais motivados, mais sofisticados e com mais recursos. Tanto os atores de ameaças como os defensores recorrem à IA, incluindo os LLM, para aumentar a sua produtividade e tirar partido de plataformas acessíveis que possam servir os seus objetivos e técnicas de ataque.

Dada a rápida evolução do panorama de ameaças, anunciamos hoje os princípios da Microsoft que orientam as nossas ações para mitigar o risco dos atores de ameaças, incluindo ameaças persistentes avançadas (APTs), manipuladores persistentes avançados (APMs) e sindicatos cibercriminosos, que utilizam plataformas de IA e APIs. Estes princípios incluem a identificação e a ação contra a utilização da IA por atores de ameaças maliciosos, a notificação de outros prestadores de serviços de IA, a colaboração com outros intervenientes e a transparência.

Embora os motivos e a sofisticação dos atores de ameaças variem, possuem tarefas comuns na implementação de ataques. Estas incluem o reconhecimento, como a pesquisa de indústrias, localizações e relações de potenciais vítimas; a codificação, incluindo a melhoria de scripts de software e o desenvolvimento de malware; e a assistência na aprendizagem e utilização de linguagens humanas e artificiais.

Em colaboração com a OpenAI, estamos a partilhar informações sobre ameaças que mostram a deteção de adversários afiliados ao estado, classificados como Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon e Salmon Typhoon, que estão a utilizar LLMs para ampliar as ciber-operações.

O objetivo da parceria de investigação da Microsoft com a OpenAI é garantir a utilização segura e responsável de tecnologias de IA como o ChatGPT, assegurando os mais elevados padrões de aplicação ética para proteger a comunidade de potenciais utilizações indevidas.

O Forest Blizzard (STRONTIUM), um ator dos serviços secretos militares russos altamente eficaz, ligado à Diretoria Principal do Estado-Maior das Forças Armadas da Federação Russa ou Unidade GRU 26165, visou vítimas de interesse tático e estratégico para o governo russo. As suas atividades abrangem uma variedade de setores, incluindo a defesa, os transportes/logística, a administração pública, a energia, as ONG e as tecnologias de informação

O Emerald Sleet (Velvet Chollima) é um ator de ameaças norte-coreano que a Microsoft detetou a usurpar a identidade de instituições académicas e ONGs de renome para induzir as vítimas a responder com opiniões e comentários de especialistas sobre políticas externas relacionadas com a Coreia do Norte.

A utilização de LLMs pelo Emerald Sleet envolveu a investigação de gabinetes estratégicos e de especialistas sobre a Coreia do Norte, bem como a criação de conteúdos suscetíveis de serem utilizados em campanhas de ataque spear phishing. O Emerald Sleet também interagiu com LLMs para compreender vulnerabilidades publicamente conhecidas, resolver problemas técnicos e obter assistência na utilização de várias tecnologias Web.

O Crimson Sandstorm (CURIUM) é um ator de ameaças iraniano que se considera estar ligado ao Corpo de Guardas da Revolução Islâmica (IRGC). A utilização de LLM envolveu pedidos de suporte em termos de engenharia social, assistência na resolução de erros, desenvolvimento em .NET e formas através das quais um atacante poderia evitar a deteção quando se encontra numa máquina comprometida.

O Charcoal Typhoon (CHROMIUM) é um ator de ameaças filiado na China focado predominantemente na monitorização de grupos em Taiwan, Tailândia, Mongólia, Malásia, França, Nepal e indivíduos a nível global que se opõem às políticas da China. Em operações recentes, observou-se que o Charcoal Typhoon recorreu a LLM para obter informações sobre investigações para compreender tecnologias, plataformas e vulnerabilidades específicas, o que é indicativo de fases preliminares de recolha de informações.

Outro grupo apoiado pela China, o Salmon Typhoon, tem estado a avaliar a eficácia da utilização de LLM ao longo de 2023 para obter informações sobre tópicos potencialmente confidenciais, indivíduos de alto perfil, geopolítica regional, influência dos EUA e assuntos internos. Este envolvimento provisório com os LLM poderá refletir tanto um alargamento do seu conjunto de ferramentas de recolha de informações como uma fase experimental na avaliação das capacidades das tecnologias emergentes.

A nossa investigação com a OpenAI não identificou ataques significativos que utilizem os LLM que monitorizamos de perto.

Tomámos medidas para interromper os recursos e contas associados a estes atores de ameaças e moldar as proteções e os mecanismos de segurança em torno dos nossos modelos.

A fraude com tecnologia de IA é outra preocupação crítica. A sintetização de voz é um exemplo disto, em que uma amostra de voz de três segundos pode educar um modelo a soar como qualquer pessoa. Mesmo algo tão inócuo como a sua saudação do correio de voz pode ser utilizado para obter uma amostra suficiente.

Grande parte da forma como interagimos uns com os outros e conduzimos negócios depende da verificação de identidade, como o reconhecimento da voz, do rosto, do endereço de e-mail ou do estilo de escrita de uma pessoa.

É crucial compreendermos como os atores maliciosos utilizam a IA para minar sistemas de comprovação de identidade de longa data, de modo a podermos combater casos de fraude complexos e outras ameaças emergentes de engenharia social que ocultam as identidades.

A IA também pode ser utilizada para ajudar as empresas a impedir tentativas de fraude. Embora a Microsoft tenha descontinuado o nosso compromisso com uma empresa no Brasil, os nossos sistemas de IA detetaram as suas tentativas de se reconstituir para voltar a entrar no nosso ecossistema.

O grupo tentou continuamente ofuscar as suas informações, ocultar as raízes de propriedade e voltar a entrar, mas as nossas deteções de IA utilizaram quase uma dúzia de sinais de risco para sinalizar a empresa fraudulenta e associá-la a comportamentos suspeitos anteriormente reconhecidos, bloqueando assim as suas tentativas.

A Microsoft está empenhada numa IA responsável liderada por humanos, com privacidade e segurança, com seres humanos a fornecer supervisão, a avaliar recursos e a interpretar políticas e regulamentos.

As ferramentas tradicionais já não acompanham o ritmo das ameaças colocadas pelos cibercriminosos. A velocidade, a escala e a sofisticação crescentes dos ciberataques recentes exigem uma nova abordagem à segurança. Além disso, tendo em conta a escassez de equipas de trabalhadores de cibersegurança e o aumento da frequência e da gravidade das ciberameaças, existe uma necessidade urgente de colmatar esta lacuna de competências.

A IA pode desequilibrar a balança a favor dos defensores. Um estudo recente do Microsoft Security Copilot (atualmente em testes de pré-visualização para clientes), revelou um aumento da velocidade e precisão dos analistas de segurança, independentemente do seu nível de experiência, em tarefas comuns como identificar scripts utilizados por atacantes, criar relatórios de incidentes e identificar passos de remediação adequados^.1