Palestras

Sistemas de inteligência artificial estão sendo cada vez mais implantados como agentes incorporados (embodied agents) em drones, robôs e sistemas de aeronaves não tripuladas (UAS), expandindo sua superfície de ataque para além do software e adentrando o mundo físico.

Esses sistemas integram de forma estreita percepção, aprendizado, tomada de decisão e controle, criando riscos de segurança que não são totalmente solucionados pelas técnicas tradicionais de segurança cibernética ou de robustez de IA. Esta palestra apresenta trabalhos recentes sobre Segurança de IA Incorporada (Embodied AI Security), focando em dois esforços complementares.

O primeiro deles, o CHAI (IEEE SaTML 2026), estuda ataques de sequestro de comandos (command-hijacking) contra agentes incorporados que utilizam grandes modelos de linguagem (LLMs) e modelos de linguagem e visão (VLMs) para raciocínio de alto nível.

O segundo, o BADControl (USENIX Security 2026), examina ataques de backdoor e manipulação em controladores de baixo nível, incluindo controladores Proporcional-Integral-Derivativo (PID) e Reguladores Quadráticos Lineares (LQRs).

Juntos, esses projetos mostram como adversários podem explorar a interface entre a cognição e o controle para induzir comportamentos inseguros ou que causem o fracasso da missão por meio de pequenas perturbações direcionadas. A palestra termina discutindo os desafios em aberto e esboçando uma agenda de pesquisa para defesas fundamentadas que abranjam a detecção, a tomada de decisão e o controle em sistemas autônomos, com atenção especial à defesa contra enxames de drones sofisticados e de baixo custo.

Alvaro Cardenas é professor no Departamento de Ciência e Engenharia da Computação na Universidade da Califórnia em Santa Cruz (UC Santa Cruz). Antes de ingressar na UCSC, ele foi o Professor Associado “Eugene McDermott” de Ciência da Computação na Universidade do Texas em Dallas, pesquisador de pós-doutorado na Universidade da Califórnia em Berkeley e membro da equipe de pesquisa dos Laboratórios da Fujitsu.

Ele possui mestrado e doutorado pela Universidade de Maryland, College Park, e bacharelado pela Universidad de Los Andes, na Colômbia. Sua pesquisa concentra-se na segurança de sistemas ciberfísicos, incluindo inteligência artificial incorporada, veículos autônomos e tecnologias de contra-drones com meios não cinéticos.

A comunidade de segurança centrada no ser humano fez avanços significativos em tornar as ferramentas, notificações e alertas de segurança e privacidade mais legíveis e fáceis de usar para os usuários finais. No entanto, muitos problemas críticos de segurança e privacidade permanecem fora do alcance dos usuários finais ou — mesmo quando simplificados — exigem mais conhecimento, tempo ou esforço para serem gerenciados do que é razoável ou justo esperar da maioria das pessoas. Sendo assim, o próximo desafio importante na segurança centrada no ser humano é ir além dos usuários finais e explorar como tornar a segurança e a privacidade mais acessíveis e práticas para os profissionais cujas decisões afetam, direta ou indiretamente, os usuários finais em maior escala. Esses profissionais incluem não apenas desenvolvedores de software, analistas de vulnerabilidade e equipes de operações de segurança, mas também cientistas sociais que publicam dados de pesquisa, avaliadores de produtos e até influenciadores do YouTube. Esta palestra abordará diversos esforços voltados para a melhoria da tomada de decisão em segurança e privacidade por parte desses importantes intermediários.

Michelle Mazurek é professora no Departamento de Ciência da Computação e no Instituto de Estudos Avançados em Computação da Universidade de Maryland, College Park, onde também dirige o Centro de Cibersegurança de Maryland. Sua pesquisa busca compreender e dar suporte aos elementos humanos na tomada de decisões sobre segurança e privacidade digital, contando com mais de 90 publicações revisadas por pares sobre esses temas. Projetos recentes incluem examinar como e por que desenvolvedores cometem erros de segurança e privacidade; analisar como informações sobre segurança e privacidade são distribuídas por meio de influenciadores do YouTube; e investigar como os usuários aprendem sobre conselhos de segurança e decidem se vão adotá-los. A Dra. Mazurek atuou como presidente de programa do IEEE Symposium on Security and Privacy (S&P), do Symposium on Usable Privacy and Security (SOUPS) e do Privacy Enhancing Technologies Symposium (PETS), além de presidente de trilha para a área de Usabilidade e Medição de Segurança na ACM Conference on Computer and Communications Security (CCS). Ela recebeu diversos prêmios, incluindo o NSF CAREER award, o DARPA Young Faculty Award, o prêmio de Melhor Artigo Científico em Cibersegurança da NSA e vários prêmios de artigo de destaque (distinguished paper awards). Ela obteve seu doutorado em Engenharia Elétrica e de Computação pela Carnegie Mellon University.