Battista Biggio

Professore di Ingegneria Industriale e dell'Informazione @ Università di Cagliari

Bio

Battista Biggio è professore ordinario presso il Dipartimento di Ingegneria Elettrica ed Elettronica dell'Università di Cagliari, dove si occupa di sicurezza dell'intelligenza artificiale e machine learning. I suoi lavori pionieristici nel 2012 e 2013 hanno dimostrato per primi come i modelli di apprendimento automatico possano essere ingannati o avvelenati da attaccanti, anticipando un campo di ricerca oggi centrale per la sicurezza dell'IA. Per questi contributi ha ricevuto il 2022 ICML Test of Time Award per l'articolo "Poisoning Attacks against Support Vector Machines”, il Best Paper Award 2021 della rivista Pattern Recognition per "Wild Patterns: Ten Years After the Rise of Adversarial Machine Learning", oltre al Google Security and Privacy Research Award 2022. È Fellow dell'IEEE e di AAIS. La sua ricerca attuale riguarda la robustezza e la sicurezza dei sistemi di IA, inclusi i modelli linguistici e il loro utilizzo nei sistemi agentici.

Interventi (1)

Adversarial AI: Sfida alle vulnerabilità dei sistemi intelligenti

SIOS26 SUMMER

Basta un adesivo su un cartello stradale per ingannare un'auto a guida autonoma, o poche righe di testo nascosto per dirottare un agente AI. In questo intervento esploreremo dal punto di vista pratico come i modelli di machine learning — dai classificatori di immagini ai sistemi basati su LLM — possano essere attaccati, e quali strategie esistono per difenderli. I partecipanti sperimenteranno tecniche di adversarial machine learning per individuare le vulnerabilità dei modelli e progettare sistemi di IA affidabili secondo i requisiti di sicurezza emergenti.

11:00 - 12:00