// Glossario IT
Data Poisoning
L'inserimento deliberato di dati falsi o manipolati in un dataset, per compromettere l'accuratezza o il comportamento di un sistema che li utilizza.
Voce curata da Luciano Blancato, IT Manager a Catania · aggiornata il
Cos'è
Il data poisoning inserisce deliberatamente dati falsi, distorti o manipolati in un dataset usato da un sistema, tipicamente per addestrare un modello di intelligenza artificiale ma anche per alimentare analisi o decisioni automatizzate, con l'obiettivo di comprometterne l'accuratezza o indirizzarne il comportamento verso un risultato favorevole all'attaccante.
Perché conta
È strettamente collegato al model poisoning ma più ampio nell'ambito: riguarda qualunque sistema che prende decisioni basandosi su dati che potrebbero essere stati manipolati, non solo modelli di intelligenza artificiale in addestramento. Verificare l'integrità e la provenienza dei dati usati per decisioni automatizzate importanti è una misura di sicurezza sempre più rilevante man mano che più processi aziendali dipendono da elaborazioni automatizzate dei dati.