// Glossario IT
Adversarial Attack (AI)
Un input appositamente costruito, spesso con modifiche impercettibili, per indurre un modello di intelligenza artificiale a produrre un output sbagliato.
Cos'è
Un adversarial attack contro un sistema di intelligenza artificiale costruisce un input appositamente manipolato, spesso con modifiche impercettibili all'occhio umano (un rumore quasi invisibile aggiunto a un'immagine, per esempio), per indurre il modello a produrre una classificazione o una decisione completamente sbagliata, pur apparendo normale a un osservatore umano che esamina lo stesso input.
Perché conta
Dimostra un limite strutturale importante dei sistemi di intelligenza artificiale attuali: possono essere ingannati in modi che un essere umano non lo sarebbe mai, con conseguenze potenzialmente gravi per applicazioni critiche come sistemi di riconoscimento facciale per la sicurezza o veicoli a guida autonoma che si affidano a questi modelli per decisioni con impatto fisico diretto e immediato.
Tag