// Glossario IT
Prompt Injection
Un attacco che manipola l'input fornito a un modello di intelligenza artificiale per fargli ignorare le sue istruzioni originali e comportarsi in modo non previsto.
Voce curata da Luciano Blancato, IT Manager a Catania · aggiornata il
Cos'è
Un attacco di prompt injection inserisce istruzioni malevole nascoste nell'input fornito a un modello di intelligenza artificiale, per indurlo a ignorare le istruzioni originali impartite dal suo sviluppatore e comportarsi in modo diverso da quello previsto, per esempio rivelando informazioni riservate o eseguendo azioni non autorizzate se il modello ha accesso a strumenti esterni.
Perché conta
È una categoria di vulnerabilità relativamente nuova, specifica dei sistemi basati su modelli linguistici, che i controlli di sicurezza tradizionali per applicazioni web non erano progettati per affrontare: applicazioni che integrano modelli di intelligenza artificiale con accesso a dati sensibili o azioni concrete sui sistemi richiedono progettazioni specifiche per limitare cosa un input malevolo può effettivamente ottenere.