// Glossario IT
Explainable AI (XAI)
Un insieme di tecniche che rendono comprensibile per un essere umano il motivo per cui un modello di intelligenza artificiale ha prodotto un determinato risultato.
Cos'è
L'Explainable AI (XAI) sviluppa tecniche che rendono comprensibile a un essere umano perché un modello di intelligenza artificiale ha prodotto un determinato risultato, un aspetto particolarmente importante per modelli complessi il cui funzionamento interno è altrimenti difficile da interpretare anche per chi li ha sviluppati, un problema noto come effetto scatola nera.
Perché conta
In settori regolamentati o per decisioni con impatto significativo sulle persone (concessione di un prestito, selezione di un candidato), poter spiegare concretamente perché un sistema automatizzato ha preso una determinata decisione non è solo una buona pratica ma spesso un requisito normativo esplicito, e la sua assenza espone l'organizzazione a rischi legali oltre che di fiducia verso chi è soggetto a quelle decisioni.
Tag