Empirical Investigation of Transparency in AI Supply Chain

L’Intelligenza Artificiale (AI) ha avuto un impatto significativo sul mondo dei sistemi software, in gran parte grazie all’introduzione di nuovi artefatti, tra cui diversi tipi di “insiemi di informazioni” che si modificano dinamicamente in risposta a fonti distribuite di dati. Di conseguenza, la natura dinamica di tali sistemi rende pi`u complesso raggiungere livelli pi`u elevati di trasparenza. Nel quadro di questa dissertazione, la “disponibilit`a delle evidenze” necessarie a comprendere l’evoluzione del software basato sull’AI `e definita come “trasparenza”. In questo contesto, l’attenzione si concentra anche sulle iniziative regolatorie relative alla “provenienza” e al “debito documentale”. Nonostante il crescente interesse per la trasparenza, pochi studi empirici hanno analizzato in che modo essa sia effettivamente praticata nello sviluppo di software basati sull’AI. Le ricerche precedenti, incentrate principalmente sugli artefatti, lasciano aperte domande su ci`o che accade effettivamente alla documentazione. Questa dissertazione affronta tali questioni attraverso studi empirici condotti su tre livelli — documentazione dei modelli, contributi ai framework di machine learning e codice sorgente non strutturato — e identifica una serie di incoerenze nella trasparenza. I risultati ottenuti nei tre livelli evidenziano carenze ricorrenti, tra cui metadati incompleti e decisioni non documentate, rivelando una perdita di trasparenza lungo l’intera pipeline dell’AI.