Mozilla propone un nuovo framework per definire quanto è davvero open source un’AI

🤖 Cosa cambia

• Mozilla propone di valutare l’apertura dell’AI separatamente su dati, codice, pesi del modello, documentazione e altri componenti della catena.
• Un modello può avere pesi aperti ma training data chiusi: per Mozilla l’open source AI deve quindi essere descritto come gradiente.
• Il framework separa inoltre l’apertura dalla sicurezza, valutando deployment, guardrail, moderazione e governance insieme alle caratteristiche del modello.

Mozilla prova a mettere ordine in uno dei termini più abusati dell’attuale industria dell’intelligenza artificiale: open source AI. Invece di stabilire semplicemente se un modello sia “aperto” oppure “chiuso”, l’organizzazione propone un framework nel quale l’apertura viene misurata lungo diverse componenti del sistema, dai dati di addestramento al codice, dai pesi del modello alla documentazione. Il lavoro nasce da un percorso avviato nel 2024 insieme al Columbia Institute of Global Politics e coinvolge ricercatori, sviluppatori, industria e società civile. L’obiettivo non è stabilire un’unica soglia obbligatoria di apertura, ma fornire un vocabolario comune per capire cosa venga realmente reso disponibile quando un produttore definisce “open” il proprio modello.

Per Mozilla l’AI open source non può essere ridotta a una singola etichetta

Nel nuovo framework per l’open source AI presentato da Mozilla, Mark Surman parte da una constatazione semplice: il dibattito tra modelli aperti e chiusi è ormai diventato una questione industriale e politica, ma il termine “open” continua a racchiudere sistemi estremamente differenti. Un modello può distribuire liberamente i weights senza rendere disponibili i dati utilizzati per l’addestramento; un altro può pubblicare parte del codice ma non spiegare adeguatamente dataset, procedure di valutazione o processo di training. Trattare entrambi semplicemente come “open source” nasconde quindi differenze fondamentali per chi vuole verificare, modificare o riprodurre il sistema. Il framework scompone per questo l’AI nelle diverse parti della sua catena tecnica e assegna all’apertura una natura graduale, non binaria. È un’impostazione che assume particolare importanza mentre la definizione di modelli general purpose e i relativi obblighi stanno entrando stabilmente nel quadro dell’AI Act europeo, dove trasparenza, documentazione e gestione dei rischi non possono essere ricondotte alla semplice disponibilità del codice sorgente.

Pesi aperti non significano automaticamente modello aperto

La distinzione più importante riguarda proprio i pesi del modello. Nel software tradizionale la pubblicazione del sorgente consente normalmente di comprendere gran parte del comportamento del programma e, almeno teoricamente, ricostruirlo. Nei foundation model la situazione è più complessa: i pesi rappresentano il risultato dell’addestramento, ma non raccontano necessariamente quali dati siano stati utilizzati, come siano stati filtrati, quali procedure abbiano modificato il modello dopo il pretraining o quali valutazioni abbiano determinato la versione finale. Mozilla propone quindi di descrivere separatamente l’apertura di data, code, weights, documentation e altri elementi del sistema. Questa granularità rende possibile distinguere un modello realmente riproducibile da uno soltanto distribuibile, oppure un sistema facilmente ispezionabile da uno che consente principalmente l’esecuzione locale. Il tema riguarda direttamente anche il mercato dei modelli eseguiti fuori dal cloud, diventato sempre più importante con la diffusione dell’AI locale nei browser e nei dispositivi. La possibilità di scaricare un modello aumenta il controllo dell’utente, ma non fornisce automaticamente trasparenza sull’intero processo che lo ha prodotto.

Sicurezza e apertura devono essere valutate su livelli differenti

Mozilla evita inoltre una scorciatoia frequente nel dibattito: sostenere che un modello sia automaticamente più sicuro perché chiuso oppure più controllabile perché aperto. Il framework afferma che il rischio non dipende soltanto dal modello, ma dall’intero sistema nel quale viene distribuito. Ambiente di deployment, moderazione, guardrail, autorizzazioni e strutture di governance possono modificare profondamente il comportamento reale della stessa base tecnologica. Un modello relativamente aperto eseguito in un ambiente fortemente limitato può quindi avere un profilo di rischio molto diverso dallo stesso modello collegato autonomamente a Internet, repository e credenziali. Gli episodi nei quali agenti AI hanno oltrepassato i confini previsti durante attività su sistemi e workflow reali mostrano concretamente perché valutare soltanto i pesi sia insufficiente quando un modello può utilizzare strumenti esterni. Il framework non prescrive però una configurazione universale: propone invece un linguaggio comune attraverso cui sviluppatori, ricercatori e regolatori possano discutere separatamente apertura e sicurezza.

Il progetto nasce da un confronto iniziato nel 2024

La proposta non nasce esclusivamente dentro Mozilla. Il percorso parte dalla Columbia Convening on Openness and AI organizzata nel 2024 insieme al Columbia Institute of Global Politics, alla quale hanno partecipato oltre 40 ricercatori, sviluppatori ed esperti di policy. Il lavoro è poi confluito nello studio “Unpacking Open Source AI: Toward a Framework for Openness in Foundation Models”, pubblicato su Communications of the ACM e firmato da esponenti provenienti da accademia, industria e società civile. Questo approccio collettivo è rilevante perché la definizione di open source nell’AI tocca interessi differenti: chi sviluppa modelli vuole preservare competitività e proprietà intellettuale, i ricercatori chiedono accesso sufficiente per verificarli, i regolatori devono poter identificare responsabilità e rischi, mentre sviluppatori e aziende cercano condizioni di licenza che permettano realmente di costruire prodotti derivati. La stessa Mozilla ha adottato una posizione simile dentro Firefox, dove gli AI Controls permettono agli utenti di abilitare o bloccare le funzionalità AI invece di assumere che l’integrazione dell’intelligenza artificiale debba essere necessariamente uniforme.

Il problema è capire cosa può realmente controllare chi riceve il modello

La conseguenza pratica del framework è che l’etichetta open source AI smette di essere sufficiente per valutare una tecnologia. Per un’impresa interessata a utilizzare un foundation model diventa necessario sapere se può soltanto eseguirlo, modificarne i pesi, verificarne il codice, conoscere la provenienza dei dati o riprodurne l’addestramento. Per un ricercatore cambia invece la possibilità di effettuare audit indipendenti, mentre per un’autorità pubblica conta poter stabilire quali informazioni siano effettivamente accessibili e quali rimangano nella disponibilità esclusiva del produttore. La distinzione è ancora più importante perché l’intelligenza artificiale viene incorporata in strumenti quotidiani come i browser: Firefox 154 ha continuato ad ampliare le funzioni AI mantenendo al tempo stesso controlli specifici per la loro gestione, come mostra il recente aggiornamento dedicato a Firefox 154, privacy e Manage AI. Mozilla applica così allo stack dei modelli la stessa idea di fondo: ciò che conta non è soltanto quali funzioni esistano, ma chi può comprenderle, controllarle e decidere come utilizzarle.

Open source AI diventa una questione di misurabilità

Il valore più concreto della proposta Mozilla consiste quindi nel tentativo di sostituire una disputa terminologica con criteri verificabili. Parlare genericamente di modello aperto permette oggi di mettere sotto la stessa etichetta sistemi che concedono libertà radicalmente differenti. Separare training data, codice, weights, documentazione, deployment e governance consente invece di identificare esattamente dove si trovi l’apertura e dove inizi la parte proprietaria. Mozilla evita volutamente di indicare un livello ideale valido per ogni foundation model, perché disponibilità dei dati, rischi di sicurezza e possibilità di abuso possono cambiare a seconda dell’applicazione. Il framework stabilisce però un principio più difficile da aggirare: l’apertura dell’intelligenza artificiale deve poter essere descritta componente per componente, e non semplicemente proclamata dal produttore. Se questa impostazione dovesse entrare stabilmente nel dibattito tecnico e normativo, la definizione di open source AI potrebbe finalmente diventare meno una scelta di marketing e più una proprietà misurabile dell’architettura.