NVIDIA ha lanciato NeMo Guardrails, uno strumento open source pensato per aiutare gli sviluppatori a creare applicazioni di intelligenza artificiale generativa più sicure, precise e appropriate. Questo strumento è disponibile tramite il servizio AI Foundations di NVIDIA, che permette alle aziende di addestrare modelli di linguaggio di grandi dimensioni sui propri dati proprietari.
NeMo Guardrails e le sue funzionalità
NeMo Guardrails offre agli ingegneri del software la possibilità di imporre tre diversi tipi di limiti sui modelli di linguaggio di grandi dimensioni sviluppati internamente. In particolare, le aziende possono impostare “guardrail tematici” che impediscono alle loro applicazioni di affrontare argomenti per i quali non sono stati addestrati. Ad esempio, un chatbot di assistenza clienti potrebbe rifiutare di rispondere a una domanda sul tempo grazie a questo strumento. Inoltre, è possibile impostare limiti di sicurezza e protezione per garantire che i modelli di linguaggio estraggano informazioni accurate e si colleghino solo a applicazioni sicure.
Compatibilità e facilità d’uso
Secondo NVIDIA, NeMo Guardrails è compatibile con tutti i modelli di linguaggio di grandi dimensioni, incluso ChatGPT, e può essere utilizzato da quasi tutti gli sviluppatori software, senza la necessità di essere esperti di machine learning o data scientist. Essendo open source, funziona anche con tutti gli strumenti che gli sviluppatori aziendali utilizzano già.
Integrazione con il framework NeMo e accesso per i clienti business
NVIDIA sta integrando NeMo Guardrails nel suo framework NeMo per la creazione di modelli di intelligenza artificiale generativa. I clienti business possono accedere a NeMo tramite la piattaforma software AI Enterprise di NVIDIA o tramite il servizio AI Foundations. Il rilascio di NeMo Guardrails giunge in un momento in cui alcune delle intelligenze artificiali generative più famose, come Microsoft Bing e Google Bard, sono state criticate per la loro tendenza a “allucinare” informazioni.
Contributo alla comunità degli sviluppatori
NVIDIA ha reso NeMo Guardrails open source per contribuire all’energia e al lavoro della comunità degli sviluppatori nel campo della sicurezza dell’IA. “Insieme, i nostri sforzi sui guardrail aiuteranno le aziende a mantenere i loro servizi intelligenti in linea con i requisiti di sicurezza, privacy e protezione, affinché queste fonti di innovazione restino sulla giusta strada”, ha dichiarato NVIDIA.