Il DEF CON di quest’anno ha invitato gli hacker a partecipare all’AI Village per cercare errori e pregiudizi nei modelli di linguaggio di grandi dimensioni (LLM) sviluppati da OpenAI, Google, Anthropic e altri.
Il più grande esercizio di red teaming per l’intelligenza artificiale
Gli organizzatori dell’AI Village descrivono l’evento come “il più grande esercizio di red teaming mai organizzato per qualsiasi gruppo di modelli di intelligenza artificiale”. Parteciperanno migliaia di persone, tra cui centinaia di studenti provenienti da istituzioni e comunità trascurate, che saranno incaricati di individuare le vulnerabilità nei modelli di linguaggio utilizzati nelle chatbot e nei sistemi di intelligenza artificiale generativa.
Problemi tradizionali e specifici dell’apprendimento automatico
Oltre agli errori tradizionali nel codice, l’evento si concentrerà su problemi specifici dell’apprendimento automatico, come pregiudizi, allucinazioni e jailbreak. Questi sono problemi che professionisti della sicurezza e dell’etica devono affrontare man mano che queste tecnologie si diffondono.
Il ruolo dei red team nel miglioramento dei modelli di IA
Sven Cattell, fondatore dell’AI Village, ha sottolineato che per risolvere i problemi di questi modelli, è necessario coinvolgere più persone che sappiano come valutarli e metterli alla prova. L’obiettivo è adattare le attività di bug bounty e live hacking per includere i sistemi basati su modelli di apprendimento automatico.
Premi e supporto istituzionale
I partecipanti all’esercizio di red teaming avranno accesso a laptop e modelli LLM di diversi fornitori. Il vincitore, che avrà accumulato più punti in un sistema di stile “capture the flag”, riceverà una GPU Nvidia di fascia alta. L’evento è supportato anche dall’Ufficio della Casa Bianca per la Scienza, Tecnologia e Politica, dalla Direzione CISE della National Science Foundation degli Stati Uniti e dal Congressional AI Caucus.