La conferenza hacker Defcon 31 di quest’anno ha messo in evidenza l’importanza e i potenziali rischi delle applicazioni basate su intelligenza artificiale, in particolare i chatbots. Questo segue un concorso lanciato dal governo USA a maggio, che mirava a esplorare e evidenziare i rischi associati all’uso delle KI.
Annunci
Punti salienti della conferenza
Durante la conferenza, sono stati discussi vari argomenti legati all’intelligenza artificiale:
- Concorso sulla sicurezza KI: Governo USA ha indetto un concorso per identificare i rischi associati all’uso delle KI. L’obiettivo era comprendere meglio le potenziali vulnerabilità e come potrebbero essere sfruttate.
- Manipolazione dell’algoritmo: Kennedy Mays è riuscito a manipolare un algoritmo per farlo calcolare erroneamente che 9 + 10 = 21.
- Vulnerabilità in macOS: Patrick Wardle ha scoperto una vulnerabilità nel gestore dei task in background di macOS. Questa vulnerabilità potrebbe permettere l’inserimento di malware attraverso manipolazioni.
- Analisi congiunta: Diverse aziende e esperti di sicurezza hanno collaborato per analizzare e identificare le vulnerabilità presenti nelle applicazioni basate su KI.
L’attenzione su Apple
Oltre ai temi principali della conferenza, Apple è stata menzionata in relazione a vari argomenti, anche se i dettagli specifici non sono stati forniti nel riassunto.