Defcon 31: Chatbots e KI, con un occhio alle vulnerabilità

La conferenza hacker Defcon 31 di quest’anno ha messo in evidenza l’importanza e i potenziali rischi delle applicazioni basate su intelligenza artificiale, in particolare i chatbots. Questo segue un concorso lanciato dal governo USA a maggio, che mirava a esplorare e evidenziare i rischi associati all’uso delle KI.

Punti salienti della conferenza

Durante la conferenza, sono stati discussi vari argomenti legati all’intelligenza artificiale:

1. Concorso sulla sicurezza KI: Governo USA ha indetto un concorso per identificare i rischi associati all’uso delle KI. L’obiettivo era comprendere meglio le potenziali vulnerabilità e come potrebbero essere sfruttate.
2. Manipolazione dell’algoritmo: Kennedy Mays è riuscito a manipolare un algoritmo per farlo calcolare erroneamente che 9 + 10 = 21.
3. Vulnerabilità in macOS: Patrick Wardle ha scoperto una vulnerabilità nel gestore dei task in background di macOS. Questa vulnerabilità potrebbe permettere l’inserimento di malware attraverso manipolazioni.
4. Analisi congiunta: Diverse aziende e esperti di sicurezza hanno collaborato per analizzare e identificare le vulnerabilità presenti nelle applicazioni basate su KI.

L’attenzione su Apple

Oltre ai temi principali della conferenza, Apple è stata menzionata in relazione a vari argomenti, anche se i dettagli specifici non sono stati forniti nel riassunto.