Sommario
Jen Easterly, direttore del CISA, sostiene che i problemi di cybersecurity attuali sono in gran parte il risultato di incentivi non allineati. Questo è avvenuto poiché l’industria tecnologica ha privilegiato la velocità di accesso al mercato rispetto alla sicurezza. “Non abbiamo un problema di cyber, abbiamo un problema di tecnologia e cultura”, ha detto Easterly. “Perché alla fine della giornata, abbiamo permesso che la velocità di accesso al mercato e le funzionalità mettessero davvero la sicurezza e la sicurezza in secondo piano”. E oggi, nessun luogo nella tecnologia dimostra l’ossessione per la velocità di accesso al mercato più dell’IA generativa.
Lezioni dimenticate?
Con il rilascio di ChatGPT, OpenAI ha innescato una corsa per incorporare la tecnologia AI in ogni aspetto della catena di strumenti aziendali. Abbiamo imparato qualcosa dall’attuale ondata di cyberattacchi? O il desiderio di arrivare per primi sul mercato continuerà a spingere le aziende a gettare la cautela al vento?
La nuova minaccia dell’IA
Oggi, l’intelligenza artificiale ha catturato l’immaginazione del mondo. Nell’industria della sicurezza, ci sono già prove che i criminali stanno utilizzando l’IA per scrivere codice malevolo o aiutare gli avversari a generare campagne di phishing avanzate. Ma c’è un altro tipo di pericolo che l’IA può portare.
Hacking dei sistemi IA
Prendiamo ad esempio i sistemi “connectionist AI”. Queste tecnologie abilitano applicazioni critiche per la sicurezza come la guida autonoma. E i sistemi hanno raggiunto livelli di prestazioni molto migliori dell’uomo.
Rendere l’IA sicura
Una prima linea di sicurezza dell’IA sarebbe impedire agli aggressori di accedere al sistema in primo luogo. Ma data la natura trasferibile delle reti neurali, gli avversari possono addestrare i sistemi IA su modelli sostitutivi che insegnano esempi malevoli, anche quando i dati sono etichettati correttamente.
Assumersi la responsabilità per l’IA
Per Easterly, il modo migliore per avere un approccio sostenibile alla sicurezza è spostare l’onere sui fornitori di software. “Stanno possedendo gli esiti della sicurezza, il che significa che stanno sviluppando tecnologia che è sicura per progettazione, nel senso che sono testate e sviluppate per ridurre le vulnerabilità il più possibile”, ha detto Easterly.
