Se la guerra nell’Europa dell’Est, l’aumento delle minacce da parte di bande criminali e gli attriti tra settore pubblico e privato non sono abbastanza per preoccuparsi del cyberspazio, un importante ricercatore sulla sicurezza sta lanciando l’allarme sulle potenziali conseguenze negative per la società derivanti dall’uso dell’intelligenza artificiale.
Bruce Schneier, docente presso la Harvard Kennedy School of Government, ha presentato in anteprima alla RSA il suo prossimo libro sulla capacità dell’IA di violare i sistemi umani.
“L’IA violerà l’umanità come mai prima d’ora“, ha affermato Schneier. “Gli hack non richiedono nemmeno grandi scoperte nell’IA. I sistemi di IA violeranno altri sistemi di IA e gli esseri umani saranno solo danni collaterali“.
Al centro delle preoccupazioni di Schneier c’è quello che è diventato noto come il problema della “scatola nera“. Gli esseri umani possono essere i creatori della tecnologia AI, ma non hanno modo di sapere esattamente come essa prenda le decisioni.
Questo non ha impedito ai sistemi di IA di progredire in profondità nel tessuto sociale, ha osservato Schneier. Attualmente l’IA determina le decisioni di condanna, vaglia i candidati al lavoro e funge da gatekeeper per la concessione di prestiti. Secondo Schneier, man mano che la tecnologia dell’IA diventa più intelligente, svilupperà autonomamente degli hack e li diffonderà su larga scala.
“Le IA violeranno inavvertitamente i sistemi in modi che non potremo mai prevedere“, ha detto Schneier. “Ogni buona IA troverà naturalmente degli hack. Una volta che i sistemi di intelligenza artificiale inizieranno a scoprire gli hack, si muoveranno su una scala alla quale non siamo preparati“.
