Sommario
Leader del mondo della ricerca sull’intelligenza artificiale (IA) si sono presentati davanti al Comitato Giudiziario del Senato per discutere e rispondere a domande sulla tecnologia emergente. Le loro opinioni, largamente unanimi, si sono generalmente divise in due categorie: c’è bisogno di agire presto, ma con un tocco leggero – rischiando l’abuso dell’IA se non si procede, o un’industria paralizzata se ci si precipita.
Dario Amodei
Dario Amodei, co-fondatore di Anthropic, ha sottolineato l’importanza di garantire la catena di approvvigionamento e di creare un processo di test e audit simile a quello che abbiamo per i veicoli e l’elettronica. Ha evidenziato come la scienza per stabilire queste cose sia “ancora nella sua infanzia”. Ha paragonato l’industria dell’IA adesso agli aerei pochi anni dopo il volo dei fratelli Wright. C’è un bisogno evidente di regolamentazione, ma deve essere un regolatore vivente e adattivo che può rispondere a nuovi sviluppi.
Yoshua Bengio
Yoshua Bengio, ricercatore di lunga data nell’IA, ha sottolineato la necessità di limitare chi ha accesso ai grandi modelli di IA e di creare incentivi per la sicurezza e la sicurezza. Ha ripetutamente sottolineato la necessità di finanziare la ricerca sulla sicurezza dell’IA su scala globale. Ha suggerito che gli account dei social media dovrebbero essere “limitati a veri esseri umani che si sono identificati, idealmente di persona”.
Stuart Russell
Stuart Russell, dell’UC Berkeley, ha proposto la creazione di un diritto assoluto di sapere se si sta interagendo con una persona o una macchina. Ha suggerito di vietare gli algoritmi che possono decidere di uccidere esseri umani, a qualsiasi scala. Ha proposto di richiedere un interruttore di emergenza se i sistemi di IA si introducono in altri computer o si replicano.
Nelle loro osservazioni conclusive su quali passi dovrebbero essere presi per primi, tutti e tre hanno puntato, essenzialmente, a investire nella ricerca di base in modo che i necessari schemi di test, audit e enforcement proposti siano basati su una scienza rigorosa e non su idee obsolete o suggerite dall’industria.
