Sommario
ChatGPT, il modello di lingua di OpenAI, ha dimostrato di essere vulnerabile agli attacchi avversari automatizzati e di avere una comprensione superficiale del mondo umano. Nonostante le affermazioni che potrebbe diventare la “tecnologia più impattante mai inventata dall’umanità”, c’è ancora molto da fare prima che possa essere considerata una “superintelligenza”.
Vulnerabilità e mancanza di interpretazione:
Le allucinazioni, l’instabilità e la mancanza di interpretazione di ChatGPT sono state discusse ampiamente. La sua vulnerabilità agli attacchi avversari che lo costringono a produrre contenuti dannosi è una delle sue debolezze minori. La vera sfida è la sua comprensione del mondo umano.
La storia dell’intelligenza artificiale e l’approccio statistico:
La ricerca sull’IA ha fatto passi da gigante negli ultimi decenni, con sviluppi come SHRDLU, un programma che poteva partecipare a conversazioni su un “micro-mondo” di blocchi. Tuttavia, la comprensione del linguaggio richiede una conoscenza profonda che ha spinto molti ricercatori a desistere. L’approccio statistico, con l’uso di reti neurali e apprendimento automatico, ha portato a trionfi come l’identificazione di immagini e ha fatto credere che l’intelligenza umana fosse dietro l’angolo.
La sfida del Winograd Schema:
La sfida del Winograd Schema è diventata uno strumento popolare per mettere in discussione l’intelligenza della nuova IA. Si tratta di un test a scelta multipla che richiede la risoluzione corretta di un pronome ambiguo in una frase. Nel 2016, il programma più riuscito ha ottenuto solo il 58% di successo, ma nel 2019, con l’avvento del Transformer, l’IA ha raggiunto il 90,1%.
Le prestazioni di ChatGPT e la comprensione dello spazio:
ChatGPT ha ottenuto un punteggio simile (88,3%) nel 2020. Tuttavia, quando presentato con frasi che richiedono una comprensione dello spazio e del movimento, ha mostrato una mancanza di comprensione a livello infantile. Ad esempio, ha fornito risposte contraddittorie su quale oggetto dovesse essere spostato prima in una frase che coinvolgeva un sacco di patate e un sacco di farina.
La caduta della sfida del Winograd Schema:
La sfida del Winograd Schema è stata sconfitta, ma i ricercatori attribuiscono il successo dell’IA a difetti nella formulazione del test. Alcuni hanno avvertito che il successo potrebbe venire senza risolvere il problema sottostante. Ora si ammette che risolvere la sfida non è un surrogato per la capacità di ragionare o per l’intelligenza.
L’ambizione dell’IA moderna e le limitazioni:
L’ambizione odierna degli sviluppatori di IA è focalizzata sulla creazione dell’intelligenza generale artificiale (AGI), cercando di ricreare l’intero spettro dell’intelligenza umana. Tuttavia, la distanza tra fare qualcosa male e farlo correttamente è ancora lunga, e ci sono “golfi fondamentali” tra il funzionamento dell’IA e il cervello umano.