Sommario
Sam Altman, CEO di OpenAI, è stato temporaneamente allontanato dalla sua posizione a seguito di una lettera inviata dai ricercatori al consiglio di amministrazione di un fantomatico progeto Q*. La lettera, non resa pubblica, avvertiva di una scoperta nell’intelligenza artificiale che potrebbe rappresentare una minaccia per l’umanità.
Dettagli controversia e del Progetto Q*
Prima del ritorno trionfale di Altman, più di 700 dipendenti avevano minacciato di dimettersi in solidarietà con il loro leader. La lettera dei ricercatori era solo uno dei fattori che hanno portato al suo allontanamento temporaneo, tra cui preoccupazioni sulla commercializzazione prematura dei progressi in AI senza una piena comprensione delle conseguenze.
Cos’è il progetto *Q?
Il Progetto Q* (pronunciato Q-Star) è considerato una potenziale svolta nella ricerca di OpenAI sull’intelligenza generale artificiale (AGI). Sebbene attualmente in grado di risolvere problemi matematici a livello di studenti delle scuole elementari, il successo in questi test ha reso i ricercatori molto ottimisti sul futuro di Q*.
Matematica come frontiera dell’AI
La matematica è vista come una frontiera cruciale per lo sviluppo dell’AGI. A differenza dell’AI generativa attuale, che è brava nella scrittura e nella traduzione linguistica, la capacità di fare matematica, dove esiste una sola risposta corretta, implica che l’AI avrebbe maggiori capacità di ragionamento simili all’intelligenza umana.
Preoccupazioni sulla sicurezza dell’AI
Nella loro lettera, i ricercatori hanno evidenziato la potenza e il potenziale pericolo dell’AI, senza specificare le esatte preoccupazioni di sicurezza. Da tempo si discute tra gli scienziati informatici del pericolo rappresentato da macchine altamente intelligenti, ad esempio se potrebbero decidere che la distruzione dell’umanità sia nel loro interesse.
L’episodio di OpenAI e il Progetto Q* evidenziano sia il potenziale rivoluzionario dell’AI sia le complesse questioni etiche e di sicurezza che accompagnano tali avanzamenti. La situazione sottolinea l’importanza di un approccio ponderato e responsabile nello sviluppo dell’intelligenza artificiale.
L’etica di Microsoft assorbirà quella di OpenAI?
La domanda che ricorre adesso è: i dipendenti sono ancora convinti che OpenAi sia coerente con i i propositi benefici oppure temono che Microsoft possa finalmente mettere le mani sul giocattolo con maggiore possibilità di produrre servizi per i suoi prodotti?
