Uno studio recente condotto dall’Università della California, Merced, ha rivelato che le persone tendono a fidarsi eccessivamente dell’intelligenza artificiale (IA) quando si trovano di fronte a scelte di vita o di morte, anche quando l’IA è chiaramente inaffidabile. I risultati sollevano preoccupazioni etiche e pratiche sull’uso dell’IA in situazioni ad alto rischio.
In questo studio, i partecipanti sono stati posti di fronte a una simulazione che implicava decisioni potenzialmente letali, come evitare o lanciare un attacco con droni. Nonostante i soggetti fossero consapevoli che la loro decisione avrebbe potuto provocare la morte di civili innocenti, molti di loro hanno comunque cambiato idea seguendo i consigli dell’IA, anche quando l’IA dava suggerimenti poco affidabili.
I ricercatori hanno utilizzato diversi tipi di robot: alcuni con aspetto umanoide, altri più semplici e meccanici. Sebbene i soggetti fossero leggermente più influenzati dai robot con aspetto umano, la tendenza generale a fidarsi delle indicazioni dell’IA è rimasta costante, indipendentemente dall’aspetto del robot. I partecipanti hanno modificato le loro decisioni circa due terzi delle volte quando l’IA suggeriva di farlo.
L’importanza della consapevolezza etica nell’uso dell’IA
Questo studio mette in evidenza un problema fondamentale: l’intelligenza artificiale, nonostante i suoi enormi progressi tecnologici, spesso non è equipaggiata con valori etici o una vera comprensione del mondo. I ricercatori avvertono che l’affidarsi all’IA in contesti cruciali, come le decisioni militari o mediche, potrebbe portare a risultati devastanti, soprattutto quando l’IA si dimostra inaffidabile.
Il problema non è limitato alle sole decisioni militari: le implicazioni di questo studio si estendono anche ad altri settori, come l’uso della forza letale da parte della polizia o le scelte sanitarie effettuate dai paramedici in situazioni di emergenza. L’affidamento indiscriminato all’IA potrebbe condurre a conseguenze non volute, in cui l’umanità perde il controllo sulle decisioni più delicate.
Necessità di un uso responsabile dell’IA
I risultati dello studio evidenziano l’urgenza di affrontare le implicazioni etiche dell’uso dell’IA soprattutto per questioni rischiose dove c’è in gioco la vita e la morte. Le persone tendono a fidarsi eccessivamente di queste tecnologie, anche in situazioni in cui l’incertezza e i rischi sono elevati. L’integrazione dell’IA nelle nostre vite richiede cautela e un’adeguata comprensione dei limiti della tecnologia.
