La Defense Advanced Research Projects Agency (DARPA) ha scelto RTX per sviluppare fondamenta per algoritmi che possano prendere decisioni in modo autonomo in scenari come il triage in caso di catastrofi di massa e il soccorso in caso di disastri. Queste situazioni richiedono decisioni complesse e rapide in contesti dinamici dove spesso non c’è consenso umano e non esiste una risposta chiaramente corretta.
Obiettivi del programma “In The Moment”
Il programma “In The Moment” (ITM) non si limita a ottenere risposte corrette da AI in scenari controllati. L’obiettivo è creare sistemi AI che gli esseri umani permetterebbero di prendere decisioni in modo autonomo in ambienti non controllati. Per raggiungere questo obiettivo, è fondamentale comprendere come gli esperti umani prendono decisioni difficili e valutare se fidarsi delle decisioni altrui.
Tecniche e collaborazioni
Il team guidato da Raytheon BBN, che include anche Kairos Research, MacroCognition e Valkyries Austere Medical Solutions, utilizzerà tecniche di intervista cognitive per comprendere come gli esperti, in questo caso professionisti medici e soccorritori, valutano le informazioni e prendono decisioni difficili. Queste informazioni qualitative saranno utilizzate per progettare esperimenti basati su scenari per studiare come le differenze nelle caratteristiche decisionali di un individuo possano spiegare le loro scelte.
Personalizzazione dell’IA
Poiché il modo in cui prendiamo decisioni varia da persona a persona, è improbabile che esista un modello di IA di fiducia universale. L’obiettivo è creare sistemi AI che si adattino all’utente e al dominio. Si vuole sintonizzare gli attributi dell’IA, come la tolleranza al rischio o la volontà di cambiare piani, per meglio corrispondere a un utente o a un gruppo di utenti.
Collaborazioni e valutazioni
DARPA sta riunendo diversi team per collaborare a questo programma. Altri team si concentreranno sullo sviluppo di prototipi di decision maker basati su IA che iniziano con una conoscenza di base e possono poi essere sintonizzati per corrispondere a un insieme di attributi target. I prodotti di ricerca di questo programma saranno integrati e valutati per determinare quanto bene gli agenti algoritmici sono stati in grado di prendere decisioni in linea con gli attributi umani target.