Con la diffusione dell’AI, ottenere un consiglio è diventato sempre più semplice. Ma avere un buon consiglio a portata di mano non significa necessariamente saperlo sfruttare. È questo il punto di partenza dello studio “Adaptive yet suboptimal integration of advice in decision-making”, pubblicato su Communications Psychology del gruppo Nature e realizzato da un gruppo di ricerca dell’Università di Milano-Bicocca in collaborazione con l’Università di Pavia. I ricercatori hanno cercato di capire quanto, e soprattutto come, le persone utilizzino i consigli ricevuti quando devono prendere una decisione.

Nei due esperimenti condotti sono stati coinvolti 89 partecipanti, chiamati a interagire con sette diversi “consulenti artificiali”. I consulenti avevano caratteristiche differenti: alcuni erano più competenti dei partecipanti, altri meno; alcuni tendevano a mostrarsi molto sicuri delle proprie risposte, altri erano più prudenti; per alcuni, inoltre, il livello di sicurezza espresso era più o meno affidabile rispetto alla reale correttezza delle risposte. Tra i consulenti ce n’era anche uno simile al partecipante per caratteristiche e capacità, una sorta di “sosia”. L’obiettivo era osservare se le persone fossero in grado di adattare il peso attribuito al consiglio sulla base delle caratteristiche della fonte.

I risultati mostrano che il consiglio esterno migliora effettivamente la prestazione, ma meno di quanto sarebbe possibile. Il problema è che le persone tendono a non considerare abbastanza quanto sia competente e affidabile il consulente che hanno davanti. «Per capire il meccanismo, possiamo ricorrere a un’analogia. Immaginiamo di aver risparmiato una piccola somma e di volerla investire. Abbiamo già una nostra idea, ma, per evitare errori, chiediamo consiglio a due conoscenti. Il primo è il classico sbruffone, sempre sicurissimo di sé, che ci dice senza esitazione: “Fai questo!”. Il secondo è più prudente ma sappiamo che spesso ha ragione: “Credo che sia meglio fare quest’altro”. Per prendere la decisione migliore, non dovremmo limitarci ad ascoltare chi parla con più convinzione: dovremmo considerare quanto ciascuno sia realmente competente e quanto la sua sicurezza sia affidabile. E, in alcuni casi, dovremmo dare al consiglio ricevuto persino più peso che alla nostra opinione iniziale. Eppure, spesso ciò non accade», spiega Joshua Zonca.

Secondo lo studio, alla base di questo comportamento ci sono soprattutto due difficoltà. La prima è un bias egocentrico per cui tendiamo ad attribuire un peso eccessivo al nostro stesso giudizio, anche quando abbiamo ricevuto indicazioni da una fonte più competente. La seconda riguarda, invece, la capacità di applicare le informazioni generali sulla qualità di un consulente alla singola decisione. In altre parole, possiamo sapere che una persona o un sistema è mediamente più bravo di noi, ma continuare a pensare che proprio in quella specifica situazione il nostro giudizio sia quello più affidabile. È un meccanismo che, secondo i ricercatori, può limitare il vantaggio derivante dall’utilizzo di un buon consiglio e che persiste anche quando alle persone vengono fornite esplicitamente informazioni sulle proprie capacità e su quelle del consulente.

Il paradosso è che lo scarto rispetto alla prestazione ottimale risulta particolarmente evidente proprio quando il consulente è più bravo. È nei casi in cui avremmo maggiori possibilità di migliorare la nostra decisione grazie a un aiuto esterno che finiamo, quindi, per sfruttarlo meno di quanto potremmo. Un risultato che assume un significato particolare in un momento in cui strumenti basati sull’intelligenza artificiale stanno entrando sempre più spesso nei processi decisionali, dal lavoro alla vita quotidiana. Il problema, spiegano i ricercatori, non è soltanto ottenere risposte accurate, ma imparare a valutarle e a stabilire quanto debbano pesare rispetto alle proprie convinzioni.

«Per progettare sistemi di supporto alle decisioni basati sull’AI non basta offrire consigli accurati e trasparenti: occorre anche formare le persone a usarli consapevolmente e aiutarle a capire, decisione per decisione, quanto peso attribuire a ciascun consiglio», conclude Carlo Reverberi. La sfida, quindi, non riguarda soltanto quanto l’intelligenza artificiale sia capace di consigliare, ma anche quanto noi siamo capaci di ascoltarla nel modo giusto.