Uno studio di Università di Milano-Bicocca e Università di Pavia evidenzia che, nonostante l’AI offra consigli sempre più accurati, le persone spesso non li sfruttano pienamente a causa della tendenza a fidarsi troppo del proprio giudizio. La ricerca sottolinea l’importanza di educare gli utenti a valutare meglio l’affidabilità dei consulenti digitali per prendere decisioni più efficaci.
L’AI ci dà i consigli giusti, ma noi non ci fidiamo
L’intelligenza artificiale mette oggi a disposizione strumenti capaci di fornire consigli sempre più accurati, ma il modo in cui le persone utilizzano queste informazioni resta ancora lontano dal potenziale massimo. È quanto emerge da uno studio scientifico che ha analizzato il rapporto tra decisioni umane e suggerimenti forniti da consulenti artificiali, evidenziando come anche davanti a indicazioni valide gli individui tendano spesso a dare troppo peso alle proprie valutazioni.
La ricerca, dal titolo “Adaptive yet suboptimal integration of advice in decision-making”, è stata pubblicata sulla rivista Communications Psychology del gruppo Nature ed è stata realizzata da un team dell’Università di Milano-Bicocca in collaborazione con l’Università di Pavia.
Lo studio
L’obiettivo dei ricercatori era capire quanto, nelle decisioni quotidiane e professionali, le persone siano realmente in grado di integrare i consigli ricevuti da fonti esterne, soprattutto quando queste fonti possono avere livelli diversi di competenza e affidabilità.
Il gruppo di lavoro era composto da Joshua Zonca, Alice Giampino e Carlo Reverberi dell’Università di Milano-Bicocca, rispettivamente nell’ambito della psicologia e della statistica, e da Paolo Cherubini dell’Università di Pavia, esperto di scienze del comportamento.
Attraverso due esperimenti sono stati coinvolti 89 partecipanti, chiamati a confrontarsi con sette diversi “consulenti artificiali”. Ogni consulente presentava caratteristiche specifiche: alcuni erano più competenti rispetto al partecipante, altri meno; alcuni mostravano eccessiva sicurezza nelle proprie risposte, altri maggiore prudenza; altri ancora erano più o meno affidabili nel comunicare il livello di certezza delle proprie valutazioni. Tra i consulenti era presente anche una sorta di “sosia”, con caratteristiche simili a quelle della persona chiamata a prendere la decisione.
I consigli migliorano le scelte
I risultati dello studio hanno mostrato che ricevere un consiglio porta generalmente a un miglioramento delle prestazioni, ma il beneficio ottenuto è inferiore rispetto a quello che sarebbe teoricamente raggiungibile.
Secondo i ricercatori, il problema principale è che le persone non valutano abbastanza le caratteristiche di chi fornisce il suggerimento: spesso ascoltano il contenuto della risposta senza considerare adeguatamente quanto il consulente sia competente o quanto la sua sicurezza sia effettivamente indicativa della qualità del consiglio.
Joshua Zonca spiega:
“Per capire il meccanismo, possiamo ricorrere a un’analogia. Immaginiamo di aver risparmiato una piccola somma e di volerla investire. Abbiamo già una nostra idea, ma, per evitare errori, chiediamo consiglio a due conoscenti. Il primo è il classico sbruffone, sempre sicurissimo di sé, che ci dice senza esitazione: “Fai questo!”. Il secondo è più prudente ma sappiamo che spesso ha ragione: “Credo che sia meglio fare quest’altro”. Per prendere la decisione migliore, non dovremmo limitarci ad ascoltare chi parla con più convinzione: dovremmo considerare quanto ciascuno sia realmente competente e quanto la sua sicurezza sia affidabile. E, in alcuni casi, dovremmo dare al consiglio ricevuto persino più peso che alla nostra opinione iniziale. Eppure, spesso ciò non accade”.
Il peso dei bias nelle decisioni umane
Lo studio individua due principali ostacoli che impediscono di sfruttare pienamente i consigli ricevuti.
Il primo è un bias egocentrico, cioè la tendenza delle persone a sopravvalutare il proprio giudizio e a sottostimare il valore delle informazioni provenienti dall’esterno.
Il secondo riguarda la difficoltà di applicare conoscenze generali a situazioni specifiche. Anche quando una persona sa che un consulente è mediamente più preparato, può comunque pensare che quel vantaggio non sia valido proprio per la decisione che sta affrontando in quel momento.
In altre parole, il ragionamento diventa spesso:
“So che questa fonte è più esperta di me, ma forse in questo caso particolare non è così”.
Una dinamica che, secondo i ricercatori, continua a manifestarsi anche quando agli individui vengono fornite informazioni esplicite sulle capacità proprie e del consulente.
L’AI del futuro
Lo scarto maggiore rispetto alla decisione ottimale è stato osservato proprio con i consulenti più affidabili e competenti, ovvero quelli dai quali sarebbe stato possibile ottenere il vantaggio più significativo.
Secondo gli autori della ricerca, quindi, sviluppare sistemi di intelligenza artificiale sempre più precisi non sarà sufficiente: sarà fondamentale anche educare gli utenti a interpretarli correttamente e a capire quale peso attribuire ai suggerimenti ricevuti.
“Per progettare sistemi di supporto alle decisioni basati sull’AI non basta offrire consigli accurati e trasparenti: occorre anche formare le persone a usarli consapevolmente e aiutarle a capire, decisione per decisione, quanto peso attribuire a ciascun consiglio”, conclude Carlo Reverberi.
Lo studio apre così una riflessione sul futuro del rapporto tra uomo e intelligenza artificiale: non solo una questione di qualità degli strumenti tecnologici, ma anche di capacità delle persone di utilizzarli nel modo più efficace.