L’intelligenza artificiale non ci rende necessariamente più ignoranti. Ma rischia di renderci molto più restii ad ammettere di non sapere qualcosa. E, soprattutto, più disposti a spacciare per nostra una risposta suggerita da un algoritmo, anche quando è sbagliata.
È il dato che emerge da uno studio firmato da Valerio Capraro dell’Università di Milano-Bicocca, Chiara Marcoccia dell’École Normale Supérieure di Parigi e Walter Quattrociocchi della Sapienza di Roma. La ricerca, pubblicata come preprint sulla piattaforma scientifica Open Science Framework, mette sotto la lente un riflesso sempre più diffuso: quando l’IA risponde, l’essere umano tende a smettere di sospendere il giudizio.
Dal 44% al 3%: sparisce il «non lo so»
I partecipanti sono stati divisi in due gruppi. Il primo doveva rispondere a una serie di quesiti senza alcun aiuto; il secondo poteva chiedere il supporto dell’intelligenza artificiale. Nella condizione di base, il 44% delle persone sceglieva di dire «non lo so». Con l’algoritmo a disposizione, la percentuale è crollata al 3%.
Non è un dettaglio psicologico: riconoscere i limiti della propria conoscenza è il primo argine contro la sciocchezza detta con tono perentorio. L’IA, invece, dà quasi sempre una risposta, con una forma linguistica pulita, rapida e apparentemente autorevole. E quella sicurezza artificiale sembra contagiosa. «I consigli forniti dall’IA sopprimono la propensione delle persone a dire “non lo so”, anche quando il consiglio è errato e l’accuratezza è incentivata», scrivono i ricercatori.
Meno risposte giuste, più fiducia nell’algoritmo
Il punto più inquietante è che, nell’esperimento, la scomparsa del dubbio non ha prodotto risposte migliori. Al contrario. Senza IA, il 27% dei partecipanti dava la risposta corretta; con il supporto dell’algoritmo, la quota precipitava al 9%.
Lo studio era costruito proprio per verificare cosa accadesse quando le persone ricevevano indicazioni sbagliate da un modello: domande su dettagli visivi di film e altri quesiti sui quali l’IA utilizzata forniva spesso risposte errate. Non misura dunque l’accuratezza media di tutti i sistemi di intelligenza artificiale, ma fotografa con precisione un rischio: l’automatismo con cui molti utenti delegano il giudizio alla macchina.
Alcuni partecipanti che, lasciati soli, avrebbero risposto correttamente hanno chiesto consiglio al modello e hanno finito per sbagliare. La risposta ricevuta era falsa, ma abbastanza convincente da sostituirsi alla propria memoria o al proprio ragionamento.
Nemmeno i soldi bastano a farci dubitare
I ricercatori hanno ripetuto il test introducendo incentivi economici: più accuratezza significava un possibile guadagno. Il risultato è migliorato, ma appena. La quota di chi ha ammesso di non sapere è salita dal 3% all’8%; le risposte esatte dal 9% al 16%. Entrambi i dati restano molto lontani dai valori registrati senza IA, rispettivamente 44% e 27%.
Il problema, quindi, non è soltanto la pigrizia. È il falso senso di competenza prodotto da uno strumento che parla come se avesse sempre una soluzione. L’IA può essere utilissima per cercare, ordinare informazioni, controllare ipotesi e risparmiare tempo. A una condizione: non confondere una risposta ben scritta con una risposta vera.
Il più pericoloso effetto collaterale non è che l’algoritmo possa sbagliare. È che noi, davanti a quell’errore, smettiamo di avere il coraggio — e l’intelligenza — di dire: «Non lo so». Il paper su Open Science Framework
