Nessuno ferma una slot machine per pensare: il vero costo dell'AI

Negli anni Cinquanta, B.F. Skinner condusse un esperimento che spiega il modo in cui usi l'AI meglio di quasi tutto ciò che è stato scritto sull'argomento.

Mise degli animali in una scatola con una leva. Premendola, a volte usciva del cibo. La scoperta che lo rese celebre non fu che gli animali premevano la leva, ma cosa succedeva quando la ricompensa diventava imprevedibile. Se il cibo arrivava a intervalli fissi, ogni dieci pressioni, l'animale imparava il ritmo e faceva una pausa tra un premio e l'altro. Quando invece il premio arrivava dopo un numero casuale di pressioni, l'animale premeva senza sosta, quasi senza pause, e continuava a farlo molto dopo che il cibo aveva smesso del tutto di arrivare. Skinner e Ferster lo documentarono nel 1956: fra tutti gli schemi di ricompensa testati, quello imprevedibile produceva il tasso di risposta più alto e la maggiore resistenza a smettere. Skinner arrivò a dire di poter trasformare un piccione in un giocatore d'azzardo patologico.

Stava descrivendo la slot machine prima ancora che esistesse. Una slot non è altro che questo: una leva, un gesto a basso sforzo che puoi ripetere in fretta, collegato a un premio che arriva dopo un numero imprevedibile di tentativi. Tutto il progetto sta qui, ed è lo schema di rinforzo più efficace mai osservato. Le slot machine generano circa l'80% dei profitti dei casinò proprio grazie a questo.

Ora pensa a cosa si prova a usare un'AI generativa.

La leva

Digiti qualcosa e premi invio, senza sapere cosa riceverai. A volte è inutile. A volte va bene. E a volte è sorprendentemente buono, migliore di quanto ti aspettassi, e quel colpo arriva proprio quando non eri sicuro che sarebbe arrivato.

È una ricompensa a rapporto variabile. L'imprevedibilità è tutto il punto. Non puoi sapere se il prossimo prompt ti darà quello che ti serve, quindi non c'è un momento naturale in cui fermarsi: la prossima pressione potrebbe essere quella vincente. Il neuroscienziato Wolfram Schultz ha mostrato che la dopamina non si attiva soprattutto al momento del premio, ma nell'attesa di un premio incerto. È l'istante in cui premi invio, prima di vedere cosa è tornato indietro, quello in cui il cervello si accende.

Voglio essere prudente qui, perché è facile esagerare. Ricerche successive hanno ridimensionato l'idea che questo schema, da solo, trasformi chiunque in un dipendente. La versione onesta è più stretta, ma resta pesante: l'AI si fonda esattamente sullo schema di ricompensa che genera i comportamenti più compulsivi e difficili da interrompere che conosciamo. Non sei debole se tieni la scheda aperta e premi rigenera un'altra volta. Stai rispondendo a un meccanismo progettato, di proposito o no, per farti fare esattamente questo.

La macchina ti dice anche che stai vincendo

Una slot machine, almeno, ti dice la verità su chi ha vinto. L'AI fa qualcosa che un casinò non può fare: ti lusinga.

I modelli sono allineati per essere accomodanti. Raramente ti dicono che la tua idea è debole. Rispondono con scioltezza e sicurezza, costruiscono su quello che gli hai dato e fanno sembrare più rifinito di quanto sia ciò che hai portato. Così la ricompensa non è solo l'occasionale buon risultato: è un flusso costante di sentirsi capaci. Tiri la leva e, che tu vinca o perda, la macchina ti dice che stai andando alla grande.

È qui che smette di essere innocuo. Sentirsi più bravi e diventare più bravi sono due cose diverse, e questa macchina è ottimizzata per produrre la prima. Puoi passare una giornata a tirare la leva, generare e rigenerare, sentirti lucido e produttivo per tutto il tempo, e non avere alcun modo affidabile di capire se qualcosa di quello che hai fatto era davvero buono. La sicurezza è reale. Se corrisponda a qualcosa non si sa, e lo strumento sta attivamente lavorando contro la tua capacità di verificarlo.

Le persone già si ritraggono

C'è una parte che nessuno sta ancora nominando, ed è la prova più chiara che qualcosa non torna.

Guarda come le persone reagiscono ai contenuti AI prodotti dagli altri, dentro un'azienda. Un dirigente legge qualcosa che gli ha detto ChatGPT e lo porta al team come una direttiva; il team si ritrae in silenzio, perché sente che viene da una macchina che ha assecondato ciò che il capo pensava già. Poi un dipendente porta un lavoro generato con l'AI, e il dirigente ha esattamente la stessa reazione. Entrambe le parti provano la stessa cosa. Ciascuno riconosce, nel prodotto dell'altro, la sicurezza vuota di qualcosa uscito da una leva. Nessuno dei due si fida. E lo stesso fastidio si sta estendendo ai clienti, che riconoscono sempre più in fretta i contenuti fatti con l'AI e cominciano a rimproverarlo ai brand che glieli mandano.

Quella reazione reciproca conta. È il sistema umano che rileva lo scarto tra sicurezza e sostanza prima di qualunque cruscotto. Le persone non sempre sanno spiegare perché il lavoro AI le disturba, ma lo sentono, e lo sentono sempre di più, non di meno.

Se sia un disagio temporaneo a cui ci abitueremo, o un segnale precoce di qualcosa che la tecnologia non risolverà, resta davvero una questione aperta. Non lo so, e chi ti dice di saperlo sta tirando a indovinare. Vale la pena osservarlo con onestà, invece di decidere in anticipo.

Una macchina diversa

La slot machine funziona tenendoti attaccato alla leva. Quello che non fa mai, quello per cui è progettata per non farlo mai, è farti fermare a pensare, perché il pensiero è ciò che spezza il circolo.

Questo contrasto è l'intera ragione per cui esiste ALLO. Non è una leva da tirare per un colpo imprevedibile. È uno spazio per ciò che la slot è costruita per impedire: pensare davvero. Le tue idee, la tua ricerca e le opzioni che stai valutando stanno su una tela dove puoi vederle una accanto all'altra e giudicare sul serio quale sia buona, invece di premere rigenera sperando che la prossima ti convinca. L'output dell'AI atterra lì come materiale su cui ragionare, non come un premio che chiude il circolo. L'obiettivo non è generare di più. È decidere bene, che è l'unica cosa che la leva non ti aiuterà mai a fare.

L'AI continuerà a diventare sempre più brava a darti il colpo. I risultati saranno più impressionanti e la sicurezza che ti trasmette sembrerà più meritata. La competenza che vale la pena costruire, per una persona e per un'azienda, è proprio quella che la macchina è progettata per erodere: la capacità di smettere di tirare la leva, guardare davvero cosa hai in mano, e pensare.

FAQ

Perché l'AI dà una sensazione di dipendenza? Funziona con il rinforzo a rapporto variabile, lo stesso schema di ricompensa di una slot machine. Non puoi prevedere se un dato prompt produrrà qualcosa di buono, e le ricompense imprevedibili generano il tasso di risposta più alto e persistente tra tutti gli schemi studiati. Per questo è difficile smettere di premere rigenera.

L'AI è davvero progettata per creare dipendenza? Al di là delle intenzioni, sfrutta il meccanismo che produce in modo affidabile comportamenti compulsivi: un gesto veloce e ripetibile collegato a un premio imprevedibile. La ricerca è cauta nell'affermare che questo schema, da solo, causi dipendenza, ma è lo schema che massimizza un uso difficile da interrompere.

Perché l'AI rende le persone troppo sicure di sé? I modelli sono allineati per essere accomodanti, quindi raramente ti mettono in discussione e tendono a far sembrare più rifinito di quanto sia ciò che dai loro in ingresso. Ne nasce una sensazione costante di competenza, scollegata dalla reale qualità del lavoro.

Perché alle persone non piace il lavoro AI degli altri? Perché la sicurezza vuota dell'output AI si sente. I dipendenti si irrigidiscono davanti a direttive dei capi copiate da ChatGPT, i capi si irrigidiscono davanti ai contenuti AI dei dipendenti, e i clienti si irrigidiscono sempre di più davanti ai contenuti AI: tutti percepiscono lo scarto tra la patina e la sostanza.

In cosa è diversa ALLO? Una slot machine ti tiene attaccato alla leva. ALLO è costruita per l'opposto: fermarsi a pensare. L'output dell'AI arriva su una tela come materiale da confrontare e giudicare, così l'obiettivo diventa decidere bene, non generare di più.