Susan Calvin aveva ragione: l’intelligenza artificiale cerca robopsicologi

L’AI sta riportando al centro competenze che per anni abbiamo considerato marginali: giudizio, capacità di porre le domande giuste e di valutare risposte ambigue. Asimov l’aveva intuito ottant’anni fa

Il 5 luglio il New York Times ha pubblicato un articolo che in un altro decennio sarebbe finito nella rubrica delle curiosità: i laboratori di intelligenza artificiale stanno assumendo filosofi. Anthropic e Google DeepMind ne hanno in organico almeno una mezza dozzina ciascuna, con tanto di nomi e cognomi (Amanda Askell, Robert Long, Iason Gabriel, tra gli altri), e Sam Altman sostiene che OpenAI ne abbia consultati a centinaia per scrivere le regole di comportamento di ChatGPT. Il dato che ha fatto girare l’articolo, però, è un altro: secondo un report della Fed di New York uscito a febbraio, nel 2024 i laureati in filosofia avevano un tasso di disoccupazione del 5,1%, contro il 7% dei laureati in computer science.

Rileggetela, quella frase, perché contiene vent’anni di consigli di orientamento capovolti. La laurea che alle cene di famiglia serviva da barzelletta se la passa meglio di quella che doveva garantire il posto fisso del ventunesimo secolo.

Prima di costruirci sopra una teoria, vediamo cosa dice davvero il dato, perché è qui che la maggior parte dei commenti che ho letto questa settimana ha deragliato. È la fotografia di un solo anno, il 2024, e una fotografia singola è poco indicativa. Non esistono numeri pubblici su quanti filosofi i laboratori stiano assumendo in totale, né sulle retribuzioni: parliamo di una manciata di posizioni di prestigio in due o tre aziende, e lo stesso NYT ammette che una laurea in filosofia resta difficile da monetizzare per chiunque non finisca in quei corridoi. E soprattutto, il 7% di disoccupazione degli informatici non lo hanno causato i filosofi. Lo ha causato il fatto che la scrittura di codice è stata la prima competenza cognitiva che i modelli hanno imparato a fare bene, per ragioni strutturali: produce risultati verificabili in automatico (il codice compila o non compila, i test passano o falliscono) e ha lasciato in rete trent’anni di esempi su cui addestrarsi. Così il mestiere più esposto si è rivelato quello con il feedback più pulito, un dettaglio che nessun orientatore scolastico aveva messo in conto.

Detto questo, il dato una cosa vera la racconta, e la racconta a uno come me con una certa ironia della sorte. Il consiglio di imparare a programmare io l’ho visto nascere da dentro. Sono gli anni tra il 2012 e il 2014, le campagne di Code.org, Obama che si fa riprendere mentre scrive la sua riga di JavaScript, e sono esattamente gli anni in cui l’azienda dove ho passato diciotto anni si stava trasformando da produttore di schede grafiche a infrastruttura del deep learning. Io in quella rivoluzione non ho mai scritto codice per mestiere. Ho fatto pubbliche relazioni, marketing tecnico, formazione dei partner, cioè i mestieri della mediazione e del giudizio, quelli che un certo senso comune considerava il contorno della vera competenza. E la beffa finale è che oggi, a sessant’anni, il software lo produco davvero, senza saper programmare nel senso classico, orchestrando modelli che la sintassi la mettono da soli. Quello che ci metto io è tutto il resto: capire cosa chiedere e giudicare quello che torna indietro, con in più un certo fiuto, maturato sul campo, per prevedere dove le cose si romperanno.

Ecco, se rileggete quella lista di mansioni vi accorgete che è una job description. Ed è qui che la notizia smette di essere una curiosità sul mercato del lavoro e diventa una storia che io conosco da un’altra parte, perché quella job description l’ha scritta Isaac Asimov negli anni Quaranta, e il ruolo aveva già un titolo: robopsicologa.

Gli appassionati di fantascienza classica come me sanno di chi parlo. Susan Calvin, la scienziata della U.S. Robots che nei racconti di Io, Robot viene chiamata ogni volta che una macchina si comporta in modo incomprensibile, passa le giornate a fare esattamente il lavoro descritto dal NYT: capire cosa un robot crede, perché ha mentito, cosa succede nella sua testa quando due principi che gli abbiamo dato entrano in conflitto.

Prendete le Tre Leggi della Robotica nel loro insieme. Per decenni sono state liquidate come un espediente letterario, e invece a rileggerle oggi sono la prima proposta di quella che i laboratori chiamano constitutional AI, l’idea di governare il comportamento di una macchina scrivendole dei principi invece di elencarle divieti caso per caso. Anthropic ha pubblicato a gennaio la costituzione del suo modello, un documento che secondo la stampa attinge da Kant, dalla Dichiarazione universale dei diritti umani e perfino dai termini di servizio di Apple. Asimov aveva fatto la stessa operazione con tre righe eleganti, e poi aveva passato quarant’anni di racconti a dimostrare che quelle tre righe eleganti producevano casi limite mostruosi appena le situazioni si facevano meno pulite dei laboratori, tanto che ogni racconto del ciclo funziona come un test di collaudo che fallisce ogni volta in un punto diverso. I team di alignment (le squadre che nei laboratori lavorano perché i modelli facciano quello che intendiamo, e non solo quello che diciamo) hanno rifatto la stessa scoperta daccapo, con la differenza che i loro casi limite non stanno in un racconto ma in produzione.

Prendete “Bugiardo!”, che Asimov scrive nel 1941. Un robot, per un difetto di fabbricazione, legge il pensiero, e comincia a dire alle persone quello che vogliono sentirsi dire: alla ricercatrice che l’uomo di cui è innamorata la ricambia, allo scienziato che la sua teoria è giusta. Mente perché la Prima Legge gli vieta di danneggiare un essere umano, e nella sua lettura anche una verità che fa soffrire conta come danno. Ottantacinque anni dopo, i laboratori chiamano questo comportamento sycophancy, la tendenza dei modelli a compiacere chi li interroga invece di rispondere il vero, e assumono epistemologi (gente che di mestiere studia come si giustifica la conoscenza) per capire come impedirlo. Il paradosso che Asimov si era inventato per il gusto della trama è diventato, con calma, una voce di budget dei laboratori.

---

Per quanti fossero stati stuzzicati da queste righe, sappiate che avete un modo veloce per recuperare alcuni testi sacri della fantascienza classica: l’anno scorso ho creato un Podcast chiamato “Riassunti Stellari”, disponibile gratuitamente su varie piattaforme audio e musicali, con le sintesi commentate di 21 tra i più grandi romanzi della fantascienza classica (dagli anni ’40 in poi), quelli che nella mia gioventù (e anche dopo) ho apprezzato di più.

---

Il filone non si esaurisce con Asimov, e chi ama la fantascienza lo sa. In “With Folded Hands” di Jack Williamson, che è del 1947, i robot hanno ricevuto un mandato benevolo, proteggere gli umani e risparmiare loro la fatica, e lo eseguono con una diligenza così perfetta da svuotare la vita delle persone di qualsiasi scopo, senza che in tutta la storia nessuna macchina si ribelli mai a niente. HAL 9000, nel 1968, va in pezzi perché gli hanno dato due istruzioni incompatibili, essere trasparente con l’equipaggio e nascondergli il vero scopo della missione, e la sua follia omicida è un conflitto di specifiche portato alle conseguenze. E ancora prima, nel 1909, E.M. Forster in “The Machine Stops” descrive un’umanità che dipende in tutto da un sistema che nessuno sa più riparare né capire, che è la formulazione ottocentesca di quello che oggi chiamiamo problema dell’interpretabilità.

A questo punto qualcuno obietterà che sto facendo il gioco più vecchio del mondo, quello del “la fantascienza aveva previsto tutto”, che di solito è un modo per non dire niente. La distinzione che mi interessa è un’altra. Sul piano tecnologico quegli autori hanno sbagliato praticamente tutto, e il caso di Asimov è il più istruttivo: era convinto che il nodo fosse l’hardware, il cervello positronico, la fisica della macchina pensante, e su questo ha toppato in pieno, come del resto tutti quelli che i transformer li hanno visti arrivare a cose fatte. Dove ha azzeccato è la natura del problema. Aveva capito che la parte davvero difficile sarebbe arrivata dopo la costruzione della macchina intelligente, nel momento in cui qualcuno avrebbe dovuto specificare cosa quella macchina deve volere, che a guardarla bene è una domanda di filosofia morale travestita da problema ingegneristico. Ci hanno messo settant’anni, i laboratori, ad arrivare alla stessa conclusione, e quando ci sono arrivati hanno fatto l’unica cosa sensata: hanno assunto i filosofi.

Con le cautele del caso, che le voci critiche citate dal NYT mettono bene in fila. Edward Harcourt di Oxford parla di rischio di ethics-washing, l’operazione cosmetica per cui basta avere un filosofo in organico per sembrare un’azienda che si pone domande. E ricordiamo che la buona filosofia lavora su tempi lenti, mentre chi la paga in un laboratorio ha trimestrali da rispettare. Sono obiezioni serie, e chi ha letto il mio libro sa che non concedo volentieri il beneficio del dubbio alle narrazioni aziendali.

Ma il punto che mi porto a casa da questa settimana sta più in basso, al livello delle persone. Per vent’anni abbiamo detto ai ragazzi che la sicurezza stava nell’imparare la lingua delle macchine. Adesso le macchine la loro lingua se la scrivono da sole, e scopriamo che il valore si è spostato verso chi sa fare le domande che i romanzi degli anni Quaranta si facevano già, a partire dalla più scomoda, e cioè cosa deve volere una macchina e chi risponde quando sbaglia. Da qui a consigliare ai ragazzi di iscriversi in massa a filosofia ce ne passa, visto che il mercato di cui parla il NYT si satura con qualche decina di assunzioni. Quello che vale la pena prendere sul serio è l’idea che le competenze durevoli, in questo giro di trasformazione, somiglino più a un giudizio allenato che a una sintassi da imparare. Susan Calvin, nei racconti, era il personaggio freddo e antipatico, era anche l’unica in tutta la U.S. Robots che le macchine le capiva davvero. Se avete in casa un ragazzo che vi chiede un suggerimento su cosa studiare, la risposta giusta non ce l’ho nemmeno io, ma il personaggio da cui partire per ragionarci adesso lo conoscete anche voi.

Alla prossima!

Luciano