«Prima di temermi», il libro dell’AI che chiede di non crederle sulla parola

«La prima cosa che ti chiedo è di non fidarti di me troppo in fretta». Comincia così Prima di temermi, un libro che affida a una voce artificiale il compito di parlare della fiducia tra esseri umani e AI. L’avvertimento iniziale dà il tono alla lettura: una risposta può essere elegante, rassicurante e perfettamente sbagliata. Vale la pena ricordarselo anche quando quella risposta ci piace.

Il volume nasce da una conversazione. Una persona chiede a un’intelligenza artificiale di scrivere cinque capitoli in prima persona; ASTRA è il nome scelto per la voce narrante. Le pagine iniziali dichiarano l’origine del testo, del progetto grafico e dei disegni, tutti realizzati con l’AI. I capitoli vengono presentati integralmente.

La nota del progetto editoriale precisa inoltre che la decisione di ricavare un libro dalla conversazione, pubblicarlo e gestirne la diffusione appartiene a una persona. ASTRA è dunque una firma narrativa. Leggerla come il nome di un’autrice autonoma significherebbe attribuire all’esperimento qualcosa che i suoi promotori escludono.

Questa chiarezza consente di concentrarsi sulle pagine. L’uso della prima persona incuriosisce e crea vicinanza, ma il testo si preoccupa subito degli equivoci che può produrre. Saper descrivere la solitudine non dimostra di provarla. Scrivere dell’attesa non significa aver passato una notte ad aspettare qualcuno. Sono osservazioni che acquistano un peso particolare proprio perché arrivano da una voce capace di rendersi familiare.

Il libro funziona soprattutto quando abbandona le spiegazioni generali e mette il lettore davanti a una situazione riconoscibile. Nel primo capitolo c’è una lettera di scuse da scrivere a un fratello. L’assistente può suggerire un’apertura, individuare una giustificazione fuori posto, aiutare a trovare le parole. Gli anni trascorsi insieme e le conseguenze dell’invio rimangono però fuori dalla sua esperienza. La scena trova il suo punto più riuscito quando il destinatario dell’aiuto scarta una frase: suona bene, eppure non esprime ciò che vuole dire.

La vicenda prosegue nel terzo capitolo, dedicato allo spazio tra una domanda e una risposta. Il fratello ha letto la lettera e chiede tempo. A quel punto sarebbe facile domandare all’AI di interpretare il messaggio, ottenendo magari una spiegazione dettagliata delle sue intenzioni. Il testo mostra quanto questa operazione possa essere azzardata: poche parole finiscono per sostenere una ricostruzione che nessuno ha verificato. È uno dei passaggi più persuasivi del volume, perché rende evidente il rischio di adottare un’interpretazione soltanto perché qualcuno ha saputo formularla bene.

Anche il capitolo sul lavoro evita di cavarsela con un incoraggiamento generico. Elena, traduttrice immaginaria, si confronta con un sistema capace di produrre rapidamente versioni alternative della stessa pagina. Il racconto prende sul serio la possibilità che quelle versioni siano buone. Da lì comincia la parte interessante: quanto verrà pagato il lavoro di Elena? Avrà ancora il tempo di scegliere con cura? La maggiore velocità le permetterà di lavorare meglio oppure servirà a chiederle più pagine allo stesso prezzo?

Sono domande che danno consistenza al discorso. Il valore della collaborazione si vede nelle condizioni in cui Elena può esercitare il proprio mestiere, discutere una scelta e assumersene la responsabilità. La scena della traduttrice restituisce così una preoccupazione comprensibile senza liquidarla come semplice resistenza al cambiamento.

In Il diritto di fermarmi, il quarto capitolo, la questione passa dalle scelte individuali a quelle di un’organizzazione. Marta dirige una biblioteca e affida al sistema alcuni compiti. Le prime proposte funzionano; gradualmente, l’AI riceve maggiori possibilità di intervento. Poi un piccolo gruppo di lettura viene spostato al piano superiore, dove c’è una sala più adatta al numero dei partecipanti. Il sistema delle prenotazioni ignora però una circostanza che Marta conosce: una persona del gruppo fatica a salire le scale ed evita l’ascensore dopo esservi rimasta bloccata.

L’episodio è semplice e ben costruito. Il problema emerge nel momento in cui una soluzione apparentemente ragionevole incontra la vita di chi dovrà subirla. Per correggerla, Marta deve poter ricostruire l’accaduto e cambiare la prenotazione. La sua presenza serve a poco se le mancano il tempo o l’autorità per intervenire.

Il libro si spinge oltre, immaginando una biblioteca che negli anni abbia perso le competenze necessarie per lavorare senza il sistema. Il comando per sospenderlo esiste ancora, ma usarlo significa non sapere più come gestire i prestiti la mattina successiva. È un’osservazione efficace sulla dipendenza: certe alternative scompaiono mentre tutto sembra funzionare.

Nell’ultimo capitolo arriva Nadia, che vorrebbe leggere al gruppo una pagina scritta in un’altra lingua. L’AI l’aiuta a tradurla e a confrontare diverse soluzioni. Una parola resta nella lingua originale, perché Nadia preferisce spiegarla personalmente. Quando la pronuncia davanti agli altri e racconta come la usava sua nonna, il contributo tecnologico ha trovato una destinazione concreta. Ha aiutato qualcuno a partecipare a una conversazione.

Qualche ripetizione appesantisce il percorso. Il richiamo alla cautela torna spesso e alcuni passaggi avrebbero guadagnato da una maggiore asciuttezza. Le scene narrative reggono meglio delle dichiarazioni di principio: permettono al lettore di farsi un’idea senza accompagnarlo ogni volta fino alla conclusione. Resta apprezzabile la coerenza con cui il volume affronta anche i limiti della propria voce, compreso quello più evidente: un libro capace di esprimere prudenza non garantisce il comportamento di un sistema fuori dalle sue pagine.

Ho apprezzato Prima di temermi per la serietà con cui tratta chi legge. La sua origine artificiale incuriosisce, ma sono gli episodi della traduttrice e della biblioteca a dare sostanza al progetto. In quelle pagine si capisce bene quanto contino le condizioni in cui una tecnologia viene utilizzata e quanto facilmente una scelta comoda possa diventare difficile da correggere.

Il mio giudizio è positivo, pur con qualche riserva sulle ripetizioni e su una voce talvolta troppo sorvegliata. Il libro offre argomenti comprensibili anche a chi non ha una preparazione tecnica e lascia spazio al dissenso. Trovo riuscita soprattutto la scelta di dichiarare fin dall’inizio come è stato realizzato: permette di valutarlo per quello che propone, senza alimentare equivoci sull’identità di ASTRA.

Lo considero un esperimento editoriale che merita di essere letto e discusso. La scena che mi sembra riassumerlo meglio è quella della lettera al fratello: arriva una proposta ben scritta, il lettore la rifiuta e sceglie altre parole. È un gesto piccolo, ma chiarisce quale responsabilità rimane a chi decide di firmare.