L'IA può scrivere un libro che valga la pena leggere?

Il diluvio dell'auto-pubblicazione dice di no. L'arte dice che dipende da chi decide cos'è il libro. Cosa separa un libro leggibile da uno generato.

Di per sé, no. Lasciato libero di operare, un modello linguistico produce una prosa fluente, persino sicura, su qualsiasi argomento, e il risultato assomiglia a ogni altra bozza non modificata dello stesso strumento. La domanda che conta è diversa: un libro scritto con l'IA può valere la pena di essere letto quando qualcuno decide a cosa serve, lo sottopone a uno standard e ne scarta la maggior parte? La risposta è sì, e la differenza tra i due è l'intero argomento.

Il diluvio è arrivato per primo, e ha insegnato ai lettori cosa aspettarsi.

Nel settembre 2023, Kindle Direct Publishing di Amazon ha imposto un limite di tre nuovi titoli al giorno agli autori, dopo un'ondata di libri generati da macchine, e ha iniziato a richiedere agli editori di comunicare ad Amazon quando il contenuto di un libro è generato dall'IA. Queste due regole esistono a causa di come si presentava il primo anno: guide di viaggio che inseguivano parole chiave, libri di cucina da cui nessuno cucinava, romanzi elencati sotto nomi di autori reali. L'autrice Jane Friedman ha trovato libri che non aveva mai scritto venduti sotto il suo nome e ha dovuto lottare per farli rimuovere. I lettori hanno imparato rapidamente il modello, e il modello è ciò che la maggior parte delle persone intende ora per un libro AI.

Ci sono tre cose sbagliate in quei libri, e nessuna di esse è che una macchina li abbia toccati. Non hanno un punto di vista, perché nessuno ha deciso a cosa servisse il libro. Suonano tutti uguali, perché un modello non guidato ritorna alle sue frasi più comuni. E affermano fatti sbagliati con piena sicurezza, perché un modello linguistico non cerca nulla a meno che un sistema non gli metta una fonte davanti. Una data sbagliata plausibile si legge esattamente come una giusta.

Nessuno ha scritto una fiaba originale negli ultimi duecento anni.

Aiuta ricordare su cosa i lettori giudicano effettivamente un libro. I Grimm pubblicarono la loro collezione nel 1812; le fiabe in essa contenute sono state riproposte in stampa migliaia di volte da allora, e nessuna di queste riproposizioni è giudicata sulla sua trama. È giudicata sulla narrazione: la voce, la lunghezza, le immagini, la scelta di cosa omettere. Cenerentola ha una versione di Perrault del 1697, un'opera di Rossini del 1817 e un film Disney del 1950, ognuno protetto come opera a sé stante, ognuno un libro diverso. La trama non è mai stata la pretesa.

Ciò di cui ha bisogno un libro che valga la pena leggere, chiunque lo scriva.

Ha bisogno di qualcuno che decida qual è la narrazione: divertente o seria, per un bambino o per un adulto, dieci pagine o trecento. Ha bisogno di una struttura che il lettore possa percepire. Ha bisogno che i suoi fatti siano controllati da un processo che presuppone che possano essere sbagliati. E ha bisogno di uno standard che rifiuti: la maggior parte delle bozze, di qualsiasi scrittore, non sono abbastanza buone, e un editore che pubblica tutto ciò che viene generato con successo è un editore di prime bozze. Nulla di tutto ciò è nuovo. È ciò a cui un editore è sempre servito. La novità è che la scrittura non è più la parte scarsa, quindi il decidere e il rifiutare diventano l'intero lavoro.


Una biblioteca ha scelto storie note in modo che la narrazione sia ciò che viene giudicato.

WonderBooks pubblica 2.341 libri illustrati in dodici biblioteche, e la scelta di cosa pubblicare è stata fatta proprio tenendo conto di questo problema. I suoi scaffali contengono storia vera, scienza vera, fiabe famose e romanzi noti, riproposti in dieci pagine con un dipinto su ogni pagina, in tredici lingue. Un lettore non può ignorare ciò che ha fatto Napoleone o la trama di Cenerentola, quindi ciò che resta da giudicare è la narrazione. Questo è stato intenzionale.

La gente li conosce, ma vede disegni diversi, e sono solo dieci pagine, quindi questo li interessa a darci un'occhiata.
— Amr El Fangary, fondatore di WonderBooks

I fatti vengono ricercati prima che venga scritta una parola, e la maggior parte delle bozze viene rifiutata.

I libri di storia e scienza sono scritti in due fasi: prima un passaggio di ricerca, a bassa temperatura, che produce un breve riassunto fattuale di epoca, luogo, persone, fatti chiave e con cosa il soggetto non deve essere confuso, e solo allora la scrittura, vincolata a quel riassunto. Una libreria separata di fatti fissati e un controllo di integrità si trovano dietro lo scaffale di storia. La regola, nelle parole del fondatore, è che le informazioni devono essere corrette, finzione o non finzione, e un lettore che segnala una data sbagliata ottiene la correzione e un link alla pagina corretta piuttosto che una discussione.

Lo standard è più antico degli strumenti. Nel 2016, costruendo la prima versione a mano con scrittori e illustratori assunti, il fondatore scrisse cinquanta storie e ne pubblicò diciotto, perché le altre trentadue non erano finite al livello desiderato. Quel tasso di rifiuto non è cambiato quando la produzione è diventata più economica. Un libro scritto con l'IA vale la pena di essere letto per la stessa ragione per cui lo è qualsiasi libro: qualcuno ha deciso cosa fosse, e si è rifiutato di pubblicarlo finché non lo fosse stato.

Domande frequenti

Come si può capire se un libro è stato scritto con l'IA?

Spesso non si può, e gli indicatori onesti riguardano la qualità piuttosto che l'origine: incipit standard, frasi equilibrate che non dicono nulla, fatti sicuri che si rivelano errati al controllo, e nessuna idea di a chi sia destinato il libro. Un libro ben curato scritto con l'IA non mostra nulla di tutto ciò, ed è questo il punto.

I libri scritti con l'IA devono essere dichiarati?

Amazon richiede agli editori di dichiarare ad Amazon i contenuti generati dall'IA al momento della pubblicazione, ma tale dichiarazione non viene mostrata ai lettori. Audible contrassegna i titoli narrati dall'IA nel suo negozio. Oltre a ciò, la dichiarazione è in gran parte una scelta dell'editore, e quelli onesti lo dichiarano apertamente.

Perché i libri AI sbagliano i fatti se il modello ha letto le fonti?

Perché un modello linguistico non consulta le fonti mentre scrive; produce le parole successive più plausibili. Un fatto diventa affidabile solo quando un processo mette una fonte verificata davanti alla fase di scrittura e verifica l'output rispetto ad essa in seguito.