I libri creati con l'IA dovrebbero essere etichettati?
Amazon lo chiede agli editori, non ai lettori. Audible mostra un segno. L'UE lo ha inserito nella legge. Cosa ti direbbe un'etichetta sui libri creati con l'IA e cosa no.
Sì, e la maggior parte delle etichette esistenti oggi sono rivolte alla persona sbagliata. Un lettore che decide se fidarsi di un libro vuole sapere chi ne è responsabile, se i fatti sono stati verificati e se le immagini sono state create appositamente. Un'etichetta che dice solo che è stata coinvolta una macchina non risponde a nessuna di queste domande, e le attuali regole del settore si rivolgono principalmente alla piattaforma piuttosto che al lettore.
Tre regole, tre diverse idee su chi ha bisogno di sapere.
Da settembre 2023, Kindle Direct Publishing di Amazon ha richiesto agli editori di divulgare i contenuti generati dall'IA quando caricano un libro. La divulgazione va ad Amazon. Non viene mostrata sulla pagina del prodotto, quindi un lettore che naviga nel negozio non vede nulla. Audible ha adottato il punto di vista opposto per la narrazione: i suoi titoli Virtual Voice recano un segno visibile, in modo che un ascoltatore sappia prima di acquistare che la voce è sintetica. E l'AI Act dell'Unione Europea, adottato nel 2024, include obblighi di trasparenza per alcuni contenuti generati dall'IA, un livello legale piuttosto che un'etichetta sullo scaffale. Tre regole in due anni, e nessuna delle due concorda su a chi sia destinata l'etichetta.
La confusione non è incuria. Nessuno ha stabilito cosa l'etichetta dovrebbe proteggere. Se è il diritto del lettore di sapere come è stata fatta una cosa, appartiene alla copertina. Se è la necessità della piattaforma di filtrare inondazioni di spazzatura, appartiene al modulo di caricamento. Se è l'interesse della legge che le persone non siano ingannate dai media sintetici, appartiene a contenuti che pretendono di essere qualcosa che non sono, cosa che un libro sull'Impero Romano non fa.
Cosa dicono i lettori e cosa comprano.
Sondaggi dal 2023 hanno ripetutamente rilevato che la maggior parte dei lettori vuole essere informata quando un libro è stato scritto con l'IA. Gli audiolibri con narrazione digitale sono cresciuti comunque, con l'etichetta. Questi due fatti non sono in conflitto. Le persone vogliono sapere e poi decidere da sole, che è il normale rapporto tra un acquirente e un'etichetta. La fotografia ha attraversato lo stesso ciclo: negli anni '90 le immagini digitali erano ampiamente liquidate dai fotografi come non autentiche, e oggi quasi ogni fotografia pubblicata è digitale.
- Un'etichetta sulla piattaforma protegge la piattaforma.
- Un'etichetta sulla copertina protegge il diritto di scelta del lettore.
- Un'etichetta nella legge protegge dall'inganno, e la maggior parte dei libri non sono inganni.
- Nessuna delle tre ti dice se il libro è valido.
Cosa un'etichetta non può dirti.
La cosa che un lettore ha effettivamente bisogno di sapere su un libro fatto con l'IA è la stessa cosa che deve sapere su qualsiasi libro: è corretto, è adatto a me e chi c'è dietro. Una data sbagliata ma fluente si legge esattamente come una corretta, in una bozza di macchina o in una umana disattenta. Un'immagine che si sposta da una pagina all'altra è un segno che nessuno ha controllato la continuità, chiunque abbia dipinto la prima pagina. Un'etichetta non può contenere queste informazioni. Il processo di un editore può, e un editore che dichiara chiaramente quel processo sta dando al lettore più di quanto farebbe qualsiasi distintivo.
Un editore dichiara il metodo e si concentra sui libri.
WonderBooks dichiara, ove pertinente, che i suoi libri sono scritti, illustrati e narrati con l'IA e diretti da un fondatore, e non ne fa il titolo principale. Ciò su cui si concentra è ciò che sono i libri: dodici biblioteche tematiche, 2.341 libri illustrati, 29.179 pagine dipinte, tredici lingue, narrati in quindici, con una linea che risale a una prima versione fatta a mano nel 2016. Il ragionamento è che i lettori giudicano una biblioteca dai suoi libri, e che concentrarsi sullo strumento li invita a giudicare lo strumento invece.
Ciò che offre al posto di un distintivo è il processo. La storia e la scienza sono scritte in base a un brief fattuale prodotto in una fase di ricerca separata e verificato rispetto a una libreria di fatti fissi. I soggetti noti sono scelti di proposito, in modo che un lettore possa verificarli. Le immagini sono composte secondo regole scritte e rifiutate quando rompono la continuità. E un errore segnalato da un lettore viene corretto e riconosciuto con un link alla pagina corretta, perché la visione del fondatore è che i lettori fanno parte del miglioramento della biblioteca piuttosto che un pubblico da gestire.
L'informazione deve essere corretta, sia essa finzione o saggistica.
L'etichetta che aiuterebbe davvero.
Se l'industria vuole un'etichetta che serva i lettori, dovrebbe dire tre cose piuttosto che una: chi risponde di questo libro, come sono stati verificati i suoi fatti e come segnalare un errore. Un editore che può compilare tutte e tre è uno di cui un lettore può fidarsi, qualunque cosa abbia fatto la prima bozza. Un editore che non può non è salvato dalla parola umano sulla copertina. Il metodo merita di essere dichiarato. Non è mai stata la cosa più importante.
Domande frequenti
Amazon mostra ai lettori quali libri sono generati dall'IA?
No. Dal 2023 gli editori devono comunicare ad Amazon al momento del caricamento se un libro contiene contenuti generati dall'IA, ma la pagina del prodotto non lo visualizza. La regola esiste per consentire ad Amazon di filtrare e limitare le inondazioni di titoli creati da macchine, non per informare gli acquirenti.
È legale vendere libri scritti dall'IA senza etichetta?
Nella maggior parte dei mercati, sì, a condizione che il libro non inganni gli acquirenti su qualcos'altro, come il nome di un autore reale. L'AI Act dell'Unione Europea aggiunge obblighi di trasparenza per alcuni contenuti generati dall'IA, e le regole delle piattaforme variano; non esiste un requisito generale per un'etichetta sulla copertina.
Cosa dovrebbe divulgare un editore sull'IA?
Chiaramente che è stata utilizzata, e più utilmente come: chi dirige e risponde del lavoro, come vengono verificati i fatti, come vengono applicate la continuità e la qualità, e come un lettore segnala un errore. Questo dice a un lettore molto di più di un distintivo.