A IA Pode Escrever um Livro Que Vale a Pena Ler?

A enxurrada de autopublicações diz que não. O ofício diz que depende de quem decide o que o livro é. O que separa um livro legível de um gerado.

Por si só, não. Deixado à solta, um modelo de linguagem produz uma prosa fluente, até mesmo confiante, sobre qualquer coisa, e o resultado parece com qualquer outro rascunho não editado da mesma ferramenta. A questão que importa é outra: um livro escrito com IA pode valer a pena ser lido quando alguém decide para que ele serve, o submete a um padrão e descarta a maior parte dele? A resposta é sim, e a diferença entre os dois é todo o assunto.

A enxurrada chegou primeiro e ensinou aos leitores o que esperar.

Em setembro de 2023, o Kindle Direct Publishing da Amazon impôs um limite de três novos títulos por dia aos autores, após uma onda de livros gerados por máquina, e começou a exigir que as editoras informassem à Amazon quando o conteúdo de um livro é gerado por IA. Essas duas regras existem por causa do que o primeiro ano parecia: guias de viagem caça-palavras-chave, livros de receitas que ninguém cozinhava, romances listados sob nomes de autores reais. A autora Jane Friedman encontrou livros que nunca havia escrito sendo vendidos sob seu nome e teve que lutar para que fossem removidos. Os leitores aprenderam o padrão rapidamente, e o padrão é o que a maioria das pessoas agora entende por um livro de IA.

Três coisas estão erradas com esses livros, e nenhuma delas é que uma máquina os tocou. Eles não têm um ponto de vista, porque ninguém decidiu para que o livro servia. Eles soam iguais, porque um modelo não guiado retorna às suas frases mais comuns. E eles afirmam fatos errados com total confiança, porque um modelo de linguagem não pesquisa nada a menos que um sistema coloque uma fonte à sua frente. Uma data errada plausível parece exatamente como uma correta.

Ninguém escreveu um conto de fadas original em duzentos anos.

Ajuda lembrar o que os leitores realmente julgam em um livro. Os Grimms publicaram sua coleção em 1812; os contos nela foram recontados em formato impresso milhares de vezes desde então, e nenhuma dessas releituras é julgada por seu enredo. É julgada pela narrativa: a voz, o comprimento, as imagens, a escolha do que omitir. Cinderela tem uma versão de Perrault de 1697, uma ópera de Rossini de 1817 e um filme da Disney de 1950, cada um protegido como sua própria obra, cada um um livro diferente. O enredo nunca foi a reivindicação.

O que um livro que vale a pena ler precisa, seja quem for que o escreva.

Precisa que alguém decida qual é a narrativa: engraçada ou séria, para uma criança ou para um adulto, dez páginas ou trezentas. Precisa de uma estrutura que o leitor possa sentir. Precisa que seus fatos sejam verificados por um processo que assume que eles podem estar errados. E precisa de um padrão que rejeite: a maioria dos rascunhos, de qualquer escritor, não é boa o suficiente, e um editor que publica tudo o que gera com sucesso é um editor de primeiros rascunhos. Nada disso é novo. É para isso que um editor sempre serviu. O que é novo é que a escrita não é mais a parte escassa, então a decisão e a rejeição se tornam todo o trabalho.


Uma biblioteca escolheu histórias conhecidas para que a narrativa seja o que é julgado.

WonderBooks publica 2.341 livros ilustrados em doze bibliotecas, e a escolha do que publicar foi feita exatamente com este problema em mente. Suas prateleiras contêm história real, ciência real, contos famosos e romances conhecidos, recontados em dez páginas com uma pintura em cada página, em treze idiomas. Um leitor não pode descartar o que Napoleão fez ou o enredo de Cinderela, então o que resta para julgar é a narrativa. Isso foi deliberado.

As pessoas os conhecem, mas veem desenhos diferentes, e são apenas dez páginas, então isso as interessa a conferir.
— Amr El Fangary, fundador da WonderBooks

Os fatos são pesquisados antes que uma palavra seja escrita, e a maioria dos rascunhos é recusada.

Os livros de história e ciência são escritos em duas etapas: uma pesquisa inicial, em baixa temperatura, produzindo um resumo factual da era, lugar, pessoas, fatos-chave e com o que o assunto não deve ser confundido, e só então a escrita, vinculada a esse resumo. Uma biblioteca separada de fatos fixados e uma verificação de integridade estão por trás da prateleira de história. A regra, nas palavras do fundador, é que a informação deve ser correta, ficção ou não ficção, e um leitor que relata uma data errada recebe a correção e um link para a página corrigida em vez de uma discussão.

O padrão é mais antigo que as ferramentas. Em 2016, construindo a primeira versão à mão com escritores e ilustradores contratados, o fundador escreveu cinquenta histórias e publicou dezoito, porque as outras trinta e duas não estavam finalizadas no nível que ele queria. Essa taxa de recusa não mudou quando a produção ficou mais barata. Um livro escrito com IA vale a pena ser lido pela mesma razão que qualquer livro: alguém decidiu o que ele era e se recusou a publicá-lo até que fosse isso.

Perguntas frequentes

Como saber se um livro foi escrito com IA?

Muitas vezes não se pode, e os sinais honestos são sobre qualidade e não sobre origem: inícios genéricos, frases equilibradas que não dizem nada, fatos confiantes que se desfazem na verificação e nenhuma noção de para quem o livro é. Um livro bem editado escrito com IA não apresenta nada disso, e esse é o ponto.

Livros escritos por IA precisam ser divulgados?

A Amazon exige que as editoras divulguem o conteúdo gerado por IA à Amazon quando publicam, mas essa divulgação não é mostrada aos leitores. A Audible marca os títulos narrados por IA em sua loja. Além disso, a divulgação é em grande parte uma escolha da própria editora, e as honestas o declaram abertamente.

Por que os livros de IA erram os fatos se o modelo leu as fontes?

Porque um modelo de linguagem não consulta fontes enquanto escreve; ele produz as próximas palavras mais plausíveis. Um fato só se torna confiável quando um processo coloca uma fonte verificada antes da etapa de escrita e verifica a saída em relação a ela depois.