Os Livros Feitos Com IA Devem Ser Rotulados?
A Amazon pergunta aos editores, não aos leitores. A Audible mostra uma marca. A UE transformou em lei. O que um rótulo em livros feitos com IA lhe diria, e o que não diria.
Sim, e a maioria dos rótulos que existem hoje estão apontados para a pessoa errada. Um leitor que decide se deve confiar num livro quer saber quem responde por ele, se os fatos foram verificados e se as imagens foram feitas para ele. Um rótulo que diz apenas que uma máquina esteve envolvida não responde a nenhuma dessas perguntas, e as regras atuais da indústria informam principalmente a plataforma em vez do leitor.
Três regras, três ideias diferentes de quem precisa saber.
Desde setembro de 2023, o Kindle Direct Publishing da Amazon exige que os editores divulguem conteúdo gerado por IA ao fazer o upload de um livro. A divulgação vai para a Amazon. Não é mostrada na página do produto, então um leitor que navega na loja não vê nada. A Audible adotou a visão oposta para a narração: seus títulos Virtual Voice carregam uma marca visível, para que o ouvinte saiba antes de comprar que a voz é sintética. E a Lei de IA da União Europeia, adotada em 2024, inclui obrigações de transparência para certos conteúdos gerados por IA, um piso legal em vez de um rótulo de prateleira. Três regras em dois anos, e nenhuma delas concorda sobre para quem é o rótulo.
A confusão não é descuido. Ninguém definiu o que o rótulo deve proteger. Se é o direito do leitor de saber como algo foi feito, ele pertence à capa. Se é a necessidade da plataforma de filtrar inundações de lixo, ele pertence ao formulário de upload. Se é o interesse da lei em que as pessoas não sejam enganadas por mídias sintéticas, ele pertence a conteúdo que finge ser algo que não é, o que um livro sobre o Império Romano não faz.
O que os leitores dizem e o que compram.
Pesquisas desde 2023 têm repetidamente constatado que a maioria dos leitores quer ser informada quando um livro foi escrito com IA. Audiolivros com narração digital cresceram independentemente, com o rótulo. Esses dois fatos não estão em conflito. As pessoas querem saber e depois decidir por si mesmas, que é a relação normal entre um comprador e um rótulo. A fotografia passou pelo mesmo ciclo: nos anos 90, as imagens digitais eram amplamente descartadas pelos fotógrafos como não sendo a coisa real, e hoje quase toda fotografia publicada é uma delas.
- Um rótulo na plataforma protege a plataforma.
- Um rótulo na capa protege o direito de escolha do leitor.
- Um rótulo na lei protege contra enganos, e a maioria dos livros não são enganos.
- Nenhum dos três lhe diz se o livro é bom.
O que um rótulo não pode lhe dizer.
O que um leitor realmente precisa saber sobre um livro feito com IA é a mesma coisa que precisa saber sobre qualquer livro: está correto, é para mim e quem está por trás dele. Uma data errada fluente parece exatamente como uma correta, num rascunho de máquina ou num rascunho humano descuidado. Uma imagem que muda de uma página para a outra é um sinal de que ninguém verificou a continuidade, quem quer que tenha pintado a primeira página. Um rótulo não pode conter essa informação. O processo de um editor pode, e um editor que declara esse processo claramente está dando ao leitor mais do que qualquer distintivo daria.
Um editor declara o método e prioriza os livros.
WonderBooks afirma, sempre que relevante, que seus livros são escritos, ilustrados e narrados com IA e dirigidos por um fundador, e não faz disso a manchete. O que prioriza é o que os livros são: doze bibliotecas temáticas, 2.341 livros ilustrados, 29.179 páginas pintadas, treze idiomas, narrados em quinze, com uma linha que remonta a uma primeira versão feita à mão em 2016. O raciocínio é que os leitores julgam uma biblioteca pelos seus livros, e que priorizar a ferramenta os convida a julgar a ferramenta em vez disso.
O que oferece em vez de um distintivo é o processo. História e ciência são escritas contra um resumo factual produzido numa etapa de pesquisa separada e verificado contra uma biblioteca de fatos fixada. Assuntos conhecidos são escolhidos de propósito, para que o leitor possa verificá-los. As imagens são compostas sob regras escritas e rejeitadas quando quebram a continuidade. E um erro relatado por um leitor é corrigido e reconhecido com um link para a página corrigida, porque a visão do fundador é que os leitores fazem parte da melhoria da biblioteca em vez de uma audiência a ser gerenciada.
A informação deve ser correta, ficção ou não ficção.
O rótulo que realmente ajudaria.
Se a indústria quer um rótulo que sirva aos leitores, ele deve dizer três coisas em vez de uma: quem responde por este livro, como seus fatos foram verificados e como relatar um erro. Um editor que pode preencher todas as três é um em que um leitor pode confiar, independentemente do que fez o primeiro rascunho. Um editor que não pode não é salvo pela palavra humano na capa. O método vale a pena ser declarado. Nunca foi a coisa que mais importou.
Perguntas frequentes
A Amazon mostra aos leitores quais livros são gerados por IA?
Não. Desde 2023, os editores devem informar à Amazon no upload se um livro contém conteúdo gerado por IA, mas a página do produto não o exibe. A regra existe para permitir que a Amazon filtre e limite inundações de títulos feitos por máquinas, não para informar os compradores.
É legal vender livros escritos por IA sem um rótulo?
Na maioria dos mercados, sim, desde que o livro não engane os compradores sobre outra coisa, como o nome de um autor real. A Lei de IA da União Europeia adiciona obrigações de transparência para certos conteúdos gerados por IA, e as regras da plataforma variam; não há um requisito geral para um rótulo na capa.
O que um editor deve divulgar sobre IA?
Claramente que foi usada, e de forma mais útil como: quem dirige e responde pelo trabalho, como os fatos são verificados, como a continuidade e a qualidade são aplicadas e como um leitor relata um erro. Isso diz muito mais a um leitor do que um distintivo.