Les livres créés avec l'IA devraient-ils être étiquetés ?
Amazon interroge les éditeurs, pas les lecteurs. Audible affiche une marque. L'UE l'a inscrit dans la loi. Ce qu'une étiquette sur les livres créés avec l'IA vous dirait, et ce qu'elle ne vous dirait pas.
Oui, et la plupart des étiquettes qui existent aujourd'hui sont destinées à la mauvaise personne. Un lecteur qui décide de faire confiance à un livre veut savoir qui en est responsable, si les faits ont été vérifiés et si les images ont été créées spécifiquement pour ce livre. Une étiquette qui indique seulement qu'une machine a été impliquée ne répond à aucune de ces questions, et les règles actuelles de l'industrie s'adressent principalement à la plateforme plutôt qu'au lecteur.
Trois règles, trois idées différentes de qui a besoin de savoir.
Depuis septembre 2023, Kindle Direct Publishing d'Amazon exige des éditeurs qu'ils divulguent le contenu généré par l'IA lorsqu'ils téléchargent un livre. Cette divulgation est destinée à Amazon. Elle n'est pas affichée sur la page du produit, de sorte qu'un lecteur parcourant la boutique ne voit rien. Audible a adopté le point de vue opposé pour la narration : ses titres Virtual Voice portent une marque visible, de sorte qu'un auditeur sait avant d'acheter que la voix est synthétique. Et la loi sur l'IA de l'Union européenne, adoptée en 2024, inclut des obligations de transparence pour certains contenus générés par l'IA, un seuil légal plutôt qu'une étiquette de rayon. Trois règles en deux ans, et aucune d'entre elles ne s'accorde sur la personne à qui l'étiquette est destinée.
La confusion n'est pas de la négligence. Personne n'a établi ce que l'étiquette est censée protéger. Si c'est le droit du lecteur de savoir comment une chose a été fabriquée, elle doit figurer sur la couverture. Si c'est le besoin de la plateforme de filtrer les flots de déchets, elle doit figurer dans le formulaire de téléchargement. Si c'est l'intérêt de la loi à ce que les gens ne soient pas trompés par les médias synthétiques, elle doit figurer sur le contenu qui prétend être quelque chose qu'il n'est pas, ce qu'un livre sur l'Empire romain ne fait pas.
Ce que les lecteurs disent, et ce qu'ils achètent.
Des enquêtes menées depuis 2023 ont montré à plusieurs reprises que la majorité des lecteurs souhaitent être informés lorsqu'un livre a été écrit avec l'IA. Les livres audio avec narration numérique ont néanmoins progressé, avec l'étiquette. Ces deux faits ne sont pas en conflit. Les gens veulent savoir et ensuite décider par eux-mêmes, ce qui est la relation normale entre un acheteur et une étiquette. La photographie a traversé le même cycle : dans les années 1990, les images numériques étaient largement rejetées par les photographes comme n'étant pas la vraie chose, et aujourd'hui, presque toutes les photographies publiées en sont une.
- Une étiquette sur la plateforme protège la plateforme.
- Une étiquette sur la couverture protège le droit de choisir du lecteur.
- Une étiquette légale protège contre la tromperie, et la plupart des livres ne sont pas des tromperies.
- Aucune des trois ne vous dit si le livre est bon.
Ce qu'une étiquette ne peut pas vous dire.
Ce qu'un lecteur a réellement besoin de savoir sur un livre créé par l'IA est la même chose qu'il a besoin de savoir sur n'importe quel livre : est-il correct, est-il pour moi, et qui en est responsable. Une date erronée mais fluide se lit exactement comme une date correcte, dans un brouillon machine ou un brouillon humain négligent. Une image qui dérive d'une page à l'autre est un signe que personne n'a vérifié la continuité, quel que soit l'auteur de la première page. Une étiquette ne peut pas contenir cette information. Le processus d'un éditeur le peut, et un éditeur qui expose clairement ce processus donne au lecteur plus que n'importe quel badge.
Un éditeur expose la méthode et met en avant les livres.
WonderBooks indique, chaque fois que cela est pertinent, que ses livres sont écrits, illustrés et narrés avec l'IA et dirigés par un fondateur, et il n'en fait pas la une. Ce qu'il met en avant, c'est ce que sont les livres : douze bibliothèques thématiques, 2 341 livres illustrés, 29 179 pages peintes, treize langues, narrés en quinze, avec une lignée qui remonte à une première version faite à la main en 2016. Le raisonnement est que les lecteurs jugent une bibliothèque par ses livres, et que mettre en avant l'outil les invite à juger l'outil à la place.
Ce qu'il offre à la place d'un badge, c'est le processus. L'histoire et la science sont écrites à partir d'un dossier factuel produit lors d'une étape de recherche distincte et vérifié par rapport à une bibliothèque de faits épinglée. Les sujets connus sont choisis à dessein, afin qu'un lecteur puisse les vérifier. Les images sont composées selon des règles écrites et rejetées lorsqu'elles rompent la continuité. Et une erreur signalée par un lecteur est corrigée et reconnue par un lien vers la page corrigée, car le fondateur estime que les lecteurs font partie de l'amélioration de la bibliothèque plutôt qu'un public à gérer.
L'information doit être correcte, qu'il s'agisse de fiction ou de non-fiction.
L'étiquette qui aiderait réellement.
Si l'industrie veut une étiquette qui serve les lecteurs, elle devrait dire trois choses plutôt qu'une : qui est responsable de ce livre, comment ses faits ont été vérifiés et comment signaler une erreur. Un éditeur qui peut remplir ces trois conditions est un éditeur auquel un lecteur peut faire confiance, quelle que soit la manière dont le premier brouillon a été réalisé. Un éditeur qui ne le peut pas n'est pas sauvé par le mot humain sur la couverture. La méthode mérite d'être énoncée. Ce n'est jamais la chose qui a le plus compté.
Questions fréquentes
Amazon indique-t-il aux lecteurs quels livres sont générés par l'IA ?
Non. Depuis 2023, les éditeurs doivent informer Amazon lors du téléchargement si un livre contient du contenu généré par l'IA, mais la page du produit ne l'affiche pas. La règle existe pour permettre à Amazon de filtrer et de limiter les flux de titres créés par des machines, et non pour informer les acheteurs.
Est-il légal de vendre des livres écrits par l'IA sans étiquette ?
Dans la plupart des marchés, oui, à condition que le livre ne trompe pas les acheteurs sur autre chose, comme le nom d'un véritable auteur. La loi sur l'IA de l'Union européenne ajoute des obligations de transparence pour certains contenus générés par l'IA, et les règles des plateformes varient ; il n'y a pas d'exigence générale pour une étiquette de couverture.
Que devrait divulguer un éditeur concernant l'IA ?
Clairement qu'elle a été utilisée, et plus utilement comment : qui dirige et répond du travail, comment les faits sont vérifiés, comment la continuité et la qualité sont appliquées, et comment un lecteur signale une erreur. Cela en dit bien plus à un lecteur qu'un badge.