Sollten mit KI erstellte Bücher gekennzeichnet werden?
Amazon fragt Verlage, nicht Leser. Audible zeigt eine Kennzeichnung. Die EU hat es gesetzlich verankert. Was eine Kennzeichnung auf mit KI erstellten Büchern aussagen würde und was nicht.
Ja, und die meisten der heute existierenden Kennzeichnungen richten sich an die falsche Person. Ein Leser, der sich entscheidet, ob er einem Buch vertrauen soll, möchte wissen, wer dafür verantwortlich ist, ob die Fakten überprüft wurden und ob die Bilder dafür erstellt wurden. Eine Kennzeichnung, die nur besagt, dass eine Maschine beteiligt war, beantwortet keine dieser Fragen, und die aktuellen Regeln der Branche richten sich meist an die Plattform und nicht an den Leser.
Drei Regeln, drei verschiedene Vorstellungen davon, wer Bescheid wissen muss.
Seit September 2023 verlangt Amazons Kindle Direct Publishing von Verlagen, KI-generierte Inhalte offenzulegen, wenn sie ein Buch hochladen. Die Offenlegung geht an Amazon. Sie wird nicht auf der Produktseite angezeigt, sodass ein Leser, der im Store stöbert, nichts sieht. Audible vertrat bei der Erzählung die gegenteilige Ansicht: Die Virtual Voice-Titel tragen eine sichtbare Kennzeichnung, sodass ein Hörer vor dem Kauf weiß, dass die Stimme synthetisch ist. Und der 2024 verabschiedete AI Act der Europäischen Union enthält Transparenzpflichten für bestimmte KI-generierte Inhalte, eine rechtliche Untergrenze und kein Regaletikett. Drei Regeln in zwei Jahren, und keine zwei davon sind sich einig, für wen die Kennzeichnung bestimmt ist.
Die Verwirrung ist keine Nachlässigkeit. Niemand hat festgelegt, was die Kennzeichnung schützen soll. Wenn es das Recht des Lesers ist, zu wissen, wie etwas gemacht wurde, gehört es auf das Cover. Wenn es das Bedürfnis der Plattform ist, Fluten von Müll zu filtern, gehört es in das Upload-Formular. Wenn es das Interesse des Gesetzes ist, dass Menschen nicht durch synthetische Medien getäuscht werden, gehört es auf Inhalte, die vorgeben, etwas zu sein, was sie nicht sind, was ein Buch über das Römische Reich nicht tut.
Was Leser sagen und was sie kaufen.
Umfragen seit 2023 haben wiederholt ergeben, dass die Mehrheit der Leser wissen möchte, wann ein Buch mit KI geschrieben wurde. Hörbücher mit digitaler Erzählung sind trotzdem gewachsen, mit der Kennzeichnung. Diese beiden Fakten stehen nicht im Widerspruch. Die Menschen wollen es wissen und dann selbst entscheiden, was die normale Beziehung zwischen einem Käufer und einer Kennzeichnung ist. Die Fotografie durchlief den gleichen Zyklus: In den 1990er Jahren wurden digitale Bilder von Fotografen weitgehend als nicht echt abgetan, und heute ist fast jedes veröffentlichte Foto ein solches.
- Eine Kennzeichnung auf der Plattform schützt die Plattform.
- Eine Kennzeichnung auf dem Cover schützt das Wahlrecht des Lesers.
- Eine Kennzeichnung im Gesetz schützt vor Täuschung, und die meisten Bücher sind keine Täuschungen.
- Keine der drei sagt Ihnen, ob das Buch gut ist.
Was eine Kennzeichnung Ihnen nicht sagen kann.
Das, was ein Leser über ein mit KI erstelltes Buch tatsächlich wissen muss, ist dasselbe, was er über jedes Buch wissen muss: Ist es korrekt, ist es für mich und wer steht dahinter. Ein flüssiges falsches Datum liest sich genau wie ein richtiges, in einem Maschinenentwurf oder einem nachlässigen menschlichen. Ein Bild, das von einer Seite zur nächsten abweicht, ist ein Zeichen dafür, dass niemand die Kontinuität überprüft hat, egal wer die erste Seite gemalt hat. Eine Kennzeichnung kann diese Informationen nicht tragen. Der Prozess eines Verlags kann dies, und ein Verlag, der diesen Prozess klar darlegt, gibt dem Leser mehr als jedes Abzeichen es tun würde.
Ein Verlag gibt die Methode an und stellt die Bücher in den Vordergrund.
WonderBooks sagt, wo immer es relevant ist, dass seine Bücher mit KI geschrieben, illustriert und erzählt und von einem Gründer geleitet werden, und es macht dies nicht zur Schlagzeile. Was es in den Vordergrund stellt, ist, was die Bücher sind: zwölf Themenbibliotheken, 2.341 illustrierte Bücher, 29.179 gemalte Seiten, dreizehn Sprachen, in fünfzehn erzählt, mit einer Linie, die auf eine handgemachte erste Version im Jahr 2016 zurückgeht. Die Begründung ist, dass Leser eine Bibliothek nach ihren Büchern beurteilen und dass das Voranstellen des Werkzeugs sie dazu einlädt, stattdessen das Werkzeug zu beurteilen.
Was es anstelle eines Abzeichens bietet, ist der Prozess. Geschichte und Wissenschaft werden anhand eines sachlichen Briefings geschrieben, das in einem separaten Forschungsschritt erstellt und mit einer angehefteten Faktenbibliothek abgeglichen wird. Bekannte Themen werden bewusst gewählt, damit ein Leser sie überprüfen kann. Bilder werden nach schriftlichen Regeln komponiert und abgelehnt, wenn sie die Kontinuität unterbrechen. Und ein von einem Leser gemeldeter Fehler wird behoben und mit einem Link zur korrigierten Seite bestätigt, denn die Ansicht des Gründers ist, dass Leser Teil der Verbesserung der Bibliothek sind und nicht ein Publikum, das verwaltet werden muss.
Die Informationen müssen korrekt sein, ob Fiktion oder Sachbuch.
Die Kennzeichnung, die tatsächlich helfen würde.
Wenn die Branche eine Kennzeichnung wünscht, die den Lesern dient, sollte sie drei Dinge sagen und nicht nur eines: wer für dieses Buch verantwortlich ist, wie seine Fakten überprüft wurden und wie ein Fehler gemeldet werden kann. Ein Verlag, der alle drei Punkte erfüllen kann, ist einer, dem ein Leser vertrauen kann, egal was den ersten Entwurf erstellt hat. Ein Verlag, der dies nicht kann, wird durch das Wort „Mensch“ auf dem Cover nicht gerettet. Die Methode ist es wert, angegeben zu werden. Sie war nie das Wichtigste.
Häufig gestellte Fragen
Zeigt Amazon den Lesern, welche Bücher KI-generiert sind?
Nein. Seit 2023 müssen Verlage Amazon beim Hochladen mitteilen, ob ein Buch KI-generierte Inhalte enthält, aber die Produktseite zeigt dies nicht an. Die Regel dient dazu, Amazon das Filtern und Begrenzen von maschinell erstellten Titeln zu ermöglichen, nicht dazu, Käufer zu informieren.
Ist es legal, mit KI geschriebene Bücher ohne Kennzeichnung zu verkaufen?
In den meisten Märkten ja, vorausgesetzt, das Buch täuscht Käufer nicht über etwas anderes, wie den Namen eines echten Autors. Der AI Act der Europäischen Union fügt Transparenzpflichten für bestimmte KI-generierte Inhalte hinzu, und die Plattformregeln variieren; es gibt keine allgemeine Anforderung für eine Cover-Kennzeichnung.
Was sollte ein Verlag über KI offenlegen?
Klar, dass sie verwendet wurde, und nützlicherweise wie: wer die Arbeit leitet und verantwortet, wie Fakten überprüft werden, wie Kontinuität und Qualität durchgesetzt werden und wie ein Leser einen Fehler meldet. Das sagt einem Leser weit mehr als ein Abzeichen.