Нужно ли маркировать книги, созданные с помощью ИИ?

Amazon спрашивает издателей, а не читателей. Audible ставит отметку. ЕС закрепил это в законе. Что расскажет вам маркировка книг, созданных с помощью ИИ, а что нет.

Да, и большинство существующих сегодня маркировок направлены не на того человека. Читатель, решающий, доверять ли книге, хочет знать, кто за нее отвечает, были ли проверены факты и были ли сделаны иллюстрации специально для нее. Маркировка, которая говорит только о том, что была задействована машина, не отвечает ни на один из этих вопросов, а текущие правила индустрии в основном сообщают об этом платформе, а не читателю.

Три правила, три разных представления о том, кому нужно знать.

С сентября 2023 года Kindle Direct Publishing от Amazon требует от издателей раскрывать информацию о контенте, созданном ИИ, при загрузке книги. Раскрытие информации поступает в Amazon. Оно не отображается на странице продукта, поэтому читатель, просматривающий магазин, ничего не видит. Audible занял противоположную позицию в отношении озвучивания: его заголовки Virtual Voice имеют видимую отметку, поэтому слушатель знает перед покупкой, что голос синтетический. А Закон ЕС об ИИ, принятый в 2024 году, включает обязательства по прозрачности для определенного контента, созданного ИИ, что является скорее правовым минимумом, чем этикеткой на полке. Три правила за два года, и ни одно из них не сходится во мнении, для кого предназначена маркировка.

Путаница не является небрежностью. Никто не определил, что именно должна защищать маркировка. Если это право читателя знать, как была сделана вещь, то она должна быть на обложке. Если это потребность платформы фильтровать потоки мусора, то она должна быть в форме загрузки. Если это интерес закона в том, чтобы люди не были обмануты синтетическими медиа, то она должна быть на контенте, который притворяется тем, чем он не является, чего не делает книга о Римской империи.

Что говорят читатели и что они покупают.

Опросы с 2023 года неоднократно показывали, что большинство читателей хотят знать, когда книга была написана с помощью ИИ. Аудиокниги с цифровым озвучиванием, тем не менее, растут, несмотря на маркировку. Эти два факта не противоречат друг другу. Люди хотят знать, а затем решать сами, что является обычными отношениями между покупателем и маркировкой. Фотография прошла тот же цикл: в 1990-х годах цифровые изображения широко отвергались фотографами как нечто ненастоящее, а сегодня почти каждая опубликованная фотография является таковой.

Что маркировка не может вам сказать.

Что читателю действительно нужно знать о книге, созданной ИИ, это то же самое, что ему нужно знать о любой книге: верна ли она, подходит ли она мне, и кто за ней стоит. Бегло написанная неверная дата выглядит точно так же, как и верная, будь то машинный черновик или небрежный человеческий. Изображение, которое меняется от страницы к странице, является признаком того, что никто не проверял непрерывность, кто бы ни рисовал первую страницу. Маркировка не может нести эту информацию. Процесс издателя может, и издатель, который четко описывает этот процесс, дает читателю больше, чем любой значок.


Один издатель заявляет о методе и начинает с книг.

WonderBooks заявляет, где это уместно, что его книги написаны, проиллюстрированы и озвучены с помощью ИИ и под руководством одного основателя, и это не является заголовком. Главное, что это за книги: двенадцать тематических библиотек, 2341 иллюстрированная книга, 29179 нарисованных страниц, тринадцать языков, озвученных на пятнадцати, с историей, восходящей к первой версии, сделанной вручную в 2016 году. Причина в том, что читатели судят о библиотеке по ее книгам, и что акцент на инструменте побуждает их судить об инструменте.

Вместо значка он предлагает процесс. История и наука написаны на основе фактического брифа, составленного на отдельном этапе исследования и проверенного по закрепленной библиотеке фактов. Известные темы выбираются целенаправленно, чтобы читатель мог их проверить. Изображения составляются по письменным правилам и отклоняются, если они нарушают непрерывность. И ошибка, о которой сообщил читатель, исправляется и подтверждается ссылкой на исправленную страницу, потому что основатель считает, что читатели являются частью улучшения библиотеки, а не аудиторией, которой нужно управлять.

Информация должна быть верной, будь то художественная или нехудожественная литература.
— Амр Эль Фангари, основатель WonderBooks

Маркировка, которая действительно поможет.

Если индустрия хочет маркировку, которая служит читателям, она должна говорить три вещи, а не одну: кто отвечает за эту книгу, как были проверены ее факты и как сообщить об ошибке. Издатель, который может заполнить все три пункта, — это тот, кому читатель может доверять, независимо от того, что сделало первый черновик. Издателя, который не может, не спасет слово «человек» на обложке. Метод стоит того, чтобы его заявить. Это никогда не было самым важным.

Часто задаваемые вопросы

Показывает ли Amazon читателям, какие книги созданы ИИ?

Нет. С 2023 года издатели должны сообщать Amazon при загрузке, содержит ли книга контент, созданный ИИ, но на странице продукта это не отображается. Правило существует для того, чтобы Amazon мог фильтровать и ограничивать потоки машинных названий, а не для информирования покупателей.

Законно ли продавать книги, написанные ИИ, без маркировки?

На большинстве рынков да, при условии, что книга не обманывает покупателей в чем-то другом, например, в имени настоящего автора. Закон ЕС об ИИ добавляет обязательства по прозрачности для определенного контента, созданного ИИ, и правила платформ различаются; общего требования к маркировке на обложке нет.

Что издатель должен раскрывать об ИИ?

Четко, что он был использован, и, что более полезно, как: кто руководит работой и отвечает за нее, как проверяются факты, как обеспечивается непрерывность и качество, и как читатель сообщает об ошибке. Это говорит читателю гораздо больше, чем значок.