Может ли ИИ написать книгу, которую стоит прочитать?

Наводнение самиздата говорит «нет». Мастерство говорит, что это зависит от того, кто решает, что такое книга. Что отличает читабельную книгу от сгенерированной.

Сама по себе — нет. Если оставить языковую модель работать без присмотра, она будет создавать беглую, ровную, уверенную прозу на любую тему, и результат будет похож на любой другой неотредактированный черновик, созданный тем же инструментом. Важен другой вопрос: может ли книга, написанная с помощью ИИ, стоить прочтения, если кто-то решает, для чего она предназначена, придерживается стандартов и отбрасывает большую часть? Ответ — да, и разница между этими двумя подходами является предметом всего обсуждения.

Сначала пришло наводнение, и оно научило читателей, чего ожидать.

В сентябре 2023 года Kindle Direct Publishing от Amazon установил ограничение в три новых названия в день для авторов после волны книг, сгенерированных машинами, и начал требовать от издателей сообщать Amazon, когда содержание книги сгенерировано ИИ. Эти два правила существуют из-за того, как выглядел первый год: путеводители, гоняющиеся за ключевыми словами, кулинарные книги, по которым никто не готовил, романы, опубликованные под именами реальных авторов. Автор Джейн Фридман обнаружила, что книги, которые она никогда не писала, продаются под ее именем, и ей пришлось бороться за их удаление. Читатели быстро усвоили шаблон, и этот шаблон теперь большинство людей подразумевают под «книгой ИИ».

В этих книгах есть три недостатка, и ни один из них не связан с тем, что к ним прикоснулась машина. У них нет точки зрения, потому что никто не решал, для чего предназначена книга. Они звучат одинаково, потому что неуправляемая модель возвращается к своим наиболее распространенным формулировкам. И они с полной уверенностью сообщают неверные факты, потому что языковая модель ничего не ищет, если система не предоставляет ей источник. Правдоподобная неверная дата выглядит точно так же, как и верная.

Никто не писал оригинальную сказку уже двести лет.

Полезно помнить, по каким критериям читатели на самом деле оценивают книгу. Братья Гримм опубликовали свой сборник в 1812 году; с тех пор сказки из него пересказывались в печати тысячи раз, и ни один из этих пересказов не оценивается по сюжету. Он оценивается по изложению: голосу, объему, иллюстрациям, выбору того, что опустить. У Золушки есть версия Перро 1697 года, опера Россини 1817 года и фильм Диснея 1950 года, каждая из которых защищена как отдельное произведение, каждая — отдельная книга. Сюжет никогда не был главным.

Что нужно книге, которую стоит прочитать, независимо от того, кто ее пишет.

Ей нужен кто-то, кто решит, каким будет изложение: смешным или серьезным, для ребенка или для взрослого, десять страниц или триста. Ей нужна структура, которую читатель сможет почувствовать. Ей нужна проверка фактов с помощью процесса, который предполагает, что они могут быть неверными. И ей нужен стандарт, который отсеивает: большинство черновиков, от любого автора, недостаточно хороши, и издатель, который выпускает все, что успешно генерируется, является издателем первых черновиков. Ничего из этого не ново. Именно для этого всегда и был редактор. Новое заключается в том, что написание больше не является дефицитной частью, поэтому принятие решений и отсеивание становятся всей работой.


Одна библиотека выбрала известные истории, чтобы оценивалось именно изложение.

WonderBooks издает 2341 иллюстрированную книгу в двенадцати библиотеках, и выбор того, что публиковать, был сделан именно с учетом этой проблемы. На ее полках — реальная история, реальная наука, знаменитые сказки и известные романы, пересказанные на десяти страницах с иллюстрацией на каждой странице, на тринадцати языках. Читатель не может отмахнуться от того, что сделал Наполеон, или от сюжета Золушки, поэтому остается оценивать изложение. Это было сделано намеренно.

Люди их знают, но видят другие рисунки, и это всего десять страниц, так что это их интересует, чтобы проверить.
— Амр Эль Фангари, основатель WonderBooks

Факты исследуются до написания первого слова, и большинство черновиков отклоняются.

Книги по истории и науке пишутся в два этапа: сначала проводится исследование, в спокойном режиме, создается фактический бриф эпохи, места, людей, ключевых фактов и того, с чем предмет нельзя путать, и только потом пишется текст, привязанный к этому брифу. Отдельная библиотека закрепленных фактов и проверка целостности находятся за полкой истории. Правило, по словам основателя, заключается в том, что информация должна быть верной, будь то художественная или нехудожественная литература, и читатель, который сообщает о неверной дате, получает исправление и ссылку на исправленную страницу, а не спор.

Стандарт старше инструментов. В 2016 году, создавая первую версию вручную с нанятыми писателями и иллюстраторами, основатель написал пятьдесят историй и выпустил восемнадцать, потому что остальные тридцать две не были доведены до желаемого им уровня. Этот процент отказов не изменился, когда производство стало дешевле. Книга, написанная с помощью ИИ, стоит прочтения по той же причине, по которой стоит любая книга: кто-то решил, что это такое, и отказался публиковать ее, пока она не стала такой.

Часто задаваемые вопросы

Как определить, написана ли книга ИИ?

Часто это невозможно, и честные признаки касаются скорее качества, чем происхождения: стандартные зачины, сбалансированные предложения, которые ничего не говорят, уверенные факты, которые рассыпаются при проверке, и отсутствие понимания, для кого предназначена книга. Хорошо отредактированная книга, написанная с помощью ИИ, не демонстрирует ничего из этого, в чем и заключается суть.

Нужно ли раскрывать, что книги написаны ИИ?

Amazon требует от издателей раскрывать Amazon контент, сгенерированный ИИ, при публикации, но это раскрытие не показывается читателям. Audible помечает названия, озвученные ИИ, в своем магазине. Помимо этого, раскрытие в значительной степени является выбором самого издателя, и честные издатели заявляют об этом прямо.

Почему книги ИИ ошибаются в фактах, если модель читала источники?

Потому что языковая модель не консультируется с источниками во время написания; она производит наиболее правдоподобные следующие слова. Факт становится надежным только тогда, когда процесс помещает проверенный источник перед этапом написания и затем проверяет результат на соответствие ему.