AI로 만든 책에 라벨을 붙여야 할까요?
아마존은 독자가 아닌 출판사에 요구합니다. 오디블은 표시를 보여줍니다. EU는 이를 법으로 제정했습니다. AI로 만든 책에 붙는 라벨이 무엇을 알려주고, 무엇을 알려주지 않는지에 대해 알아봅니다.
네, 그리고 오늘날 존재하는 대부분의 라벨은 잘못된 사람을 겨냥하고 있습니다. 책을 신뢰할지 여부를 결정하는 독자는 누가 책에 대해 책임지는지, 사실 확인이 되었는지, 그림이 책을 위해 만들어졌는지 알고 싶어 합니다. 기계가 관여했다는 것만 알려주는 라벨은 이러한 질문에 답하지 못하며, 업계의 현재 규칙은 독자보다는 주로 플랫폼에 초점을 맞추고 있습니다.
세 가지 규칙, 누가 알아야 하는지에 대한 세 가지 다른 생각.
2023년 9월부터 아마존의 Kindle Direct Publishing은 출판사에게 책을 업로드할 때 AI 생성 콘텐츠를 공개하도록 요구하고 있습니다. 이 공개는 아마존으로 전달됩니다. 제품 페이지에는 표시되지 않으므로, 서점을 둘러보는 독자는 아무것도 볼 수 없습니다. 오디블은 내레이션에 대해 정반대의 입장을 취했습니다. Virtual Voice 타이틀에는 눈에 보이는 표시가 있어, 청취자는 구매하기 전에 음성이 합성된 것임을 알 수 있습니다. 그리고 2024년에 채택된 유럽 연합의 AI 법은 특정 AI 생성 콘텐츠에 대한 투명성 의무를 포함하고 있으며, 이는 선반 라벨이라기보다는 법적 기준입니다. 2년 동안 세 가지 규칙이 생겼지만, 이들 중 어느 것도 라벨이 누구를 위한 것인지에 대해 일치하지 않습니다.
이러한 혼란은 부주의함 때문이 아닙니다. 아무도 라벨이 무엇을 보호해야 하는지 정하지 못했습니다. 만약 그것이 독자가 어떤 것이 어떻게 만들어졌는지 알 권리라면, 표지에 있어야 합니다. 만약 그것이 플랫폼이 넘쳐나는 쓰레기를 걸러내야 할 필요성이라면, 업로드 양식에 있어야 합니다. 만약 그것이 합성 미디어에 의해 사람들이 속지 않도록 하는 법의 관심이라면, 그것은 로마 제국에 대한 책이 아닌, 실제가 아닌 것처럼 가장하는 콘텐츠에 있어야 합니다.
독자들이 말하는 것, 그리고 그들이 구매하는 것.
2023년 이후의 설문조사에 따르면, 대다수의 독자들이 책이 AI로 작성되었을 때 알려주기를 원한다는 사실이 반복적으로 밝혀졌습니다. 디지털 내레이션이 포함된 오디오북은 라벨이 붙어 있음에도 불구하고 성장했습니다. 이 두 가지 사실은 서로 충돌하지 않습니다. 사람들은 알고 나서 스스로 결정하기를 원하며, 이는 구매자와 라벨 사이의 정상적인 관계입니다. 사진도 같은 과정을 겪었습니다. 1990년대에는 디지털 이미지가 사진작가들에게 진짜가 아니라고 널리 무시되었지만, 오늘날 출판되는 거의 모든 사진은 디지털 이미지입니다.
- 플랫폼에 붙은 라벨은 플랫폼을 보호합니다.
- 표지에 붙은 라벨은 독자의 선택권을 보호합니다.
- 법률에 따른 라벨은 기만을 방지하며, 대부분의 책은 기만이 아닙니다.
- 이 세 가지 중 어느 것도 책이 얼마나 좋은지 알려주지 않습니다.
라벨이 알려줄 수 없는 것.
독자가 AI로 만든 책에 대해 실제로 알아야 할 것은 다른 어떤 책에 대해 알아야 할 것과 같습니다. 즉, 정확한가, 나에게 맞는가, 그리고 누가 책임지는가입니다. 유창하지만 틀린 날짜는 기계 초안이든 부주의한 인간의 초안이든 정확한 날짜와 똑같이 읽힙니다. 한 페이지에서 다음 페이지로 넘어가는 그림은 누가 첫 페이지를 그렸든 연속성을 확인한 사람이 없다는 신호입니다. 라벨은 그 정보를 담을 수 없습니다. 출판사의 과정은 담을 수 있으며, 그 과정을 명확하게 설명하는 출판사는 어떤 배지보다 독자에게 더 많은 것을 제공합니다.
한 출판사는 방법을 명시하고 책으로 앞서 나갑니다.
WonderBooks는 관련이 있는 모든 곳에서 자사의 책이 AI로 작성, 삽화 및 내레이션되었으며 한 설립자가 지휘했다고 말하지만, 이를 헤드라인으로 삼지 않습니다. 그들이 내세우는 것은 책 자체입니다. 12개의 주제 라이브러리, 2,341권의 삽화가 있는 책, 29,179페이지의 그림, 13개 언어, 15개 언어로 내레이션되며, 2016년 수제 초판으로 거슬러 올라가는 역사를 가지고 있습니다. 그들의 추론은 독자들이 책으로 라이브러리를 판단하며, 도구를 내세우면 독자들이 도구를 판단하게 된다는 것입니다.
배지 대신 제공하는 것은 과정입니다. 역사와 과학은 별도의 연구 단계에서 생성된 사실적 요약에 따라 작성되며, 고정된 사실 라이브러리와 대조하여 확인됩니다. 알려진 주제는 의도적으로 선택되므로 독자가 확인할 수 있습니다. 그림은 서면 규칙에 따라 구성되며 연속성을 깨뜨릴 경우 거부됩니다. 그리고 독자가 보고한 오류는 수정되고 수정된 페이지 링크와 함께 인정됩니다. 설립자의 견해는 독자들이 관리되어야 할 청중이 아니라 라이브러리 개선의 일부이기 때문입니다.
정보는 소설이든 비소설이든 정확해야 합니다.
실제로 도움이 될 라벨.
만약 업계가 독자에게 도움이 되는 라벨을 원한다면, 한 가지가 아니라 세 가지를 말해야 합니다. 이 책에 대해 누가 책임지는지, 사실이 어떻게 확인되었는지, 그리고 실수를 어떻게 보고하는지입니다. 이 세 가지를 모두 채울 수 있는 출판사는 초안이 무엇으로 만들어졌든 독자가 신뢰할 수 있는 출판사입니다. 그렇지 못한 출판사는 표지에 '인간'이라는 단어가 있다고 해서 구원받지 못합니다. 방법은 명시할 가치가 있습니다. 그것이 가장 중요한 것은 아니었습니다.
자주 묻는 질문
아마존은 독자들에게 어떤 책이 AI로 생성되었는지 보여주나요?
아니요. 2023년부터 출판사는 책에 AI 생성 콘텐츠가 포함되어 있는지 업로드 시 아마존에 알려야 하지만, 제품 페이지에는 표시되지 않습니다. 이 규칙은 아마존이 기계로 만든 제목의 홍수를 필터링하고 제한하기 위한 것이지, 구매자에게 정보를 제공하기 위한 것이 아닙니다.
AI로 작성된 책을 라벨 없이 판매하는 것이 합법인가요?
대부분의 시장에서는 그렇습니다. 단, 책이 실제 저자의 이름과 같은 다른 것에 대해 구매자를 속이지 않는 한 말입니다. 유럽 연합의 AI 법은 특정 AI 생성 콘텐츠에 대한 투명성 의무를 추가하며, 플랫폼 규칙은 다양합니다. 표지 라벨에 대한 일반적인 요구 사항은 없습니다.
출판사는 AI에 대해 무엇을 공개해야 하나요?
사용되었다는 것을 명확하게, 그리고 더 유용하게는 어떻게 사용되었는지: 누가 작업을 지휘하고 책임지는지, 사실이 어떻게 확인되는지, 연속성과 품질이 어떻게 유지되는지, 그리고 독자가 오류를 어떻게 보고하는지입니다. 이것은 배지보다 독자에게 훨씬 더 많은 것을 알려줍니다.