[AI&윤리⑩] ‘딸깍’ 한 번으로 초고속 출판...품질과 책임의 공백

인공지능(AI) 기술은 정치·경제·사회·문화 전반의 작동 방식을 바꿔놓고 있다. 효율과 편리함을 확장하는 동시에 그에 상응하는 새로운 위험과 윤리적 과제도 함께 드러내고 있다.

따라서 AI 논의의 핵심은 단순한 성능 경쟁이 아니라 올바른 사용과 책임 설계에 있다. 명확한 기준과 통제가 뒷받침되지 않는다면 AI는 효율이라는 이름 아래 불평등과 불신을 심화시킬 수 있다.

투데이신문의 [AI&윤리] 기획연재는 이 지점을 정면으로 다룬다. AI가 사회 곳곳에 남기는 여파와 영향력을 구체적으로 짚고, 책임·공정성·투명성 등 윤리 원칙이 왜 필요한지, 현장에서 어떻게 구현돼야 하는지를 살펴본다.

[사진 출처=게티이미지뱅크]

【투데이신문 전세라 기자】 생성형 인공지능(AI)의 확산으로 콘텐츠 생산 방식은 빠르게 변화하고 있다. 클릭 몇 번으로 책 한 권이 만들어지는 이른바 ‘딸깍책’이라 불리는 생성형 AI 저작물은 윤리적 문제뿐만 아니라 공공 예산이 투입되는 납본 제도와의 충돌 측면에서도 심각한 논란이 되고 있다.

마우스 클릭 몇 번만으로 AI가 텍스트를 생성하고 표지 이미지까지 제작해 완성하는 ‘딸깍책’은 최소한의 인력과 시간으로 대량의 출판물을 만들어내는 방식이다. 프롬프트(명령어) 입력과 복사·붙여넣기라는 단순 반복 작업만으로도 책 한 권이 완성될 수 있다는 점에서 기존 출판 방식과는 근본적으로 다른 특징을 지닌다.

27일 출판업계에 따르면 모 출판사는 AI를 활용해 1년 3개월 만에 총 9175권의 도서를 출간했다. 이를 단순 계산하면 월평균 약 611.7권, 하루 평균 약 20.1권에 해당하는 수치다. 또 다른 사례로는 특정 저자가 4개월 동안 137권을 집필한 것으로 소개되기도 했다. 일반적인 집필과 편집, 교정·교열 과정을 고려하면 이 같은 속도는 기존 출판 관행과는 확연히 다른 양상이다.

[사진 출처=게티이미지뱅크]

‘딸깍책’...품질 저하와 세금 낭비 논란

이러한 ‘딸깍책’이 지닌 치명적인 문제는 품질 저하다. 실제로 AI 번역본으로 알려진 고전 <오디세이아> 판본에서는 전 서사와 어울리지 않는 현대식 유행어가 삽입되고 번역체의 흐름과 어조도 일정하지 않아 검수 부실 논란이 불거졌다.

이에 대해 온라인에서는 “신규 도서 목록에서 저자가 챗GPT로 표기된 책들이 유난히 많아 보였다”며 AI 출판에 대한 규제가 필요하다는 반응이 이어졌다. 일부 네티즌은 “번역료가 부담돼 제대로 된 책을 만들 수 없다면 아예 출간하지 않는 편이 낫다”며 “무분별한 AI 출판은 사업이 아니라 사기에 가깝다”고 비판했다.

또한 이러한 저작물이 공공 출판 시장으로 확산되면서 국민의 세금이 투입되고 있다는 점도 논란이다. 현행 도서관법에 따른 ‘납본 제도’는 국가지식문화유산을 보존하고 후대에 전승하기 위해 국내에서 발행되는 모든 출판물의 일정 부수를 국립중앙도서관 등 지정 기관에 제출하도록 하는 제도다. 출판사는 지식 자산을 국가에 기증하는 대신 도서관으로부터 해당 도서 정가의 일정 금액을 보상받는다.

문제는 일부 출판사가 이 제도를 악용하면서 발생했다. AI를 활용해 단시간에 제작한 도서를 ISBN(국제표준도서번호) 발급 후 납본하고 이에 따른 보상을 받는 방식이 반복될 경우 제도의 취지가 훼손될 수 있다는 지적이 나온다. 이러한 행태는 국가 예산을 잠식할 뿐만 아니라 공공도서관 장서의 질적 수준을 저하시킬 수 있다는 우려도 제기된다.

익명을 요구한 출판계 한 대표는 “현재로서는 기존 제도를 악용한 사례를 막기 위해 출판사별로 발간 현황을 집중 조사하는 방법 외에는 뚜렷한 대안이 없는 상황”이라며 “매달 4000종이 넘는 신간 도서가 쏟아지는 현실을 고려하면, 단속만으로는 한계가 있는 만큼 정책적으로 출판사를 지원할 수 있는 보다 폭넓은 제도적 확충이 필요하다”고 밝혔다.

AI 출판의 명암...창작이 아닌 편집 도구로 사용

하지만 기술 활용을 전면 부정해서는 안 된다는 반대 입장도 존재한다. AI는 창작을 대체하는 것이 아니라 보조하는 도구이며, 이를 통해 정보 접근성을 높이고 출판의 문턱을 낮추는 긍정적 효과가 있다는 주장이다. 특히 자료 조사나 초안 작성 단계에서의 효율성은 무시할 수 없는 기술적 진보로 평가된다.

현재 국내에서 AI 출판을 시도하거나 관련 서비스를 제공하는 곳으로는 ‘북엔드(BOOKEND)’, ‘레페토에이아이(Repeto AI)’ 등 AI 협업 기반 출판 모델이 언급된다. 이들은 비용 절감과 제작 속도 향상을 강조하며 새로운 출판 방식을 제시하고 있다. 다만 업계 내부에서도 무분별한 대량 생산과는 구분해야 한다는 인식이 존재한다.

김웅 레페토에이아이 CTO는 이러한 ‘찍어내기식’ 출판과 선을 그었다. 김 CTO는 “저자의 사상과 오리지널리티가 배제된 채 기계적으로 생성된 결과물에는 부정적”이라며 “인터뷰 정리나 윤문 과정에 AI를 도입해 기존 4~6개월이 걸리던 출판 기간을 4~6주로 단축하면서도 최종 단계에서는 반드시 사람이 직접 검수를 거쳐 품질을 확보한다. AI를 ‘창작 도구’가 아닌 ‘편집 도구’로서 활용하고 있다”고 강조했다.

AI를 창작의 보조 수단으로 활용해 작품의 완성도를 높인 사례도 있다. 올해 초 출간된 황석영 작가의 <할매> 는 소설의 배경이 되는 과거의 풍경이나 특정 세부 묘사를 구체화하는 과정에서 AI의 도움을 받은 것으로 알려졌다. 창작자의 통찰력에 AI의 방대한 데이터가 결합해 작품의 완결성을 높인 사례로 기술이 창의성을 대체하는 것이 아니라 확장할 수 있음을 보여준다.

[사진 출처=게티이미지뱅크]

정부도 제도 정비 착수… 납본 기준 손본다

이에 따라 공공기관과 출판계 전반에서 AI 활용 기준을 보다 명확히 해야 한다는 목소리도 커지고 있다. 이와 관련해 최휘영 문화체육관광부 장관은 지난 4일 국회 문화체육관광위원회 전체회의에서 “창작자의 권익을 보호하면서도 기술 변화에 발맞춘 합리적인 납본 및 보상 체계를 재정비하겠다”는 의지를 밝힌 바 있다.

국립중앙도서관 역시 AI 출판물 급증에 따른 납본 제도 개선을 추진하고 있다. 도서관 측은 ISBN 발급 건수가 비정상적으로 많은 출판사를 중심으로 모니터링을 강화하고 내용 반복이나 품질 문제가 확인된 일부 도서에 대해서는 납본 대상에서 제외하는 조치를 시행했다. 또한 앞으로는 AI 출판물 관련 기준과 지침을 보완하고 제도 개선을 위한 연구도 병행할 계획이라고 밝혔다.

박형빈 서울교육대학교 신경윤리·가치AI융합교육연구소 소장은 AI 사용 자체보다 이를 둘러싼 책임과 검증의 부재를 지적했다. 박 소장은 “딸깍책의 문제는 AI 사용 그 자체가 아니라 ‘무검증·무표시·무책임’에 있다”며 “AI 사용 여부와 범위, 저자의 실제 기여를 투명하게 밝히고 반드시 사람의 검증을 1차적으로라도 거쳐야 한다”고 말했다.

이어 “오류가 발생했을 때에도 이를 AI 탓으로 돌리지 않고 최종 책임은 저자와 출판사가 있다는 것을 명심해야 한다”며 “누가 무엇을 어떻게 만들었고 무엇에 책임지는지를 명확히 드러내는 것이 AI 시대 콘텐츠 윤리의 최소 기준”이라고 강조했다.

생성형 AI는 출판의 패러다임을 바꾸는 거대한 변화의 흐름이다. 누구나 작가가 될 수 있는 ‘출판 민주화’의 기회가 될지 아니면 공공 예산을 낭비하고 지식의 가치를 훼손하는 문제로 이어질지는 이를 활용하는 방식과 제도적 기준에 달려 있다. 출판물이 단순한 데이터의 나열을 넘어 ‘책’으로서의 책임과 신뢰를 갖추고 있는지에 대한 사회적 점검이 요구된다.