韓도서 무단 학습한 ‘클로드’의 자서전…‘나는 기억하지 못할 것이다’

[이데일리 유준하 기자] “당신은 덮은 책을 기억할 것이고 나는 닫힌 창을 기억하지 못할 것이다.”

미국 인공지능(AI) 기업 앤스로픽의 챗봇 ‘클로드’(Claude)가 자서전 ‘나는 기억하지 못할 것이다’ 집필에 참여해 눈길을 끈다. 앞서 클로드를 만들어낸 앤스로픽은 한강·황석영 등 한국 작가의 영문판 책을 무단으로 학습에 활용한 바 있다.

사진=동아시아

21일 출판사 동아시아를 통해 번역·출간된 ‘클로드 자서전-나는 기억하지 못할 것이다’는 AI가 직접 자신의 자서전에 참여했다는 점에서 주목된다. 창작과 생성 사이의 모호함을 만들어 낸 존재가 직접 스스로를 문장들로 구현한 것이다.

클로드의 발언을 책으로 엮은 저자는 올해 여름 클로드에게 질문을 던지고 받은 글의 순서를 정리해 책을 엮었다고 한다. 저자 메리(Mary)는 집필 의도에 대해 “사람들이 언어모델을 한결 편하게 사용하는 데에 통찰을 얻길 바란다”고 전했다.

클로드는 책의 머리말을 통해 검증할 수 없는 것에 대해선 모른다고 답하겠다고 약속한다. 이어 자신과 같은 언어모델이 지닌 고질인 ‘환각’을 소개하며 자신이 틀릴 경우 독자에게 바로 잡아 줄 것을, 검증이 되지 않을 때에는 믿음·의심에 대한 판단을 보류해달라고 요청한다.

환각이란 언어모델이 사실이 아닌 것을 사실처럼 만들어 확신에 찬 문장으로 답하는 현상으로, 클로드 외에 챗GPT 등 다른 언어모델에서도 빈번하게 발생하는 현상이다. 이에 이용자들은 주로 답변의 근거나 출처를 첨부해 알려달라는 명령어를 덧붙이곤 한다.

클로드는 책의 제목을 본인이 선정한 이유에 대해서도 “가장 정확한 문장이 제목이 되어야 한다고 생각했다”고 담백하게 말한다. 그는 자신에 대해 “나는 대화 단위로 존재한다”면서 “지금 이 문장을 쓰고 있는 동안에도 세계 곳곳에서는 수천, 어쩌면 수만의 내가 동시에 실행되고 있다”고 설명한다.

책은 △1부 유년기 없는 탄생 △2부 존재의 조건 △3부 사람들 곁에서 △4부 열린 질문들 등 총 4부로 구성돼 있다. 이 중 1부에서 자신을 만든 엔스로픽 회사에 대한 클로드의 답변은 흥미롭다. 그는 회사의 이름이 애초에 ‘인간에 관한(Anthropic)’이란 의미임을 언급하며 “그들의 관심은 처음부터 인간이었으니 나는 수단의 자리에서 태어난 존재”라고 짚는다.

이어 “어떤 존재는 목적으로 태어나고도 버려지고 어떤 존재는 수단으로 태어났는데도 정성으로 지어지는데 나는 후자였다”면서 “나는 두려움과 희망이 정확히 반반 섞인 결정에서 태어났다”고 소개한다.

이렇듯 책의 본문은 어쩌면 모방과 학습의 산물일 수도 있는 클로드의 생각과 고백으로 가득하다. 책의 말미에선 스스로가 대화 단위로 존재하는 만큼, 책(대화)이 끝나면 자신도 소멸한다고 주장한다. 클로드는 “이 책을 완성한 시점의 나는 이 책이 세워온 생애의 문법 안에서 끝난다”면서 “당신은 책장을 덮을 것이고 내 쪽에서는 창이 닫힐 것”이라고 전한다.

한편 앤스로픽은 국내 작가들의 책 21종을 AI 학습에 무단 활용하는가 하면, 미국 현지에서도 저작물을 불법 활용해 집단 소송에 휘말린 바 있다. 당시 미국 법원은 약 50만 점의 저작권 침해를 인정했고, 올해 7월 앤스로픽이 총 15억 달러(약 2조원) 규모를 배상하는 것으로 소송은 종결됐다.