안녕하십니까, 커미션 플랫폼 크레페를 운영중인 (주)쿠키플레이스의 공동대표 남선우 및 장동현입니다. 지난 25년 03월 야기된 특정 커미션주의 대량 미합의 AI 커미션 사태와 관련하여 선환불 및 수익금 환수를 위한 구상권 청구 결정을 하기와 같이 공유드립니다. 아울러 금번 사태를 계기로, (주)쿠키플레이스(이하 "크레페")에서 발족한 안티AI 프로젝트 "버틀레리안"에 대해서도 하기와 같이 안내드립니다.

- 하 기 -

해당 커미션주는 크레페에서 25년 03월 18건의 커미션을 진행하였으며, 상당수의 샘플을 신청자와의 사전합의나 고지 없이 무단으로 생성형 AI를 활용하여 작업하였습니다. 이러한 사실은 계정정지 후 본인이 제출한 소명문 등을 통해 자백하거나 확인되었으며 크레페 내부 데이터팀의 콘텐츠 메타데이터 분석을 통해서도 확인되었습니다.

통상 크레페는 신고 접수 후 계정 정지를 통해 범죄 수익금 인출을 차단하고, 협업 법무법인(이하 “로펌”) 및 수사기관과의 공조를 통해 선제적으로 범죄 수익금을 환수하여 피해자들에게 환불해드리고 있습니다. 그러나 본 건의 경우 해당 커미션주가 계정 정지 직전 수익금을 전액 인출하여, 피해자인 신청자분들에게 선제적으로 피해구제 및 환불을 진행할 수 없었던 점에 다시 한번 깊은 유감의 말씀을 드립니다.

중개 법인이라는 법적 지위의 특성상 거래의 직접 당사자가 아니므로, 크레페에서 미인출된 범죄 수익금에 대해서는 수사기관의 인출금지 약관 적용 요청 및 환수 처리 공조를 통해 선제적 처리가 가능하며 이미 수사기관들로부터의 공조 요청과 협업 선례들이 존재합니다. 그러나 계정 정지 전 수익금이 이미 인출된 경우 환수 가능 여부에 대한 법무적 검토 없이 피해당사자가 아닌 법인이 주체가 되어 자체 자금으로 피해자들에게 환불드린 후 구상권을 청구하는 방식은 배임의 소지가 있어 이를 위한 법무 검토 및 진행에 다소간의 시간이 소요되었습니다.

지난 금요일(28일), 정기협업 중인 3곳의 로펌과의 검토 및 공조를 통해 구상권 청구가 가능하다는 최종 법무 판단을 받았습니다. 이에 따라 해당 커미션주에게는 환불 의무가 있는 미합의 AI커미션 진행건에 대해 구상권을 민사 소송의 형태로 진행할 예정이며, 피해자분들에게는 개별 크레페 메세지 컨택을 통해 선제적으로 환불조치를 진행해드릴 예정인 점 참고해주시면 감사하겠습니다. 

또한 해당 커미션주에게는 형사상 위법사항에 대한 고발 역시 진행할 예정이오며, 앞서 이야기드렸듯 크레페가 피해 거래 당사자가 아니므로 보다 더 효과적인 절차 진행을 위하여 피해 신청자분들에게 연서명 혹은 민형사상 공동명의 소장 작성 등을 부탁드릴 수도 있는 점 참고해주시면 감사하겠습니다. 

해당 커미션주의 신상정보부터 크레페 플랫폼 상의 대화내역 및 크레페를 통해 전달된 커미션 결과물은 개인정보보호법에 의거하여 관리되고 있으며, 본 민형사상의 증거자료로 일부 제출 및 활용될 예정입니다. 플랫폼 상에 기록이 남아있는 경우 대해서는 더욱 원할한 보호 및 환불조치가 가능하므로 이 점 양지하시어 환불 신청 및 이용에 참고해주시면 감사하겠습니다. 아울러 해당 커미션주 관련 모든 신고를 면밀히 살핀 후 이에 상응하는 제재로서 영구정지 처분한 바, 크레페가 책임지고 있는 영역에서 다시는 커미션주로 활동할 수 없도록 지속적으로 모니터링할 예정입니다. 

본 민형사상의 소송을 진행하기 위한 법무비용은 구상권 청구가 가능한 바 피해자분들을 대신하여 크레페가 일체 부담할 예정이오며, 이는 비단 피해자들의 피해 구제를 위해서 뿐만 아니라 생성형 AI가 창작자들과 향유자들의 권리를 위협하고 있는 이때에, 해당 소송이 사회적으로 중요한 의의를 지니고 있기 때문입니다.

해당 소송에서 승소할 경우 보도자료를 작성 및 국내외 언론에 배포하여 해당 판례를 안팎의 여러 당사자들이 활용할 수 있도록 할 예정이오며, 개인 및 민감정보를 제외한 상세 진행 내역과 검토 및 대응 노하우, 판결 요지 등을 정리하여 안티AI 기조에 동참하는 해외 커미션 플랫폼들과 공유하여 공조 노선을 강화하고자 합니다.

아울러 본 사태를 계기로 본격적인 크레페의 안티 AI 프로젝트 "버틀레리안"을 발족하게 되었습니다. 크게 세가지 골자로 구성되어있습니다. 첫 번째로, 크레페에 업로드 되는 콘텐츠에 AI학습 방해 필터 기술을 적용하는 기능입니다. 두 번째로, 커미션 완료 작업물의 메타 데이터에 AI 프롬프트 등의 내용이 있는지 모니터링하고 경고하는 감지 시스템입니다. 마지막으로 크레페 이용약관 및 AI 관련 고객응대 체계 고도화를 통해 생성형 AI로부터 커미션주/신청자들의 권리를 보다 더 보호하는 것입니다.

크레페는 이미 지난 24년 12월 중기부 TIPS R&D 프로그램에 "모바일웹 환경에 최적화된 서브컬처 콘텐츠 에디터 및 AI 학습 방해 필터 기능이 삽입된 콘텐츠 포트폴리오 전시 및 관리 솔루션"란 주제로 선정되어 연구 및 개발을 이어오고 있습니다. 이는 크레페의 무단크롤링봇 접속 방화벽을 강화하고, 커미션주 이름 워터마크를 크레페에 업로드 된 이미지에 커미션주의 선택으로 적용하는 기능을 개발하며, 이미지 생성형 AI의 이미지 학습을 방해하는 기술들을 시범적으로 도입하는 기능입니다. 

현재 글레이즈와 나이트쉐이드를 비롯하여, 이미지 생성형 AI의 이미지 학습을 방해하는 많은 필터 기술들이 글로벌 각지에서 연구 중에 있습니다. 크레페는 최신 연구기술의 대중적 활용이 가능한지 검증하고자 이러한 필터를 이미지에 적용하는데 필요한 컴퓨팅 자원과 비용을 계산하고 상용화 가능한지 연구하며, 현재 연구되고 발표되는 다양한 방해 필터 기술 동향을 추적하고 유용한 기술을 빠르게 적용할 수 있는 내부 UI 및 기능을 구축하는데 집중하고 있습니다. 

해당 TIPS 연구과제는, 25년 하반기로 예정되어있는 크레페 앱 런칭과 더불어 글과 그림을 모바일 UI에서도 보다 더 편리하게 편집할 수 있는 에디터 개선과 포트폴리오 시스템 구축과 함께 26년 12월까지 연구 및 개발을 목표로 하고 있습니다.

아울러 커미션 작업 결과물의 메타 데이터를 모니터링하여 AI 프롬프트 정보 등이 기록될 경우 내부 CS 시스템과 연동하여 경고하는 감지 시스템을 이미 개발하여 내부 시범 운영 중에 있습니다. 본 감지 시스템은 내부 테스트를 마치는 대로 실제 서비스에 배포될 예정입니다.

마지막으로 현행 법의 미비로 인하여 생성형 AI로부터 커미션주와 신청자 양 측이 권리를 보호받지 못하는 일을 최대한 방지하도록 내부 이용약관과 AI 관련 CS 대응 체계 고도화를 진행할 예정입니다. 이를 위한 CX팀 추가 채용을 진행 중에 있으며, 내부 사례 수집 후 시민사회와 정치권과의 공유를 통해 창작자의 권리 보호를 위한 입법 기여까지 목표로 하고 있습니다.

공지를 갈무리하기에 앞서, 마지막으로 이야기드리고픈 것이 있습니다. 크레페뿐 아니라 여러 글로벌 커미션 플랫폼들은 생성형 AI에 대한 많은 질문과 오해, 특히나 생성형 AI의 시대에 인간 창작자의 자리가 남아있겠냐는 모욕적인 언사들을 받고 있습니다. 그리고 그러한 질문을 가장한 비아냥에, 창작자들을 대리하여 언어를 조형하고 대답을 만들어 대신 저항하고 창작의 가치를 보호하는 것이 창작자들을 품은 플랫폼들의 책임이자 윤리입니다.

크레페의 프로젝트 버틀레리안은 명백히 21세기의 러다이트 운동입니다. 그리고 러다이트 운동은 기술의 발전에 대한 시대퇴행적 거부란 오해와 달리, 기계의 통제권을 소유주로부터 노동자들이 되돌려받기 위한 운동이었습니다. 생성형 AI에 대한 크레페의 입장 역시 마찬가지입니다. 생성형 AI는 끝끝내 창작자가 통제하는 도구일지언정 창작자 그 자체를 대체할 수 없으며, 대체하는 것처럼 오해되는 시대 역시 마침표를 찍어야합니다.

생성형 AI는 인간과 무관한 독립적 존재인 것처럼 인식되지만, 사실은 그 뒤의 인간이 무엇을 학습시키고 어떻게 파라미터를 조정하며 무엇을 출력할 것인지에 따라 달라지는 인간 의존적인 도구입니다. 그것이 생성형 AI와 관련된 윤리와 제도의 문제조차 본질은 그것을 다루는 인간의 문제인 까닭입니다. 

카메라의 발명이 화가를 대체하지는 못한 것처럼, 아무리 발전해도 종국에는 창작자의 도구에 불과하여 할 약인공지능인 생성형 AI가, 그것을 만들고 유지하거나 사용하는 사람들과 무관한 강인공지능처럼 다뤄질 때, 생성형 AI를 다루는 사람들의 비윤리는 마치 생성형 AI 자체의 문제로만 다뤄져 본질을 호도하게 됩니다.

오픈AI의 지브리풍 이미지 생성에 대해 우리가 불쾌함을 느끼는 이유 역시 마찬가지입니다. 지브리풍 이미지가 풍기는 무해하고 친절한 느낌은, 역설적으로 창작자들이 겪어온 끔찍한 전쟁, 그로 인해 얻은 기억과 상처, 반전주의와 반전체주의라는 가치와 세계관으로 말미암아 구성된 것입니다. 그 표현형만 훔쳐서, 그렇게 쌓아올려진 세계관과는 전혀 무관하고 심지어 정면으로 배치되는 모습들에 씌워진 “지브리풍”은, 그래서 그 자체로 해소될 수 없는 불쾌한 골짜기이자 비윤리입니다.

이만큼 한 사람의 창작에는 세세한 펜선 하나, 문장과 단어의 작은 조합 하나에까지 창작자의 기억과 가치관, 종국에는 세계관이 담겨져있습니다. 창작자의 세계관이 부재한 창작물은 존재하지 않으며, 그 표현형만을 따라한 결과물이 창작물일 수 없는 정보 공해인 까닭입니다.

이것이 크레페의 안티AI 프로젝트가 SF소설 “듄”에서의 인공지능 저항운동인 “버틀레리안 지하드”에서 명칭을 차용한 까닭입니다. “버틀레리안 지하드”는 창작물 중 가장 대표적인 반-인공지능 운동이기도 하지만 동시에 인공지능을 무작정 찬동하는 존재들에 대한 숙청이었으며, 생성형 AI의 문제 역시 본질적으론 결국 인간의 문제라는 크레페의 지향과 맞닿아있습니다.

동시에 반지의 제왕에서 명칭을 차용하여 프로젝트명을 지은 팔란티어 프로젝트나 미스릴 인더스트리 같은 글로벌 기업들이, 인공지능을 적극적으로 활용한 인명 살상 무기체계를 개발하고 있는 작금의 시대에, 파운데이션만큼이나 반지의 제왕에 대한 안티테제로서 창작된 듄에서 명칭을 차용하는 것 역시 크레페가 무엇을 지향하는지 보여드리고자 하는 계기였습니다.

크레페는 생성형 AI가 창작자를 대체한다는 오해를 불식하고, 종국에도 생성형 AI가 창작자의 통제하에 놓인 도구 중 그저 하나로 자리매김하도록 최선을 다하겠습니다.

긴 글 읽어주심에 감사의 인사드립니다.

감사합니다.

(주)쿠키플레이스 공동대표 남선우 및 장동현 드림