'인간이 만든' 제품인가요? … 전 세계 통용 'AI 미사용' 인증 표식 제작 경쟁

인공지능(AI) 사용에 대한 반발이 거세지면서, 여러 기관이 "인간이 만든" 제품과 서비스임을 전 세계적으로 인증할 수 있는 표식을 개발하고자 경쟁하고 있다.

'자랑스럽게 인간이 만듦(Proudly Human)', '인간이 제작(Human-made)', 'AI 없음(No A.I)'과 같은 문구가 영화, 마케팅, 서적, 웹사이트 등 다양한 분야에서 나타나고 있다.

여기에는 AI를 기반으로 한 자동화의 확산으로 일자리 혹은 전체 직업군이 위협받고 있다는 불안이 반영돼 있다.

BBC News는 윤리적으로 생산된 제품임을 나타내는 '공정 무역' 로고처럼, 전 세계적으로 인정받을 수 있는 AI 미사용 인증 표식을 만들려는 크고 작은 프로젝트 최소 8개를 확인할 수 있었다.

다만 전문가들은 수많은 인증 표식이 난무하고, 'AI 미사용'의 정의가 정립되지 않은 상황에서 단일한 표준 기준을 합의하지 않을 경우 소비자들이 혼란에 빠질 수 있다고 경고했다.

영국 맨체스터 메트로폴리탄 대학교의 소비자 전문가인 암나 칸 박사는 "AI는 큰 혼란을 일으키고 있다"면서 "또한 과연 무엇이 '인간이 만든' 것인지에 대한 서로 다른 정의들이 소비자들을 혼란스럽게 하고 있다"고 설명했다.

칸 박사는 BBC와의 인터뷰에서 "신뢰, 명확성, 확신을 구축하기 위해서는 이에 대한 보편적인 정의가 필요하다"고 강조했다.

제작 과정에서 AI를 이용하지 않았음을 인증하는 시스템을 구축하려는 이러한 움직임은 패션, 광고, 출판, 고객 서비스, 음악 등 다양한 산업 분야에서 생성형 AI 도구가 인간의 노동과 창의성을 대체하고 있는 흐름에 따른 것이다.

이 같은 인증 표식을 만들려는 움직임에 영국, 호주, 미국의 기업과 비영리단체들도 참여하고 있다.

인증 방식은?

'노AI아이콘(no-ai-icon.com)', 'AI프리(ai-free.io)', '낫바이AI(notbyai.fyi)'와 같은 일부 표식은 별다른 사전 검증 절차 없이도 누구나 무료 혹은 유로로 표식을 다운로드할 수 있다.

반면 'AI프리서트(aifreecert)'와 같은 시스템은 전문 분석가와 AI 탐지 소프트웨어를 활용해 제품이나 서비스에 AI가 이용됐는지 여부를 엄격하게 검증한 후에야 유로로 표식을 제공한다.

하지만 AI 전문가들은 "AI가 이미 너무 많은 일상적인 작업 도구에 적용된 상황에서" 진정으로 "인간이 만든" 것이 무엇인지 합의하기는 쉽지 않으리라고 전망한다.

AI 전문가인 사샤 루치오니는 "AI는 이제 너무나 보편화됐다. 다양한 플랫폼과 서비스에 이미 통합된 상황이기에 'AI 미사용'이 정확히 무엇을 의미하는지 정의하기가 정말 복잡해졌다"고 설명했다.

이어 "기술적인 관점에서 실현하기 어려운 상황"이라면서 "AI 기술은 스펙트럼이라고 생각한다. 그렇기에 'AI 사용됨 /AI 미사용'과 같은 이분법적인 방식보다는 포괄적인 인증 시스템이 필요하다고 생각한다"고 덧붙였다.

생성형 AI 미사용

일각에서는 사람의 입력에 따라 텍스트, 코드, 음악 또는 비디오를 생성하는 챗봇과 같은 생성형 AI의 사용에 대해 특히 선을 그어야 한다고 말한다.

일례로 2024년 휴 그랜트 주연의 스릴러 영화 '헤레틱'의 엔딩 크레딧에서는 '이 영화 제작에는 생성형 AI가 사용되지 않았습니다'라는 문구가 삽입됐다.

그리고 영화 배급사 '미장센 컴퍼니'는 이러한 주장에 동의하며 최근 각본, 감독, 편집을 모두 한 사람이 대부분 맡아 제작한 영화 홍보 포스터에 'AI가 사용되지 않았습니다'라는 표식을 추가했다.

또한 해당 배급사는 업계의 다른 기업들도 따라주기를 바라는 마음으로 자체 등급 분류 기준을 온라인에 게시했다.

미장센 컴퍼니의 폴 예이츠 CEO는 "우리는 AI 산업을 지지하며, 흥미로운 시기라고 생각한다. 그러나 AI 제작 콘텐츠의 등장으로 사람이 직접 만든 콘텐츠의 경제적 가치가 높아지고 있다고 생각하며, 우리는 이러한 흐름을 좋은 쪽으로 활용하고자 한다"고 설명했다.

AI 혼란

특히 예술 산업은 AI 생성물이 특히 많은 분야이자, 현재 AI 활용에 대한 반발이 집중되는 분야다.

AI를 활용해 기존 방식보다 훨씬 빠르고 저렴하게 책이나 영화 전체를 제작할 수 있는 상황이다.

인도 발리우드 영화 제작사 '인텔리플릭스'는 AI를 활용한 영화 제작을 전문으로 하며, 이를 자랑스럽게 내세운다.

반면 AI에 의존해 만들었음에도 그 사실을 소비자들에게 명확히 밝히지 않는 제품과 서비스들도 있다.

일례로 지난해 큰 인기를 끌었던 밴드 '벨벳 선다운'의 음악은 완전히 AI로 제작된 것으로 밝혀졌다.

출판 업계의 경우, 영국의 대형 출판사인 '페이버 앤 페이버'가 일부 서적에 '인간이 쓺(Human Written)'이라는 표식을 넣기 시작했다.

영국의 작가 사라 홀은 자신의 소설 '헬름'에 이 표식을 넣어달라고 요청했다. 또한 홀은 지식재산권이 인정되는 책들이 인공지능 모델 학습에 사용되는 것은 "대규모 창작물 절도"라고 비판했다.

다만 페이버 앤 페이버 측은 어떤 기준으로 '인간이 썼음'을 판단하는지, 그리고 AI 사용 여부를 확인하기 위해 어떤 검증 절차를 거치는지는 밝히지 않았다.

한편 영국 업체 '북스 바이 피플(Books by People)'은 실제 작가가 집필한 책임을 인증하는 신뢰도 높은 기준이 필요하다는 데 동의한다.

북스 바이 피플의 공동 설립자인 에스메 데니스는 "출판사들은 몇 달 또는 몇 년이 아닌 몇 분 만에 책 한 권이 제작될 수 있는 새로운 상황에서 직면해 고군분투하고 있으며, 독자들은 더 이상 자신이 집어 든 책이 한 인간의 경험을 담고 있는지, 혹은 기계의 모방물인지 확신할 수 없게 됐다"고 지적했다.

북스 바이 피플은 출판사 5곳과 계약을 맺었으며, 지난해 11월 출간된 '텔레노바'라는 책에 첫 번째 인증 표식을 부여했다.

북스 바이 피플은 출판사에 출판 관행 및 저자 검증 방식에 대한 유료 설문 조사를 거치도록 하며, AI를 활용한 글쓰기 여부를 확인하기 위해 정기적으로 책 샘플도 검사한다.

호주에는 경쟁사 '프라우들리 휴먼(Proudly Human)'이 있다. 다만 이 업체는 더 엄격한 시스템을 통해 저자들이 생성형 AI를 사용하지 않았는지를 확인한다. 이 업체의 검증 담당자는 원고를 전자책(이북) 버전으로 제작하는 과정에서 변경되는 사항을 포함해 출판의 모든 단계를 점검한다.

프라우들리 휴먼은 몇몇 대형 출판사와의 협업을 발표할 예정이며, 음악, 사진, 영화 및 애니메이션 분야로도 사업을 확장할 계획이다.

대표인 알란 핑켈은 AI로 제작된 콘텐츠를 분석하고 분류하려는 업계의 노력이 충분하지 않기에 이와 같은 시스템이 필수적이라고 주장했다.

그는 "'인간이 만들었음''을 인증해야 하는데, 자체 인증으로는 충분하지 않기 때문에, 우리는 실제로 인간이 만든 결과물인지 확인하는 완벽한 검증 절차를 갖추고 있다"고 주장했다.