콘텐츠 홍수의 역설… '휴먼메이드' 표식 등장
'Not by AI' 'AI-Free' 등
영화·출판·미술계 표기 확산
어떻게 만들고,수정했는지
메타데이터로 정보 확인하고
인간 전문가가 직접 판별도
"인간이 직접 취재하고 검증한
레거시 미디어 수요 커질 것"
미 여군 인플루언서 제시카 포스터(맨 왼쪽)가 자신의 X에 게시한 트럼프 미국 대통령,축구선수 메시와의 사진. 그러나 해당 이미지뿐만 아니라 포스터 본인도 실제 존재하지 않는 AI 생성물인 것으로 드러났다. X
# 최근 뉴욕타임스가 인터뷰한 작가 코럴 하트는 8개월간 무려 200편이 넘는 로맨스 소설을 출간했다. 그의 작품은 지금까지 총 5만부가 팔리며 흥행작으로 떠올랐다. 비결은 앤스로픽의 생성형 인공지능(AI) '클로드'였다. 내용에 대한 전반적인 개요와 상황을 채팅창에 입력한 뒤 소설 한 권이 완성되기까지 걸린 시간은 고작 45분에 불과했다. 다만 AI를 사용한 사실이 알려지면 반발이 심할 것을 우려해 21개에 달하는 필명으로만 책을 발간해 아직까지도 그가 쓴 소설이 정확히 무엇인지 밝혀지지 않았다.
# 자신을 미 여군이라고 주장하는 인플루언서 제시카 포스터의 사회관계망서비스(SNS)에는 도널드 트럼프 미국 대통령,축구 스타 리오넬 메시와 함께 찍은 셀카를 포함해 실제라고 믿기 힘든 이미지가 다수 게재돼 있다. 그러나 실제로는 해당 이미지뿐만 아니라 포스터란 인물 자체도 실존하지 않는 AI 생성물인 것으로 드러났다.
생성형 AI를 활용한 콘텐츠 제작이 빠르게 확산되면서 이에 대한 반감도 커지자 역설적으로 'AI를 쓰지 않았다'란 사실을 강조하는 'AI 프리'(Free·미사용) 인증과 함께 AI가 만든 창작물을 가려내는 기술이 주목받고 있다. AI를 활용해 빠르게 대량 생산되는 저질 콘텐츠인 'AI 슬롭'이 만연해 이용자들의 피로감이 커지는 상황에서 사람이 만들었느냐가 새로운 신뢰 기준으로 부상했다.
범람하는 AI 콘텐츠는 업무 환경까지 파괴하고 있다. 하버드비즈니스리뷰(HBR) 조사에서 응답자 중 40%는 최근 한 달간 AI가 생성한 저품질 문서와 프레젠테이션인 '워크슬롭(workslop)'에 노출된 경험이 있다고 답했다. 한때 AI를 썼다는 사실만으로 생산성과 혁신의 상징으로 인식되며 실제 사람이 만든 결과물도 AI가 생성했다고 속여 마케팅에 사용하는 'AI 워싱(Washing)'이 유행했던 것과 비교하면 상황이 180도 바뀌었다.
애덤 모세리 인스타그램 최고경영자(CEO)는 "AI 기술이 더 발전해 전문가가 만든 콘텐츠와 구별하기 어려워질수록 가짜를 솎아내는 것보다 진짜를 식별하는 게 더 실용적일 것"이라고 말했다.
BBC 등에 따르면 현재 미국과 영국·호주 등에서는 'AI-Free' 'Human-Made' 'Not by AI' 같은 문구와 로고를 붙여 인간 창작물임을 강조하는 서비스가 잇달아 등장하고 있다. 다만 아직까지는 정부가 공인하는 식의 권위를 갖추진 못했다. '메이드 바이 휴먼(Made by Human)'은 누구나 해당 사이트에서 배지를 내려받아 자유롭게 붙이는 '자율 선언'에 가깝게 운영된다. 'No-AI-Icon'은 스케치 등 초안을 인간 심사관이 육안으로 살피고 AI 탐지 도구를 활용해 AI 사용 여부를 확인한다.
AI 기술의 창조자인 빅테크들은 좀 더 기술적인 해법을 내놨다. 오픈AI와 메타 등이 참여하고 있는 개방형 표준 C2PA 기반 '콘텐츠 자격 정보'가 그것이다.
동영상과 오디오를 생성하거나 편집할 때 눈에 보이지 않는 메타데이터를 첨부해 해당 콘텐츠가 언제,어떻게 제작됐는지 또는 수정됐는지에 대한 세부 정보를 기록하는 방식이다.
문제는 AI를 가려내려는 이런 시도에 아직 맹점이 많다는 것이다. 순전히 제작자 본인의 선의에만 기대는 인증의 경우 이를 악용하는 사례가 생기면 막기 힘든 것이 대표적이다. 기술 뉴스 웹사이트 더버지는 "다수의 인간 제작 인증 서비스가 초안,스케치,작업 과정 자료,작성 흔적 등을 사람이 직접 검토하는 방식에 기대고 있다"며 "범용 인증 체계로 확장하기에는 부족하다"고 지적했다.
기술적인 해법에도 허점이 존재한다. C2PA 인증은 업로더가 메타데이터를 삭제하거나 출처를 공개하지 않으면 AI 생성 라벨을 피해 갈 수 있는데,이런 콘텐츠는 콘텐츠 사용자가 브라우저 확장 프로그램 등을 써서 손수 AI 사용 여부를 알아봐야만 한다.
이 때문에 오픈AI는 메타데이터에 대해 "(출처를 확인하는 데에는) 만능 해결책이 아니며 우연이든 의도적으로든 쉽게 제거될 수 있다"고 설명한다. 이 때문에 정보기술(IT) 업계에서는 인간 창작의 정의는 무엇이고,AI 보조 도구 사용을 어디까지 허용할 것인지,AI 사용 여부를 소비자에게 어느 수준까지 공개해야 하는지에 대한 국제 기준을 마련할 필요가 있다고 입을 모은다.
한편 역설적으로 지금이 '레거시 미디어'로 대표되는 전통적인 콘텐츠가 더 주목받을 수 있는 기회라는 분석도 나온다.
로이터 연구소가 51개국 미디어 리더 280명을 설문한 결과,절반 이상(52%)이 AI 슬롭과 딥페이크 범람이 오히려 인간이 검증한 고품질 콘텐츠의 가치를 높일 기회라고 답했다. 에드워드 루셀 더타임스 디지털 총괄은 "AI가 확산될수록 인간이 직접 취재·검증한 저널리즘 수요는 커진다"고 강조했다.
[김태성 기자]