유튜브는 AI 생성물이더라도 콘텐츠 내용이 커뮤니티 가이드라인을 위반했다면 제재 대상이라는 입장이다. 유튜브는 미성년자를 성적 대상화하거나 선정적인 콘텐츠를 제한하고 있다.

 이를 어길 시 경고 조처를 내리고 90일 이내 경고를 3번 받은 채널은 폐쇄한다는 방침이다. 그러나 여전히 AI 룩북이 성행하는 이유에 대해 유튜브는 별다른 답변을 하지 않았다.

10일 유튜브에 따르면 국내에서 올 1분기에만 동영상 4만4643개를 커뮤니티 가이드라인 위반으로 삭제했다. 이는 지난해 같은 기간보다 66% 많은 수준이다. 개별국가의 동영상 삭제 이유를 공개하진 않았지만, 같은기간 글로벌 기준으론 아동보호가 34.3%로 가장 많았고 △유해하거나 위험한 콘텐츠(20.9%) △폭력적·노골적 콘텐츠(15.6%) △과도한 노출 및 성적인 콘텐츠(10.2%)가 그 뒤를 이었다.

크리에이터의 디지털 윤리를 강화해야 한다는 목소리가 나온다. 더욱이 한국은 인구수 대비 수익을 내는 유튜브 채널이 가장 많은 나라다. 그만큼 수익화를 위한 경쟁도 치열하다.

유튜브 통계분석업체 플레이보드에 따르면 2020년 말 국내에서 광고수익을 내는 유튜브 채널(구독자 1000명·연간 누적시청시간 4000시간 이상)은 9만7934개를 기록했다. 이를 국내 총인구 5178만명으로 나누면 국민 529명당 1개의 유튜브 채널이 수익을 내는 셈이다. 

이는 유튜브 본고장인 미국(666명당 1개)보다도 많은 수치다. 업계에선 코로나19 팬데믹을 거치며 유튜브 열풍이 심화한 점을 고려하면 현재는 숫자가 더 늘었을 것으로 본다.

문제는 대다수가 1인 미디어여서 디지털윤리 의식이 저조하다는 점이다. 방송통신위원회는 ‘크리에이터 디지털 윤리 역량 가이드북’을 배포하며 “1인 미디어가 폭발적으로 증가하면서 폭력·선정적 콘텐츠 문제가 심각한 이슈로 등장하고 있다”면서 “묘사 방식·수준 등 제작 전반이 크리에이터 개인에 맡겨진 데다 선정적인 콘텐츠가 수익 창출에 도움이 되기 때문”이라고 지적했다. 이에 방통위는 올해 불법유해정보 차단 기반 마련 예산을 전년 대비 47% 늘렸다.

생성형 AI가 만든 룩북 으로 유튜버는 얼마를 벌까. 유튜버 분석 플랫폼 블링에 따르면 약 30만명이 구독하는 한 AI 룩북 채널은 최근 한 달간 3000만원 넘게 번 것으로 추정된다. 여성 가상모델이 노출 심한 교복을 입은 영상을 올린 또다른 AI 룩북 채널은 한 달 조회수 추정수익이 약 200만원인데, 외부 크라우드펀딩 플랫폼에서 월 22.5달러(약 3만원)의 유료 멤버십을 운영하고 있어 실제 수입은 더 클 전망이다.