AI로 만든 음란물, 처벌 대상이 될까?

“실존 인물도 아닌데 
음란물이라는 이유로 처벌을 받을 수 있다고요?”

AI의 발달로 현실과 허구의 경계가 허물어지면서 이로 인한 부작용도 점점 커지고 있습니다. 대표적인 예로 AI 음란물을 들 수 있는데요. 이러한 AI 음란물도 어떤 대상을 어떻게 표현했느냐에 따라 처벌 여부에 큰 차이가 발생합니다. 소위 딥페이크처럼 실존 인물의 얼굴이나 신체를 합성한 영상이나, 특정인을 쉽게 떠올릴 수 있는 형태로 제작된 경우에는 폭넓게 처벌이 가능하지만, 완전한 가상의 인물이라면 현행법상 처벌이 쉽지 않습니다.  

이렇다 보니 간혹 AI 음란물은 어떠한 행위로도 처벌받지 않는 것으로 오인하는 분들도 계시는데 현실은 그렇지 않습니다. 가상인물을 대상으로 한 음란 영상이라도 유포하면 정보통신망법이나 형법상 처벌이 가능하며 경우에 따라서는 단순 시청이나 소지만으로도 처벌받을 수 있습니다.

가상인물이더라도 유포하면 처벌 대상

AI 음란물의 대상이 완전한 가상인물이라면, 현행법상 단순 제작이나 개인적인 소지·시청만으로 바로 형사처벌을 받는 규정은 마련되어 있지 않습니다. 다만 이렇게 제작한 영상을 인터넷 게시판이나 SNS 등에 게시하거나, 판매·배포하는 방식으로 유포하면 정보통신망 이용촉진 및 정보보호 등에 관한 법률(이하 ‘정보통신망법’) 또는 형법상 음란물 유포 관련 규정에 따라 처벌될 수 있는데요. 이때 규정하고 있는 음란물의 대상은 반드시 실존 인물일 필요는 없기 때문에, 가상인물을 이용한 AI 음란물이라고 하더라도 그 유포 자체로 처벌 대상이 될 수 있습니다.

AI 영상, 아청물이라면 어떨까?

반대로, 대상이 가상인물이라 하더라도 미성년자로 인식될 수 있는 아동·청소년이라면 상황은 완전히 달라집니다. 아동·청소년성착취물(이하 ‘아청물’)은 실제 아동·청소년이 촬영에 참여하지 않았더라도, “아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물”이 성적 행위를 하는 내용이면 처벌 대상에 포함시키고 있습니다.  

따라서 순수한 AI 생성물이어도 그 외형·복장·맥락 등으로 보아 아동·청소년으로 인식되는 가상 인물이 노골적인 성적 행위를 하는 내용이라면, 아청법상 아청물에 해당할 수 있습니다. 이 경우에는 성인 대상 음란물과 달리, 유포·판매뿐 아니라 제작·소지·시청 자체만으로도 중하게 처벌될 수 있고, 형법상 ‘성범죄’ 영역으로 분류됩니다. 그렇다면 각각 어떤 처벌을 받게 될까요?

- 구입·소지·시청 : 1년 이상의 유기징역

- 제작·수입·수출 : 무기 또는 5년 이상의 징역

내가 본 영상이 아청물이라면, 처벌받게 될까?

미성년자를 이용한 성착취물은 실제 피해자가 존재하는 경우는 물론, 가상 아동·청소년을 대상으로 한 경우에도 사회적 유해성이 매우 크다고 보아, 법원은 시청·소지 단계부터 엄격하게 처벌하고 있습니다. 이와 관련해 법원은 두 가지 요소를 반영하여 처벌 여부를 판단합니다.

첫째, 객관적인 시각에서 아청물로 볼 수 있는가

둘째, 이용자가 이를 아청물로 인식했는가

실제 판결을 살펴보면 법원은 인식 여부를 특히 중요한 요소로 고려한다는 것을 알 수 있는데요. 따라서 의도치 않게 우연히 화면에 노출된 정도라면 곧바로 소지·시청으로 보기 어렵고, 아청물임을 몰랐던 사정이 인정된다면 처벌을 면할 여지 또한 존재합니다. 다만 검색·다운로드·저장·반복 시청 등의 정황이 있었다면 실제 사건에서 아청물임을 알고도 이용한 것으로 추정되는 경우가 많아, 재판에서 무죄를 받기는 쉽지 않다는 점을 반드시 염두에 두어야 합니다.

발달하는 AI, 안전한 활용방안은?

AI 기술이 빠르게 발전하는 과도기 속에서, 딥페이크와 가상인물 음란물에 대한 별도 처벌 규정을 신설하려는 입법 논의도 활발히 진행되고 있습니다. 따라서 AI 음란물이라도 단순 호기심이나 재미로 영상을 제작·공유했다가 성범죄 피의자가 될 수 있다는 사실을 반드시 기억해야 합니다. 또한 관련 혐의를 받게 된 경우에는 정확한 사실관계와 법 위반 여부를 따져보기 위해 초기부터 변호사와의 상담을 통해 대응 방안을 마련해야 합니다.

AI 음란물과 관련해 더 궁금한 내용이 있으시다면, 관련 칼럼이나 업무사례를 참고해 주세요.