사진/ NPR (Activists wearing eye masks hold posters reading “Repeated deepfake sex crimes, the state is an accomplice too,” during a protest against sexually abusive deepfakes in Seoul, South Korea, on Aug. 30. Anthony Wallace/AFP via Getty Images)
한국에서 인공지능으로 만든 가짜 성적이미지에 일반인의 얼굴을 합성해 유포하는 딥페이크 범죄가 기승을 부리면서 한국 법집행기관이 사상 처음으로 ‘텔레그램’에 대한 조사에 들어갔다.
한국언론을 통해 인공지능으로 만든 가짜 성적 이미지와 동영상을 유포하는 메신저 앱 텔레그램의 수많은 대화방이 적발되자 한국 경찰이 서둘러 대응에 나섰다는 소식이 전해지면서 미국의 주요 매체들도 한국의 딥페이크 범죄에 대해 조명하기 시작했다.
NPR과 블룸버그는 한국 법집행기관이 처음으로 ‘텔레그램’을 조사하기 시작했다며 텔레그램 창립자 파벨 두로프(Pavel Durov)는 지난 달 플랫폼에서의 불법 활동 혐의로 프랑스에서 체포되어 기소된 사실을 전했다.
텔레그램측은 “한국에서 보고된 서비스 약관 위반 콘텐츠를 적극적으로 삭제해왔으며 앞으로도 그렇게 할 것”이라고 밝혔지만 현재까지 삭제된 성적으로 악용된 딥페이크 게시물은 25건에 불과하다.
노골적으로 성적인 동영상 및 사진에 딥페이크를 적용한 피해자는 대다수가 여성들이며 이중 10대 소녀들이 상당하다. 한국 언론보도에 따르면 가해자들은 소셜미디에서 피해자들의 이미지를 캡쳐하거나 학교에 몰래 여성들의 사진을 찍어 인공지능을 사용해 사진을 변조한다.
이후 텔레그램에서 낯선 사람들이나 피해자를 아는 사람들끼리 딥페이크가 적용된 음란물을 공유하고 있다.
NPR과 블룸버그는 이처럼 한국에서 악용되는 딥페이크 사례를 보도하면서 텔레그램이 “범죄자들이 남용하기 더 쉬운 플랫폼이 됐다”고 지적하고 있다.
최근 한국에서 가짜 이미지와 관련된 디지털 성범죄가 급격히 증가하고 있다. 언론감시단체에 따르면 올해 1월부터 7월까지 성적으로 학대적인 딥페이크 동영상을 처리해 달라는 요청이 거의 6,500건 접수됐다. 이는 지난해 같은 기간보다 4배가 늘어난 수치다.
피해자와 가해자 중 상당수는 청소년으로 경찰이 7개월 동안 기소한 용의자 178명 중 74%가 10세~19세로 2021년 65%보다 증가했다.
NPR은 “한국은 오랫동안 불법 촬영, 노골적인 성적 이미지의 무단 유포, 온라인 그루밍, 성적 협박 등을 포함한 성범죄와 싸워왔다”며 “텔레그램에 만연한 딥페이크의 제작자들은 낯선 사람이 아닌 개인적으로 아는 여성을 표적으로 삼는 경우가 많다”는 서울 소재 한국형사법연구소 장다혜 연구위원의 인터뷰를 실었다.
장다혜 연구위원은 “피해자들은 더이상 주변 사람들과 일상생활을 유지할 수 없을 정도로 두려움에 떨게 된다. 딥페이크 범죄는 본질적으로 사회적 관계에 대한 신뢰를 무너뜨리는 것”이라고 말했다.
NPR은 온라인 딥페이크 성범죄를 저질러도 검거가 쉽지 않다는 점도 지적했다. 한국 경찰 통계에 따르면 지난해 딥페이크 성범죄 가해자 검거율을 48%로 다른 형태의 디지털 성범죄 검거율보다 훨씬 낮았다. 게다가 솜방망이 처벌도 문제다.
딥페이크 범죄를 저질러 재판을 받어라도 절반 이상이 집행유예를 받고 풀려나는데 이는 디지털 성학대를 심각한 범죄로 인식하지 않는 판사들이 여전히 대다수라는 지적도 나온다.
장다혜 연구위원은 NPR 과 인터뷰에서 “많은 경우 판사들은 디지털 성학대가 신체 접촉 등 직접적인 성폭력보다 심각하지 않다고 생각하는 것이 문제”라고 꼬집었다.
안미향 기자 amiangs0210@gmail.com