연예인 딥페이크 포함 불법 성영상물 유포 사이트 운영자 구속 

생성형 AI 프로그래밍 방식의 연예인 허위영상물 제작·판매사범 검거

[경찰기독신문 = 김현우 기자] 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 TF’(이하 ‘딥페이크 TF’)는 지난 2023년 6월경부터 2024년 9월경까지 불법 성영상물 유포 사이트를 운영하면서 여성 연예인 13명 포함 딥페이크 등 허위영상물 20개, 아동·청소년성착취물 5개, 불법촬영물 20개, 그 외 음란물 14,481개 등 총 14,526개의 불법 성영상물을 유포한 사이트의 운영자 피의자 A(남, 30대)를 검거하여 10월2일 구속하였고, 금주 내 검찰에 송치할 예정이다.

피의자 A는 국내에 입국하여 활동 중인 중국 국적자로, 자신의 사이트(현재 폐쇄)에 다른 불법(도박 등) 사이트들의 광고를 올려주는 대금을 주 수입원으로 하였으며, 총 운영 수익은 1억 4,000만 원 상당에 이르는 것으로 확인되었다.

딥페이크 TF는 피의자 A 외에도 중국 소재 공범들을 지속 추적하고 있는 한편, 사이트 주요 이용자인 성착취물 등 시청자들에 대해서도 추적할 계획이다.

또한 별건으로 지난 2024년 1월경부터 3월경까지 생성형 AI를 이용해 허위영상물을 제작하는 프로그램을 직접 프로그래밍한 뒤 여성 연예인 72명의 사진을 입력하여 허위영상물 4,313건을 제작하고 해외 구독형 소셜네트워크서비스(SNS)에서 판매한 피의자 B(남, 20대)를 검거하였다.

피의자 B는 텔레그램 봇 등을 사용하는 다른 딥페이크 등 허위영상물 사범들과 달리, 허위영상물을 생성하는 프로그램을 직접 제작하여 허위영상물을 만들었고, 실제 약 383만 원의 수익을 올린 것으로 확인되었다.(현재 판매계정 삭제)

아울러 딥페이크TF는 피의자 B가 제작한 허위영상물을 구매한 후 다른 불법 성영상물 유포 사이트에 재판매한 20~30대 남성 2명을 추가로 검거했고, 피의자 B를 포함한 3명을 불구속 송치할 예정이다.

이외에도 해당 허위영상물을 재판매한 자들을 계속 추적하여 검거할 계획이다.

딥페이크TF는 검거한 허위영상물 사범들에 대해 기소전 몰수·추징보전 절차를 통해 범죄수익금을 환수함으로써, 허위영상물을 비롯한 불법 성영상물이 범죄자의 수익이 될 수 없도록 차단할 계획이다.

서울경찰청은 “불법 합성물 제작 및 유포자들에 대해 허위영상물 집중대응 TF팀을 구성(8. 28.)하여 집중 수사 중”이라면서 “딥페이크뿐만 아니라 사람의 얼굴, 신체를 어떠한 형태로든 성적 수치심이 유발되도록 편집·합성·가공하는 행위에 대해 엄정 대응한다는 방침”이라고 전했다.

아울러 “최근 검거한 사건들을 통해 특히 연예인·인플루언서 등을 대상으로 제작된 허위영상물이 영리 목적으로 불법 콘텐츠 시장에 유통되는 것을 확인하였다”고 말했다.

이어 “이와 같은 영리 목적 사범들을 검거하여 엄중히 처벌하는 것과 동시에 범죄수익금을 전액 추적·환수함으로써 불법 성영상물의 유통을 근절할 수 있도록 노력하겠”고 밝혔다.

김현우 기자 pcnorkr@hanmail.net

<저작권자(c)경찰기독신문. 무단전재-재배포금지.>