2024년 텔레그램 딥페이크 음란물 유포 사건

2024년 텔레그램 딥페이크 음란물 유포 사건

발생 일자	2020년 ~ 현재
발생 국가	대한민국
발생 지점	전국 100여개 이상의 교육기관, 군 부대 및 텔레그램
관련 법률	협박 (형법 제283조)
	아동ㆍ청소년성착취물의 제작ㆍ배포 등 (청소년성보호법 제11조)
	통신매체를 이용한 음란행위 (성폭력처벌법 제13조)
	허위영상물 등의 반포등 (성폭력처벌법 제14조의2)
피해자	조사 중

개요

2024년, 텔레그램에 개설된 단체 채팅방을 통해 일반인 여성을 대상으로한 불법 딥페이크 음란물이 유포되는 디지털 성범죄 행위가 발생하였던 사실이 동시다발적으로 발견된 사건이다.

유형

주로 가해자들은 인스타그램, 네이버 블로그, 페이스북 등의 게시물에서 셀카를 여러 장을 무단으로 수집해 AI에게 학습시켜 기존 음란물에 얼굴만 갈아 끼우는 식으로 합성하는 것으로 추정되며 이는 셀카가 불특정 다수가 볼 수 있는 곳에 업로드하면 누군가는 그 사진을 가져가 딥페이크 음란물을 만들어 텔레그램에 유포하는 식으로 보여진다. 중·고등학생 또한 범죄의 표적이 된 것으로 추정되며 겹지인방이라는 텔레그램 채널을 통해 지역이나 학교 등 범위를 제한하여, 일반인의 신상을 특정하고 이렇게 특정된 신상에 대해 미디어 사료를 수집하여 딥페이크를 제작하는 방식으로 추정된다.

전개

2024년 8월 19일 MBC 뉴스데스크가 단독으로 보도하면서 이슈가 시작되었다. 보도 내용은 인하대 졸업생 유 씨가 자신의 얼굴이 텔레그램 방에서 개인정보와 함께 딥페이크로 합성된 음란물이 유포되고 있다는 인스타그램 DM을 받았고, 음란물 중 딥페이크 사진 등도 있었으며 음성 파일도 포함되어 있었다는 것이다. 그리고 해당 방 안에 있는 음란물을 이모티콘화시켜 조리돌림하였으며 유 씨가 이 채팅방의 존재를 알아내자 방 참가자들끼리 직접 유 씨의 인스타그램 등으로 조롱이 섞인 DM을 보냈고, 연락을 받지 않자 가해자들은 DM을 통해 “너 때문에 지인들까지 피해 보는거다”, “흉기로 지인을 해칠 것”이라는 보복 협박까지 이어나가는 등 피해자를 조롱하였다.

MBC는 해당 보도에서 해당 텔레그램 방이 마치 인하대생 천수백 명이 모여있는 인하대 내부 텔레그램 방인 것처럼 왜곡보도하였으나, 실제로는 전국의 불특정 다수 천수백 명이 모여있는 방이었으며 그 안에는 피해자들이 전국 70여 개 소속 대학별로 분류되어 있었고 그 피해자 중에 인하대생도 있는 것이다. 인하대 측에서는 MBC를 비롯한 언론들의 이런 왜곡보도에 입장문을 내기도 했다.

그리고 8월 26일 텔레그램에서 지역·학교로 모여 ‘겹지인’에 해당하는 특정 여성을 대상으로 딥페이크 합성물을 만드는 대화방이 여럿 발견됐다.

대화방의 사례로는 대학교뿐만 아니라 중·고등학생을 대상으로 한 방도 있는 것으로 드러났다. 이외에도 군인을 대상으로 한 딥페이크 범죄도 발견되었으며, 군대뿐만 아니라 특정 직업군을 대상으로 세분화된 불법합성물 채널도 여럿 존재한다는 것이 밝혀졌으며 이에는 교사, 간호사를 포함하여 운동 선수까지 포함되었다. 심지어는 여동생 · 엄마 등 가족을 대상으로 한 딥페이크까지 등장하기까지 할 정도였다.

이와 같이 여러 피해사례가 발견되자 SNS에서는 딥페이크 영상물이 만들어진 지역과 학교 명단도 공유되었다. 실제 이 학교 소속 학생들의 피해 여부는 확인되지 않았지만, 명단에 올라 있는 전국 중·고교와 대학교 이름만 수백곳에 달하는 것으로 알려져 충격을 주었다. 가해자 신상이라며 다수의 이름과 얼굴 등이 담긴 게시물도 빠르게 번졌으나 이것 역시 진위 여부는 아직 밝혀지지 않았다.

이에 대해 경찰과 교육 당국이 대응에 나섰다.

대응

8월 27일

대구시교육청은 피해 사례가 접수되지 않았다고 밝혔다. 대구경찰청 사이버수사대는 온라인에 올라온 지역의 학교 명단을 확인하고 피해자가 있는지 확인하고 있다면서 대구경찰이 지금까지 수사한 딥페이크 관련 사건도 해당 학교들과 관련성이 없다고 밝혔다.

울산시교육청은 피해 사례를 파악했으나 아직까지 피해 사례는 한 건도 접수되지 않았다고 밝혔다.

제주경찰청은 현재까지 딥페이크 성범죄 관련 피해 신고는 접수되지 않은 것으로 파악되었다면서 해당 게시물에 대해서도 근거가 없는 상황이라고 밝혔다. 제주 경찰은 게시물 진위 여부를 조사 중이다.

제주도교육청은 도내 학교에 미확인 정보들로 인해 일부 학생들이 2차 피해를 입을 수 있어 허위사실 유포 주의 등을 교육해 달라고 당부했다.

충청북도교육청은 도내 학교에서 접수된 피해 신고가 없는 것으로 파악되었다고 밝혔다.

경기도교육청은 ‘디지털 성범죄(불법 합성 및 유포) 대응 및 예방 교육’이라는 가정 통신문을 배포했다. 다만 경기도교육청은 도교육청에 접수된 피해 사례는 아직까지 없다면서 확인된 피해 사례는 없지만 경찰과 함께 피해 학교들이 있는지 계속 확인해 있으면 지원할 것이라고 밝혔다.

대전광역시교육청은 조선일보와의 인터뷰에서 각 학교에 관련 공문을 보냈다고 밝혔다. 또한 대전 지역은 피해사례가 1건임을 대전교육청이 밝혔다.

인천광역시교육청은 딥페이크 음란물 관련 신고는 접수되지 않았다면서 신고는 없지만 예방 차원에서 피해 의심 학교를 중심으로 전수 조사를 실시해 대응에 나서기로 했다고 밝혔다.

반응

관계

윤석열 대통령은 이번 딥페이크 사건은 명백한 범죄 행위라며 이러한 디지털 성범죄를 꼭 뿌리 뽑아달라는 입장을 표명했다.

한덕수 국무총리는 “디지털 기술, 인공지능(AI), 이런 것들이 잘못 활용되면 우리 사회 전체를 망가뜨릴 수 있는 위험이 있는 것에 대해서도 경고를 해야 한다”고 강조하며 “마약과 같은 수준의 단속부터 시작돼야 한다”고 말했다.

방송통신심의위원회는 최근 텔레그램을 통해 확산된 딥페이크 성적 허위영상물에 대해 강력히 대응하겠다고 밝혔다. 방심위는 관련 영상물을 중점적으로 모니터링하고, 24시간 내에 시정 요구를 하며, 악성 유포자는 수사를 의뢰하겠다고 밝혔다. 또한 초동대처의 중요성을 강조하며 이용자들의 적극적인 신고를 당부했다.

여성가족부는 경찰에 피해자 연계를 요청했다고 밝혔다. 피해가 접수될 경우 디지털성범죄피해자지원센터를 통해 영상물 삭제 등을 지원할 계획이다. 또한 딥페이크 등 허위 영상물과 관련한 입법 미비 사항에 대해 인식하고 있으며, 과학기술정보통신부와 협력해 법제도 개선과 정책 연구를 진행 중이라고 밝혔다. 경찰청 등 범부처 합동 대응체계 강화 방안을 세우고 있고, 허위 영상물 탐지 시스템을 강화하기 위한 예산도 확보하려고 노력 중이라고 강조했다.

국방부 대변인실은 군인을 대상으로 한 텔레그램 대화방과 관련해 “경찰 수사 결과에 따라 필요한 절차를 하겠다”면서 “지금 단계에서 우리가 할 수 있는 것은 없는 것 같다”고 말했다.

정계

더불어민주당

민주당은 여성가족위원회를 중심으로 과방위, 법사위 등 관련 상임위와 의원들이 참여하는 TF를 구성하기로 했다.

이재명 더불어민주당 대표는 딥페이크 범죄 근절을 위한 국회 차원의 대책을 마련하라고 지시했는데, 특히 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌 규정을 강구할 것을 당부했다.

2024년 8월 26일, 박지현 전 더불어민주당 비상대책위원장은 자신의 페이스북을 통해 최근 딥페이크 음란물 유포 문제를 ‘국가적 재난 상황’으로 선포해야 한다고 주장했다. 이어 “정말 진정한 ‘N번방 방지법’을 만들었다면 2024년에 이런 일이 벌어졌을까”라며, 현 상황이 “4년 전에도 매일 같이 일어났던 일”이라고 비판했다. 박 전 위원장은 SNS 사진 삭제와 같은 임시방편적인 대응은 해결책이 될 수 없다며, 텔레그램의 일시적 접속 차단, 상담 기구 설치 등 정부와 입법부의 역할을 강조했다.[8]

김부겸 전 국무총리는 정부·여당에 합동대책본부 구성을 촉구했다. SNS에 “익명의 다수가 저지른 성범죄는 사회적 테러라 봐도 무방하다”며 “과학기술정보통신부, 행정안전부, 경찰청을 필두로 한 합동대책본부를 구성해야 한다. 끝까지 추척해 발본색원 해야 한다”고 주장했다.

국민의힘

국민의힘 한동훈 대표는 AI’를 악용하는 것도 사람이지만, 예방하고 제한할 수 있는 것도 사람”이라며 “‘N번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도와 정책은 신속히 보완돼야 한다”며, 국민의힘이 디지털 성범죄 근절 대책 마련애 앞장서겠음을 밝혔다.

개혁신당

개혁신당 허은아 대표는 박지현 전 비대위원장의 ‘국가 재난 상황’ 선포 발언에 대해 비판하며 딥페이크 사건의 본질은 범죄이고, 이를 이용해 젠더갈등을 조장하려는 시도를 멈춰야 한다고 주장했다.

개혁신당 이준석 의원은 강도현 과학기술정보통신부 제2차관에 대해 “텔레그램 차단 외에 현실적인 방법이 있나”라고 물으며 “대통령이 관심을 가지는 사안이니까 어떻게든 대책을 만들려고 할 것 같다” “반농담식으로 ‘학교폭력을 없애는 방법은 학교를 없애는 것’이라고 한다. 기술적으로 말이 되는 제안이 나와야 할 것 같다”고 강조했다.

개혁신당 이준석 의원은 김태규 방송통신위원회 위원장 직무대행에 대해 “해당 텔레그램방은 해외 개발자가 만든 봇이라 국내 이용자가 아닌 해외 이용자 수가 22만 명이라는 것”이라며 “방통위에서 불안이 실제보다 과장되지 않도록 신경써달라”고 당부했다.

노동계

8월 26일, 교사노조연맹은 “최근 텔레그램 딥페이크 제보방이 만들어지면서 피해 학교 200개 이상이 공개됐다. 학교로 딥페이크 피해 제보와 신고가 이어지고 있다”며 “학생과 교사 피해자를 위한 긴급 심리 지원을 제공하라”고 촉구했다. 또한 인공지능(AI)과 딥페이크 기술에 대한 청소년의 접근 제한에 대해 논의하고 담당할 부서를 편성하라고도 했다. 이들은 “일부 청소년들은 디지털 성범죄의 결과물을 경제적 가치로 교환하는 것을 학습하고 있는 상황”이라며 “학교의 예방 교육, 연수 늘리기만으로는 이런 문제를 해결할 수 없다”고 했다.

관련 사건 사고

가해자 수 왜곡 보도 논란

한겨레

[단독] 딥페이크 텔레방에 22만명…입장하니 “좋아하는 여자 사진 보내라” – 한겨레

해당 기사에서 22만명이라는 인원 수가 처음으로 언급되었으며, 특히 영문판 제목에서는 220,000+ member Korean Telegram room 으로 묘사함으로써, 마치 한국인 22만 명이 연루된 것처럼 인식될 수 있다. 그러나 이는 사실이 아니며, 영문판 제목은 오보에 해당한다.

기사에 첨부된 스크린샷에 보이는 “227,731 users”는 딥페이크 음란물을 제작하는 유료 봇 채널의 한 달간 사용자 수를 의미한다. 전 세계의 사람들이 가입되어 있고 OS의 언어에 따라 자동으로 번역되는 시스템이며, 운영 주체 또한 한국인이 아니다. 즉, 한국 뿐만이 아니라 전 세계에서 22만 명이 해당 봇 프로그램을 사용했다는 뜻이다.

2024년 8월 27일, 국회 과학기술정보방송통신위원회에서 김태규 방송통신위원회 부위원장의 질의응답에 따르면 한국인 이용자 22만명이 텔레그램 대화방에 참여했다는 것은 오보이며, 해당 텔레그램 대화방은 한국인이 아닌 해외 외국인 개발자가 만든 봇으로 국내 이용자가 아닌 해외 이용자 수가 포함되어 22만명이 있는 것이라고 밝혀졌다.

다만 해당 봇 중 실제 한국인 이용자 수가 몇 명이나 되는지에 대해서는 밝혀지지 않아 논쟁의 대상이 되고 있다.[12][13]

뉴시스

한겨레의 기사가 오보임이 밝혀졌음에도 불구하고, 동일한 유형의 오보가 뉴시스에 올라왔다. 22만명이라는 수치가 “전 세계에서” 이용하는 사람에 해당하는 것처럼, 해당 기사에서 서술하는 40만명 또한 “한국인만” 포함하고 있는 게 아니다. 그러나 기사에서는 마치 “한국인 40만명”이 사용하는 걸로 묘사했다.

검증되지 않은 피해 학교 명단 공개

사건 발생 후 인스타그램, X 등 SNS 등지에서 피해 학교 명단 등이 공유되고 있는데, 해당 학교 내 피해자 실존 여부는 공식적으로 확인되지 않았으며 단순히 해당 학교 이름으로 된 텔레그램 채팅방이 있다는 것 또는 사실 관계가 확인되지 않은 증언 등으로 추가되는 경우도 있기 때문에 피해 학교 리스트는 신뢰에 주의가 필요하다.

물론 실제 피해자가 있을 수 있는 것도 사실이지만, 문제는 검증을 하지 않고 올리는 경우도 있다는 점이다. 실제로 누군가 피해 학교 수집 과정의 허술함을 비꼬고자, 실존하지 않는 학교의 이름인 ‘봉하고’와 피해자 수를 ‘523명’이라고 제보하였으나 이를 검증없이 목록에 추가하는 모습을 보였다.

가해자 헛지목 문제

X, 디시인사이드, 인스타그램 등을 통해 공유되는 일부 잘못된 정보로 인해 애꿏은 사람이 욕을 먹는 일이 생기고 있다. 일부 피해 학교 명단에 올라온 학교에서는 학생들이 한 학생을 여러 가지 이유로 가해자로 몰아가는 사례가 발생하고 있는데, 상술했듯이 아직 피해 학교 명단은 신뢰성이 높지 않을 뿐더러 가해자로 지목된 사람이 실제 가해자가 아닐 가능성이 있기 때문에 주의가 필요하다.

8월 26일에는 출처와 진위가 불명확한 가해자 명단이 올라와 명단에 오른 대학생을 놓고 해당 학교 커뮤니티엔 신상정보와 함께 “퇴학시켜야 한다” 등 요구가 빗발쳤다. 정작 가해자로 지목된 또 다른 네티즌은 “두 아이의 엄마로, 텔레그램은 하지도 않는다”며 경찰에 진정을 접수했다고 밝혔다.

여담

인스타그램을 중심으로 계정을 해킹한다는 등의 소문이 돌고 있다. 유형은 비공개 계정의 비공개 설정 무력화나 로그인 위치가 실제 위치와 다르다는 것 등인데 인스타그램을 관리하는 Meta는 초거대 IT기업인 만큼 높은 수준의 보안을 유지하고 있어 해킹이 쉽지 않다. 이러한 높은 수준의 보안을 뛰어넘는 해커가 고작 딥페이크에 쓸 사진을 목적으로 일반인의 계정에 접근한다는 것은 상식적으로 생각하기 어렵고 효용도 떨어지기 때문이다. 또한 로그인 위치는 원래 자신의 실제 위치와 다를 수밖에 없고 텔레그램에서 인스타그램 해킹 봇을 이용한다면 비공개 계정을 해킹할 수 있다고 하나, 봇들은 가짜이며, 실제로 되지도 않는다. 그러므로 이러한 해킹 루머는 말 그대로 루머에 불과하다.

숭실대학교의 교내 커뮤니티인 에브리타임에서는 “이번 사건 빨리 묻히길 바라야지. 근데 금방 묻힐 것 같긴 함”, “텔레그램이 경찰한테 절대 협조 안 함”, “정보를 남긴 게 없다면 잡힐 확률 0%. 걱정 말고 즐기자”라는 내용의 글이 올라와, 많은 숭실대학교 학생들의 공분을 샀다. 실제 딥페이크 성범죄 가해자들 중 일부를 수사에 넘겨 재판을 진행 중인 피해자 루마(필명)씨는 26일 오후 <오마이뉴스>에 “계속 텔레그램 계정을 갈아엎으면서 흔적을 철저하게 지웠던 가해자 역시 잡혀서 재판받고 있지 않나. 대화 내용을 삭제해도 (텔레그램 대화를 나눈) 상대방의 기록으로 잡혀 발등을 찍힌 것”이라고 말했다.

한겨레의 보도 중 2023년 딥페이크 생성물의 53%가 한국 여성을 대상으로 이루어졌다는 기사가 호도되어, 딥페이크 음란물의 53%가 한국에서 제작되거나, 한국 여성의 53%가 피해자가 되었다고 이해하는 경우가 있다. 그러나, 실제 기사에서 인용한 시큐리티히어로의 보고서에 따르면 53%는 ‘한국인이 피해자’인 국내외 딥페이크 생성물의 비율이며, 동시에 전 세계 딥페이크 생성물의 94%는 가수, 연예인을 합성한 경우로 나타났다. 물론 이러한 통계가 본 사건의 시의성을 흐리지는 않으며, 보고서에서도 제도적 미비점의 보완을 강조하고 있다.

텔레그램 딥페이크 피해 대처

서강대 딥페이크 관련 공지문

• 현자로 알려진 도쿄대생의 근황
• 원피스 1127화 스포 ‘신비한 왕국에서의 모험’
• 누수 고치러 탈의실 간 작업자를 성범죄자 몬 40대 여경 (벌금형 확정)
• 곽튜브 입장문 (2024-09-18)
• 엔믹스 설윤 한복 사진