최근 여성의 얼굴에 음란물을 합성하는 식의 허위합성물 ‘딥페이크’ 피해가 확산하는 가운데 2024년 학생과 교원의 딥페이크 피해 건수가 200건에 달하는 것으로 파악됐다. 교육부는 학생과 교원의 불안감 해소와 보호를 위해 피해 현황을 조사하고 긴급 전담조직(TF)을 운영하는 등 신속 대응에 나서기로 했다.
교육부는 17개 시·도교육청을 통해 파악한 결과 2024년 1월부터 8월 27일까지 학생과 교원의 딥페이크 피해 건수가 총 196건으로 집계됐다고 밝혔다. 학생 피해가 186건, 교원 피해가 10건이었다. 학생 피해 건수를 학교급별로 보면 초등학교 8건, 중학교 100건, 고등학교 78건이다. 피해 건수 가운데 179건은 수사 당국에 수사를 의뢰한 상태다. 피해 사실을 알리길 꺼리는 경우가 있고 학교나 교육청이 아닌 다른 기관을 통해 신고했을 경우 집계되지 않아 실제 피해 건수는 이보다 많을 것으로 추정된다.
딥페이크는 기존 사진영상을 다른 사진영상에 겹쳐서 만들어내는 인공지능 기반의 이미지 합성기술로 ‘딥러닝(Deep Learning)’과 가짜를 의미하는 ‘페이크(Fake)’의 합성어다. 최근 이러한 딥페이크 영상물이 텔레그램 단체 대화방 등을 통해 대거 유포돼 논란이 일고 있다. 교육부는 허위합성물의 편집·합성·가공 행위는 호기심 차원의 놀이가 아니라 법적 처벌의 대상이 된다는 점과 피해자 대처요령 등을 담은 안내문을 학교 현장에 긴급 전달했다.
‘학교 딥페이크 대응 긴급 TF’ 구성
교육부는 이번 사안의 심각성을 인식하고 실효성 있는 대응책을 마련해 학교 현장이 안정될 수 있도록 적극 지원해나갈 방침이다.
먼저 교육부 차관을 단장으로 하는 ‘학교 딥페이크 대응 긴급 TF(가칭)’를 구성했다. TF는 상황총괄팀, 학생피해지원팀, 교원피해지원팀, 디지털윤리대응팀, 현장소통지원팀, 언론동향팀 등 6개 팀이다.
TF는 매주 한 번씩 학교 딥페이크 관련 사안을 조사하고 경찰청·여성가족부·방송통신위원회 등 관계부처와 공조·협력하는 한편 시·도교육청과 비상연락망을 운영하는 등 현장 소통을 총괄한다.
이와 함께 학생과 교원의 피해 사안을 처리하고 이들의 심리지원도 맡는다. 학교폭력과 관련한 딥페이크의 경우 학교폭력 사안 처리를 지원하고 학생 상담 프로그램인 ‘위(Wee)클래스’, ‘위센터’를 통해 지원한다. 피해로 충격이 큰 위기학생에게는 외부 전문기관을 연계해주고 정신건강 관련 진료·치료비를 최대 300만 원까지 지원한다. 피해 학생의 불안감을 해소하고 2차 피해를 방지하기 위해 가해자와 피해자 분리에도 나선다.
직간접 피해를 본 교원의 경우 심리상담과 치료, 법률 지원 등 보호 방안을 마련한다. 이를 위해 교권침해 직통번호 ‘1395’를 통해 피해 사안을 신고받고 심리·법률상담까지 원스톱으로 지원한다.
또 학생들이 디지털 기술과 미디어를 안전하고 책임감 있게 활용할 수 있도록 방과후학교 프로그램 등을 통해 디지털 시민교육 강화에도 나선다. 8월 30일에는 시·도교육청 부교육감과 긴급회의를 열고 9월 중 여가부, 과학기술정보통신부, 경찰청 등 관계부처와 대책회의를 연다. 전문가·유관기관·시도교육청 자문단을 구성해 9월부터 운영하고 10월 중 ‘교육 분야 딥페이크 대응 후속조치’를 발표할 예정이다.
교육부는 딥페이크 관련 아동·청소년 피해 사실을 알게 될 경우 경찰청(112)이나 학교폭력 신고센터(117), 디지털성범죄피해자지원센터(02-735-8994), 교육부 누리집(www.moe.go.kr) 내 ‘교육분야 성희롱·성폭력 신고센터’로 즉시 신고해달라고 안내했다.
딥페이크 성범죄물 탐지·삭제요청 자동화 추진
한편 윤석열 대통령은 8월 27일 제37회 국무회의에서 최근 이미지 합성기술(딥페이크) 영상물이 사회관계망을 타고 빠르게 유포되고 있으며 이러한 디지털성범죄에 강력히 대응할 것을 지시했다.
이에 따라 현장의 목소리를 청취하기 위해 강도현 과기정통부 2차관과 신영숙 여가부 차관은 8월 28일 디지털성범죄피해자지원센터를 방문해 운영 현황을 살피고 딥페이크 성범죄 피해 예방 및 피해자 지원방안에 대해 긴급 점검했다.
여가부 산하기관인 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터는 디지털 성범죄 피해 상담과 피해 촬영물에 대한 삭제를 지원하고 수사 및 무료 법률지원 연계 등 종합적인 서비스를 제공하고 있다. 2018년 4월 개소 이후 현재까지 총 3만 2000여 명의 피해자를 대상으로 피해 촬영물 상담 및 삭제, 수사·법률·의료 연계 지원 등 총 100만 4000건의 서비스를 제공했다.
이 자리에서 강 차관과 신 차관은 디지털성범죄피해자지원센터의 삭제지원시스템 운영 현황 등을 청취하고 허위영상물 탐지와 추적체계를 고도화하는 방안 등에 대해 양 부처가 협력할 수 있는 방안을 논의했다.
한편 과기정통부와 여가부는 지난 7월부터 합동으로 이미지 합성기술 기반 디지털 성범죄 피해 예방 및 보호방안 마련을 위해 정책연구를 추진하는 등 지속적으로 협업해오고 있다. 올해까지 정책연구 결과를 기반으로 이미지 합성기술 발전에 따른 디지털 성범죄 관련 법제 정비 방향과 불법합성물 탐지시스템 구축방안 등도 도출할 예정이다.
서경리 기자
