최근 딥페이크를 활용한 디지털 성범죄 영상물이 급속도로 유포돼 우리나라를 공포에 빠트리고 있습니다. 전파가 빠른 디지털 성범죄의 특성상 피해가 걷잡을 수 없이 커질 수 있기에 정부도 대책 마련에 몰두하는 모습인데요. 그럼에도 불구하고 빠른 기술 발전에 비해 제도 마련이 더뎌 사태를 키웠다는 지적은 피해가기 힘들 것으로 보입니다. ‘기술’의 ‘악용’ 가능성은 항상 존재하기 마련이므로 결국 사태를 예방하려는 노력이 중요한데요. 기술 발전의 빛과 그림자 같은 이번 딥페이크 사태에 대해 세차례에 걸쳐 살펴봅니다. (편집자 주)
딥페이크 (그래픽=뉴시스)
[뉴스토마토 배덕훈 기자] 최근 우리나라를 강타한 딥페이크 성범죄와 관련해 범정부적 차원의 대책이 마련될 예정입니다. 정부는 딥페이크를 악용한 범죄 대응에 범정부적 역량을 결집하고 종합적이고 체계적인 대책을 오는 10월까지 마련한다는 계획인데요. 수사·단속, 피해자 지원, 예방 교육, 플랫폼 관리 강화 등 분야별 대책이 총망라됩니다.
하지만 이러한 정부의 딥페이크 성범죄 대책은 다소 뒤늦었다는 지적이 나옵니다. 이미 ‘n번방’ 사태로 디지털 성범죄에 큰 피해를 입었지만, 느슨한 대책으로 기술 진화에 따른 악용 규제에 구멍만 확인했기 때문입니다. 특히 디지털 성범죄 유통의 온상으로 지목됐던 외산 SNS 플랫폼 ‘텔레그램’의 경우는 n번방 당시에도 큰 문제였는데요. 제도 미비 속 결국 이번 딥페이크 사태에도 음란물이 유통되는 경로로 전락했습니다.
서울여성회와 서울여성회 페미니스트 대학생 연합동아리의 '딥페이크 성범죄 규탄 여성 시민·대학생 긴급 기자회견'에서 참가자가 피켓을 들고 있다. (사진=뉴시스)
또한 한국에서는 지난해 12월 선거를 앞두고 딥페이크를 활용한 가짜뉴스 우려가 확산하며 경고등이 켜지기도 했는데요. 공직선거법을 재정비해 딥페이크 차단·삭제에 집중했지만, 선거가 끝난 후 무관심 속 사그라들었습니다. 사회 곳곳서 울리는 경고음도 무시됐습니다. 방송통신심의위원회에 접수된 딥페이크 성범죄 영상물 시정요구 건수는 올해 7월 말까지 6434건에 달합니다. 이는 전년 동기 1684건 대비 약 4배에 달하는 수치인데요. 경찰이 집계한 딥페이크 성범죄 발생 건수도 지난 2021년 156건이던 것이 지난해 180건, 올해에만 7월까지 297건으로 급증했습니다.
이러한 상황 속 우리나라는 딥페이크 성범죄의 취약국이라는 오명도 뒤집어쓰는 중인데요. 미국 사이버보안 업체인 ‘시큐리티 히어로’가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 한국은 딥페이크 성착취물에 가장 취약한 국가로 나타났습니다. 미국 일간 월스트리트저널(WSJ)은 이를 인용해 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국”이라고 지적합니다.
(사진=뉴시스)
딥페이크 기술 악용 성범죄…근본 대책은
현재 정부가 딥페이크 성범죄와 관련 범부처 종합 대책을 논의 중이지만, 근본적인 대안 마련이 시급하다는 목소리가 높습니다.
먼저 전문가들은 딥페이크 등 디지털 성범죄 처벌을 강화해야 한다고 한목소리를 내고 있습니다. 성폭력범죄의 처벌 등에 관한 특례법에 따르면 허위 영상물을 제작·반포 시 5년 이상의 징역 또는 5000만원 이하의 벌금에 처할 수 있게 돼 있는데요. 영리를 목적으로 한 경우엔 7년 이하 징역으로 가중처벌됩니다. 하지만 상대적으로 낮은 형량과 양형 기준, 그리고 구입·소지 등에 관한 처벌 규정이 없어 실효성 있는 처분으로 이어지지 않는다는 지적입니다.
실제로 국회 여성가족위원회 소속 김남희 민주당 의원이 대법원을 통해 지난 4년간 딥페이크 성착취물 제작과 유포 등으로 처벌받은 판결문을 분석한 결과 기소된 87명 중 집행유예가 34명(39%)으로 가장 많았습니다. 징역형을 선고받은 사례도 24명(27.5%)에 그쳤습니다.
이와 관련 염흥열 순천향대 정보보호학과 교수는 “딥페이크는 그 수준에 비해서 처벌 수위가 좀 낮은 측면이 있고, 성적 음란물 같은 경우는 수집, 전파 시 상당한 처벌이 되는데 딥페이크 성범죄는 그러한 것이 없다”라며 “이런 것들이 제도화 또는 입법화되는 과정들이 필요하다”라고 짚었습니다.
또한 딥페이크를 활용한 성범죄 가해자 대부분이 10대 청소년으로 드러나면서 예방을 위한 AI 리터러시 교육도 중요하다는 의견도 나옵니다. 기술 발전에 따른 범죄 속도를 규제가 따라가기 어려운 만큼 청소년층을 대상으로 올바른 사용에 대한 교육이 병행돼야 한다는 것입니다. 한진영 성균관대 인공지능융합학과 교수는 최근 ‘생성형 AI의 사회적 이슈와 대응’ 포럼에서 “AI라는 무기가 청소년이나 여러 계층이 쉽게 접근할 수 있는 사회가 됐다”라며 “안전한 AI 사용을 위한 기술 연구와 논의가 지속돼야 한다”라고 강조했습니다.
이와 함께 기술 악용 범죄를 막을 수 있는 것은 결국 기술이기에 딥페이크 성범죄 탐지·식별 등에 대한 정부 차원의 지원이 절실하다는 지적도 나옵니다.
현재 딥페이크 영상물을 식별 또는 탐지할 수 있는 기술은 사전에 워터마크를 부착해 AI로 제작한 것임을 알리는 표식을 다는 것과 사후 탐지 기술 등 크게 두가지입니다. 글로벌 빅테크 기업들을 중심으로 이러한 딥페이크 대응 기술들이 현재 속속 개발되고 있는데요. 국내에서는 생성형 AI 기업 딥브레인 AI와 IT 보안 기업 샌즈랩 등이 딥페이크 탐지 기술을 개발, 고도화하고 있습니다.
(사진=딥브레인 AI)
그럼에도 민간 기업에 대한 정부 지원책은 다소 부족한 실정입니다. 과학기술정보통신부는 성균관대, 한국전자통신연구원(ETRI), 한국전자기술연구원(KETI) 등과 딥페이크 탐지 기술개발(R&D) 사업을 수행 중인데요. 투입 예산은 현재 88억원에 불과합니다. 또한 방송통신위원회는 내년도 딥페이크 방지 등 이용자 보호를 위한 예산을 신규로 책정했는데요. 금액은 3억원에 그쳤습니다.
송경재 상지대 사회적경제학과 교수는 “AI로 생산해 내는 페이크 포르노를 막을 수 있는 것은 역설적이게도 AI”라며 “탐지·차단 등의 프로그램 개발은 수익성이 없어 국가에서 지원을 해줘야 한다”라고 조언했습니다.
배덕훈 기자 paladin703@etomato.com
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지