활개치는 딥페이크 범죄…개발 속도 못 따라가는 규제
정부, AI 이용자 보호 방안 마련에 분주
전문가 "규제의 대상·목적 명확히 해야"
입력 : 2024-06-07 16:56:49 수정 : 2024-06-10 13:32:59
[뉴스토마토 최수빈 기자] 인공지능(AI) 발전으로 딥페이크(영상·이미지 합성 조작물) 기술을 활용한 신종 디지털 범죄가 성행하고 있습니다. 이에 지난 21대 국회에서 무산된 'AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)'에도 재시동이 걸리고 있는데요. AI 기술 진흥과 규제 사이에서, 전문가들은 규제 기준을 명확히 하는 한편 플랫폼 자율 규제를 지원하는 등의 세밀한 접근 또한 필요하다고 조언합니다.
 
방송통신심의위원회 현판. (사진=방송통신심의위원회)
 
방송통신심의위원회는 지난 5일 경찰청과 공조해 딥페이크 악용 성적 허위 영상물을 신속히 삭제 및 차단하겠다고 밝혔습니다. 또 성적 허위 영상물 제작 및 유포 목적의 소셜미디어(SNS) 계정에 대한 모니터링을 우선적으로 실시하기로 했습니다. 
 
최근 딥페이크 기술이 발전하면서 가짜뉴스와 지인 능욕 등의 범죄가 급증하고 있는데요. 음란물에 지인 사진을 합성하는 성범죄 외에도 정치인 등의 말과 행동을 조작한 영상이 퍼지기도 했습니다. 작년 말부터 동영상 플랫폼 틱톡을 통해 윤석열 대통령의 외형과 목소리를 이용해 만든 ‘윤석열 대통령 양심고백 연설’이라는 제목의 영상이 퍼졌는데요. 경찰 조사 결과 딥페이크가 아닌 단순 편집 영상이었으나, 이 같은 편집 영상에 향후 딥페이크 기술이 더해질 경우 피해 범위와 규모가 늘 수 있음을 시사하고 있습니다.  
 
특히 AI 기술이 발달하면서 누구나 쉽게 딥페이크 영상을 만들 수 있는데요. 이에 미국과 유럽연합(EU) 등은 빠르게 관련 법안 마련에 박차를 가하고 있습니다. 국내에서도 안철수 국민의힘 의원이 21대 국회에서 여야 이견으로 폐지된 AI기본법을 1호 법안으로 새롭게 발의했습니다. 
 
정부부처 역시 AI 이용자 피해구제 기구를 꾸리는 등 보호 방안 마련에 분주한 모습입니다. 앞서 방송통신위원회는 올해 업무계획을 발표하면서 AI 이용자 보호를 중점 과제로 내세웠는데요. 방송통신이용자 정책국 산하에 팀장을 포함해 3명으로 구성된 인공지능 이용자 보호 대응팀도 지난 3월 출범했습니다. 
 
정부 역시 AI 기본법 제정 추진 의지를 강하게 보이고 있는데요. 다만 전문가를 중심으로 규제의 대상과 목적을 분명히 해야 한다는 목소리가 나옵니다. 최경진 가천대 법학과 교수는 지난달 24일 ‘가짜뉴스 규제의 최근 동향과 쟁점’을 주제로 연 세미나에서 “딥페이크에 규제가 필요한 이유가 무엇인지 법적 적용 범위에서 명확하게 짚지 않으면 AI 활용이 위축돼 사실상 발전도 멀어지게 된다”고 경고했습니다. 
 
딥페이크 영상의 주요 유포 창구인 플랫폼 기업을 지원함으로써 자율규제를 촉진해야 한다는 의견도 나옵니다. 김명주 서울여자대학교 정보보호학과 교수는 본지와 통화에서 “플랫폼 기업 측에서 손으로 딥페이크 영상을 찾는 것이 아니라 자동화를 통해 찾아야 하는 문제라 결국 기술 개발이 필요하다”라며 “기술 개발 측면에서 도움을 준다면, 이는 돌고 돌아 이용자의 혜택이 된다는 논의도 있다”고 설명했습니다. 
 
최수빈 기자 choi32015@etomato.com
 

ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지



  • 최수빈

싱싱한 정보와 살아있는 뉴스를 제공하겠습니다!