청소년 및 대학가를 중심으로 특정인의 얼굴과 나체 사진을 합성하는 불법합성물(딥페이크)이 유포되고 있습니다. 딥페이크가 유포되는 대부분의 단체 대화방은 해외에 서버를 두고 있다 보니 국내 기관에서 삭제를 요청할 권한이 없습니다. 이처럼 딥페이크 성적 영상물에 대한 처벌이 어려운 상황이지만 인공지능(AI) 등 과학기술을 담당하는 국회 과학기술정보통신위원회는 방송통신위원회를 둘러싼 ‘정쟁’에만 집중하는 모습입니다.
14일 오후 국회에서 열린 과학기술정보방송통신위원회의 '불법적 방송문화진흥회 이사 선임 등 방송장악 관련' 2차 청문회에서 최민희 위원장이 김태규 방통위 위원장 직무대행 증인 고발의 건 가결을 선포하고 있다. (사진=연합뉴스)
AI는 미래 먹거리 사업으로 꼽히는 동시에 각종 범죄 도구로 악용되고 있습니다. AI로 만든 가짜뉴스와 디지털 집단 성범죄 등 인공지능 발달에 따라 새로운 범죄 유형까지 늘어나고 있습니다. 이는 전세계적인 흐름인데요. AI 기술의 악용 사례는 정치권에서도 쉽게 찾아볼 수 있습니다. 대선이 가까워지고 있는 미국에서 공화당 대선후보인 도널드 트럼프 전 대통령이 팝가수 테일러 스위프트가 자신을 지지하는 AI 가짜사진을 자신의 사회관계망서비스인 ‘트루스 소셜’에 올렸습니다.
‘울프GPT’, ‘다크바드’, ‘웜GPT’ 등 피싱 메일 생성과 배포를 돕는 범죄용 AI 챗봇까지 등장했는데요. 이로 인해 초보자라도 악성 챗봇을 이용할 수 있습니다. 특히 딥페이크 영상은 딥페이크 기술을 적용한 앱이나 소프트웨어 프로그램을 활용해 일반인들도 손쉽게 만들 수 있는데요.
특히 디지털 기기를 다루는 데 능숙한 10대 청소년과 20대 대학생 사이에서 신종 학교폭력 등으로 악용되는 등 범죄 사례가 속출하고 있습니다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 경찰청에 제출받은 ‘딥페이크 범죄 현황’에 따르면 지난해 기준 피의자 120명 가운데 10대는 91명, 20대는 24명으로 나타났습니다.
이에 AI 활용 범죄의 처벌 및 예방을 위한 법안 발의가 시급한데요. AI 기본법은 AI 산업 진흥을 위한 AI 기본계획 수립 외에도 ‘딥페이크 범죄’ 방지를 위한 고위험 AI에 대한 정의도 담겨있습니다. 다만 과학기술 소관 상임위인 과방위는 22대 국회 개원 이후 18차례나 전체회의를 열었지만 AI 법안 관련 논의는 이뤄지지 않고 있습니다.
방송통신위원회 및 공영 방송 이슈에만 매몰된 탓인데요. 이에 업계를 중심으로 방송 영역과 과학 영역을 나누는, ‘과방위 분리론’까지 나오는 실정입니다. 22대 국회 개원식도 아직 열리지 않은 상황 속 최다 전체회의 개최 기록을 세우는 통에, 산업 육성 및 범죄 예방을 위한 입법은 뒷전이 돼버렸습니다.