인공지능(AI)이 발전하면서 관련 기술을 이용한 인권침해, 범죄 위험성이 높아지고 있습니다. 이에 세계 주요 국가는 AI 규제의 고삐를 죄고 있지만 국내의 AI 관련 규제 법안 마련은 뒤처져 있는 실정입니다.
AI 로봇(사진=뉴시스)
지난달 21일과 22일, 윤석열 대통령과 리시 수색 영국 총리는 공동으로 AI 서울 정상회의를 주재했습니다. 당시 각국 정상들은 ‘안전하고 혁신적이며 포용적인 AI를 위한 서울 선언’을 도출했는데요. 지난해 11월 영국에서 열린 AI 안전 정상회의에서는 생성형 AI가 만든 가짜 이미지 등의 부작용을 지적한 바 있습니다.
전세계적으로 AI의 영향력이 확대될수록 그 부작용에 대한 우려도 커지고 있습니다. 국내에도 AI의 윤리 기준이 필요하다는 경종이 울린 사건이 있습니다. 지난 2020년 20대 여대생을 캐릭터화한 AI 챗봇 ‘이루다’는 소수자와 장애인에 대해 혐오 발언을 하면서 논란을 빚었습니다. ‘이루다 사태’ 이후 국가인권위원회는 AI 기술 발전과 관련 권고를 국가인권정책기본계획에 담았습니다.
그러나 AI를 활용한 인권침해와 성범죄 수법은 더욱 악랄해지고 있습니다. 최근 대학 동문을 비롯해 여성 61명을 상대로 음란 합성물을 만들어 수년간 텔레그램을 통해 유포한 서울대 졸업생들이 검찰에 넘겨졌습니다. AI 기술이 발전하면서 진화한 딥페이크 성범죄는 ‘지인능욕’이라고도 불리는데요. 주로 학교 후배 등 여성 지인들의 카카오톡 프로필 사진 등으로 허위 합성물을 만드는 범죄입니다.
이 같은 딥페이크 허위영상물 범죄는 2021년 156건에서 지난해 180건으로 늘고 있습니다. 그러나 2020년에서 2023년 관련 범죄 판결 71건 중 실형을 선고받은 경우는 4건에 그칩니다. 지난 2020년 성폭력 처벌법 개정으로 딥페이크 성범죄 가해자에 대한 처벌 규정이 마련됐지만 불법 합성물을 소지하거나 시청한 자를 처벌하는 법률은 없습니다.
AI 기술의 발전 속도는 걷잡을 수 없이 빨라지고 있습니다. 동시에 새로운 형태의 인권 침해 가능성도 발생하고 있습니다. 이미 AI 챗봇들은 폭탄 제조법과 같은 유해한 답변까지 쏟아내고 있습니다. 제도가 없는 상황에서의 기술 개발은 오히려 독이 될 수도 있는데요. 더 큰 비극을 맞이하기 전에 22대 국회에서 AI 기본법 제정이 이뤄질지 이목이 쏠립니다.