IT 기술이 발달을 하면 가장 먼저 손을 뻗는 분야가 성인 콘텐츠 분야입니다. VR 기술이 본격적으로 대중에게 보급되는 시기 가장 먼저 미국 성인 콘텐츠 분야가 빠르게 성장을 했습니다. 미국 성인 콘텐츠는 초기 인터넷 기술 발전의 촉매제 역할을, 비디오 산업의 흐름을 바꾼 매개로 알려져 있습니다. 그만큼 성인 콘텐츠는 기술 발달과 밀접한 관계를 맺고 있습니다.
최근 AI가 대중의 관심을 사로잡고 있습니다. 특히 사용자가 원하는 이미지를 인공지능이 생성해주는 이미지 생성 AI 시장이 뜨겁습니다. 오픈 AI 달리, 미드저니, 파이어플라이, 스테이블 디퓨전 등이 치열하게 경쟁을 하고 있습니다. 특히 스테이블 디퓨전은 소스코드를 공개해 다양한 파생 데이터가 등장하기도 했습니다.
그림을 그리는 행위 자체가 오랜 시간 노력이 필요하지만 이미지 생성 AI를 통해 자신이 원하는 이미지를 그림 실력에 상관없이 생성할 수 있는 장점이 있습니다. 문제는 이렇게 기술이 발달을 하면서 좋은 쪽으로 사용하는 사람보다는 좋지 않은 쪽으로 사용하는 사람이 많다는 점입니다. 무엇보다 성적인 부분으로 빠르게 확장을 하고 있다는 겁니다.
한 생성형 인공지능 모델 공유 사이트에는 이용자들이 인기 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라와 있습니다. 학습 시킨 데이터는 상당히 정교합니다. 실제로 사진을 찍은 것 같은 이미지일 뿐 아니라 이 마저도 버전을 나눠 발전을 해 더욱 정교해진 것을 발견할 수 있습니다.
스테이블 디퓨전의 경우 이미지의 화풍을 결정하는 체크포인트와 이미지의 세부적인 결정을 돕는 LORA로 나뉘게 됩니다. 실사 이미지를 생성해주는 체크포인트와 걸그룹 멤버의 얼굴 이미지를 학습시킨 LORA를 적용시키면 실사와 같은 이미지를 얻을 수 있는 겁니다.
최근에는 일반인도 집에서 PC를 통해서 얼마든지 이미지를 생성할 수 있을 만큼 기술력이 발달을 했습니다. 보급형 GPU가 달린 PC만 있다면 유튜브 검색을 통해 프로그램 설치부터 이미지 생성까지 누구나 쉽게 할 수 있습니다. 집에서 손쉽게 아이돌 합성 이미지를 만들 수 있다는 겁니다. 더구나 최근에는 이미지를 넘어 영상 제작까지 가능해졌습니다.
이미지 뿐만 아닙니다. AI가 목소리를 학습해 남자가 여성 목소리를 내는 것도 어렵지 않습니다. 이미 학습된 아이돌 목소리 샘플을 다운 받으면 실시간으로 해당 아이돌 목소리를 내는 것도 가능해진 세상입니다. 그러다 보니 이런 기술을 이용해 다양한 음란물이 제작되고 있습니다. 과거 K팝 아이돌 스타의 얼굴과 포르노를 합성하는 수준이 아니라 정교해진 음란물이 제작되고 있습니다.
이미 중, 고등학생들 사이에서는 지인 능욕이라는 범죄가 성행하고 있다고 합니다. 이전에는 지인의 사진을 보내고 합성을 해달라고 해서 이를 SNS 등에 올렸다면 AI 발달로 사진만 있다면 누구나 합성이 쉬워지다 보니 범죄라는 사실조차 인지 못한 채 학생들 사이에서 성행하고 있다고 합니다. 2020년 도입된 딥페이크 처벌법으로 인해 징역형 판결이 가능해졌습니다. 하지만 절반 가까이 집행유예를 받았습니다. 디지털 매체 특성상 한 번 유포 되면 삭제가 어려워 피해자는 완전 피해 회복이 사실상 불가능합니다. 그럼에도 처벌이 약해 범죄를 부추기는 현실입니다.
국내 연예계도 해당 상황을 인지하고 있습니다. 이미지가 아티스트의 명예나 초상권을 침해할 경우 저작물 삭제 요청을 비롯해 법적 대응까지 고려하고 있습니다. 과거 연예인들은 악플러와 전쟁을 벌였다면 이제는 이미지 생성 AI를 불법적으로 이용하는 이들과도 전쟁을 벌이게 생겼습니다.
AI.(사진=뉴시스)
신상민 기자 lmez0810@etomato.com