[뉴스토마토 배한님 기자] 대통령 선거를 앞두고 정치권에서 인공지능(AI) 딥페이크 기술을 활용한 'AI 휴먼'을 앞세운 선거운동을 벌이자, 일각에서는 관련 가이드라인이 필요하다는 주장이 나온다. 디지털 혁신의 일환이라고 하지만, 후보에 대한 잘못된 이미지를 대중에게 심어줄 수도 있다는 이유에서다.
지난 6일 국민의힘 중앙선거대책위원회 출범식에서 등장한 ‘AI 윤석열’. 사진/국민의힘 유튜브 채널 '오른소리' 갈무리
국민의힘은 지난 6일 서울 송파구 올림픽공원에서 열린 중앙선거대책위원회(중앙선대위) 출범식에서 AI 윤석열을 소개하는 영상을 공개했다. 'AI 윤석열'은 국민의힘의 윤석열 대통령 후보를 AI 머신러닝 딥페이크(deepfake)기술로 만든 것이다. 국민의힘 측은 AI 윤석열은 디지털 선거 혁신 운동의 일환이며, 윤 후보가 직접 찾아가기 어려운 지역이나 시간대에 유세 차량 스크린 등에 띄워 국민에게 후보의 목소리를 전하기 위함이라고 밝혔다.
딥페이크는 AI가 특정인의 모습과 목소리, 말투 등을 학습해 특정인과 똑같은 영상 편집물을 만드는 기술이다. 주로 AI 김주하와 같이 방송 진행에 사용되지만, 포르노에 유명 연예인이나 일반인 얼굴을 합성하는 등 범죄에도 악용된다.
AI 이재명 '명탐정 이재봇'. 사진/이재명 선대위 청년본부 SNS 유튜브 채널 이재명탐정 갈무리
더불어민주당의 대선 주자인 이재명 후보 측에서도 AI 휴먼을 활용한 바 있다. 이재명 선대위 청년본부는 지난달 말 이 후보의 아바타 이자 '명탐정 이재봇'이라 이름 붙인 'AI 이재명'을 선보인 바 있다. 명탐정 이재봇은 '알잘딱깔센('알아서 잘 딱 깔끔하고 센스있게'의 줄임말)', '좋댓구알(유튜브 채널의 좋아요, 댓글, 구독, 알림 설정을 부탁하는 말)' 등 청년 세대가 사용하는 단어를 사용하며 자신을 홍보했다.
업계에서는 AI 기술이 다양한 산업을 넘어 정치권에서도 관련 기술을 활용하는 것이 고무적이라면서도, 관련 부작용을 막을 대응과 예방책 마련이 필요하다고 주장한다. 딥페이크가 만든 영상이 진짜 후보와 영상 속 후보를 혼동하게 한다는 것이다. 후보의 부정적인 이미지를 감추거나, 가짜 뉴스를 만드는 등 거짓 선동에 이용될 가능성이 높기 때문이다. 업계는 부작용을 막을 제도가 우선 마련돼야 한다고 설명한다.
전창배 한국인공지능윤리협회 이사장은 "AI 기술을 모든 산업과 다양한 영역에서 사용될 수 있고, 사용돼야 한다. 정치 분야에서도 디지털휴먼이나 AI를 통한 유권자 분석 등에 활용될 여지가 많다"면서도 "다만, 딥페이크 기술을 이용해 가짜뉴스를 퍼뜨려 상대방 후보를 비방하거나 선거를 교란하는 등의 행위를 할 경우 매우 큰 정치적, 사회적 혼란이 발생할 수 있어 우려스럽다"고 지적했다. 전 이사장은 "정부·학계·기업·시민사회 등 AI 관련 주체들은 이런 AI 기술의 양면성을 인식하고 제도적·기술적·교육적 대응과 예방 방안을 마련하는 것이 중요하다"고 강조했다.
고삼석 전 방송통신위원회(방통위) 상임위원도 선거관리위원회의 가이드라인이 필요하다고 꼬집었다. 선의든 악의든 딥페이크 기술 자체가 타인을 속이기 위한 가짜라는 이유에서다. 고 전 상임위원은 7일 자신의 페이스북에 "미국, 유럽 국가에서는 정치적 목적의 AI 혹은 딥페이크 기술 사용을 매우 엄격하게 제한하고 있고, 지난해 미국 대선 당시 페이스북·트위터·인스타그램 등 글로벌 SNS(소셜네트워크) 기업도 엄격한 자체 가이드라인을 만들어 적용했다"며 "우리도 인공지능 및 딥페이크 기술의 정치적 이용에 대한 나름의 가이드라인을 만들어야 한다"고 했다.
배한님 기자 bhn@etomato.com
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지