6·3 지방선거를 앞두고 울산 남구에서 한 입후보예정자가 딥페이크(Deepfake) 기술을 악용해 허위 사실을 유포하다 선관위에 적발돼 고발당했다는 소식이다. 2023년 12월 딥페이크 관련 공직선거법 개정 이후 첫 고발 조치로, AI기술의 진보가 어떻게 선거의 공정성을 훼손할 수 있는지를 보여준 사례다.
이번에 적발된 입후보예정자는 해외 유명 시사 주간지가 자신을 유망 인물로 선정한 것처럼 정교한 가짜 영상을 제작해 유포했다. 유권자가 실제 상황으로 착각하도록 AI를 동원해 현실을 조작한 것이다. 현행법은 선거일 90일 전까지는 AI 생성물임을 명시해야 하며, 3월 5일부터는 모든 딥페이크 선거운동을 전면 금지하고 있다.
선관위는 이 입후보예정자가 가짜 영상을 만들어 유통시키면서 딥페이크 영상임을 표시하지 않은 것으로 판단해 과태료 500만원도 부과했다. 딥페이크를 활용한 선거운동에 대한 법적 규제가 강화되었음에도 불구하고, ‘일단 후보를 알리고 보자’는 식의 구태의연한 선거 전략이 아직도 공공연히 이뤄지고 있다는 사실에 개탄을 금치 못한다.
이번 사건은 시작일 뿐이다. 인공지능 기술이 정교해지면서 AI 생성물을 활용한 선거운동도 갈수록 진화할게 뻔하다. 단순한 딥페이크 영상 제작과 유통을 넘어, 인간과 비슷한 말투를 흉내 내거나 플랫폼 알고리즘으로 여론을 교묘하게 조작하기도 할 것이다. AI시스템이 유권자의 판단력을 흐리게 하고 선거라는 민주주의의 근간을 뿌리째 흔들 수 있다는 이야기다. 실제 8일 치러진 일본 중의원 선거 과정에서도 AI로 제작된 딥페이크 영상이 유통되면서, 일부는 진짜 영상이 가짜영상으로 오해 받는 지경에 이르렀다고 한다.
선관위가 ‘딥페이크 특별대응팀’을 통해 강력한 단속에 나서겠다고 밝혔지만, 단속만으로는 한계가 명확하다. 기술은 법보다 빠르게 진화하며, 한번 유포된 가짜 뉴스는 사실관계가 바로잡히기 전에 이미 민심을 왜곡하기 때문이다.
선관위와 사법당국은 불법적인 딥페이크 유포자에 대해 무관용 원칙으로 엄중히 처벌해야 한다. 정치권 또한 기술의 뒤에 숨어 유권자를 기만하려는 유혹에서 벗어나야 한다. 무엇보다 유권자 스스로가 쏟아지는 정보의 진위를 비판적으로 바라보는 혜안이 절실하다. 민주주의를 지키는 최후의 보루는 결국 깨어 있는 시민의 눈이다.