딥페이크는 컴퓨터가 스스로 외부 데이터를 조합, 분석해 사람처럼 배울 수 있도록 하는 기술을 뜻하는 딥러닝과 가짜, 모조품을 의미하는 페이크의 합성어다. 딥페이크 기술이 처음 등장했을 때는 주로 예술 분야에서 창의적인 목적으로 사용돼 인간의 삶에 긍정적인 영향을 주었으나, 점차 정치·사회적 분야에서 악용되는 사례가 기하급수적으로 증가하고 있다. 최근에는 기술이 발전해 현실과 구분하기 힘든 수준의 정교한 가짜 이미지나 동영상이 생성, 유포돼 큰 혼란을 야기하는 실정이다.
딥페이크가 선거에 미치는 부정적인 영향은 후보자를 비방하거나 허위정보를 전달하는 데 사용될 수 있어 명예를 훼손하고, 유권자들에게는 혼란을 불러일으켜 선거 결과에 대한 불신으로 이어질 수 있다. 더욱이 유권자들이 잘못된 정보에 기초해 투표할 우려가 제기, 후보자를 오판해 바르지 못한 사람을 선출하는 민주주의의 위기가 도래할 것이라는 우려도 제기되고 있다.
딥페이크 기술이 선거에서 악용되는 사례는 특정 후보자가 실제로 하지 않은 발언을 하는 것처럼 보이는 동영상, 과거 문제가 되는 사건에 연루되었다는 허위사실이 포함된 이미지 또는 동영상 제작 등이 있다. 이런 부정적인 영향이 심화돼 세계 각국에서도 딥페이크 영상물에 대한 규제를 강화하고 있다. 특히 올해는 세계적으로 선거가 많이 예정돼 있어 세계 각국이 대응책을 고심하고 있다.
미국은 딥러닝으로 제작된 영상물에 ‘AI(인공지능) 사용’이라는 표시를 하고 콘텐츠 출처를 확인하도록 했고, 유럽연합은 ‘AI 규제법’ 법안에 합의했는데 그 골자는 생성형 AI가 만든 콘텐츠에 대해서는 해당 사실을 표시하도록 하고 이 규정을 준수하지 않으면 벌금을 부과하는 내용이다. 중국에서는 딥페이크 기술을 사용해 콘텐츠를 만들 때에는 딥페이크 기술이 사용됐다는 사실을 명시하고 원본을 추적할 수 있도록 워터마크를 이용한 디지털 표시를 강제했으며, 다른 사람 목소리를 합성하여 편집하려는 때에는 당사자 동의를 구해야 하고, 언론 보도에서 딥페이크 기술을 사용할 때에는 정부가 승인한 매체 원본만을 활용할 수 있도록 했다.
우리나라에서도 올 4월10일 국회의원 선거를 앞두고 지난해 12월 AI 기반 딥페이크 영상 등에 대한 규제 조치로 공직선거법이 개정됐다. 개정법 골자는 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 기술 등을 만든 콘텐츠를 제작, 편집, 유포, 상영, 게시할 수 없도록 하고 이를 위반할 경우 7년 이하의 징역 또는 1,000만원 이상 5,000만원 이하의 벌금에 처하도록 하는 것이다.
이에 따라 선거관리위원회에서는 AI 모니터링 전담요원과 AI 전문가로 구성된 특별 전담반을 구성해 운영하는 등 본격적인 대비에 나서고 있다. 선관위에서 특별 대책을 수립해 딥페이크 영상물 등에 대비하고 있지만, 유권자들의 관심이 더욱더 요구되는 시점이다. 유권자는 실제와 구별하기 어려운 딥페이크 영상물을 발견하는 즉시 가까운 선관위 또는 선거법위반행위 대표신고 전화번호 1390으로 신고하면 된다. 또 선거운동 영상물에 의존해 후보자를 판단하기보다는 선거공보, 후보자토론회 등 선관위가 직접 관리하는 매체를 통해 후보자 정책 공약을 살펴 우리 지역을 대표하는 대리자인 국회의원을 선출할 수 있는 매의 눈이 필요하다.
