[사설] 민주주의 위협하는 ‘딥페이크’ 차단하라

이 시간 주요기사

뉴스 > 사설

현재 인력으로 ‘딥페이크’ 신속 적발 한계점 드러나
선거 관련된 인공지능 악용 추세 세계적 대응 분주
네이버·카카오톡 등 주요 포털도 적극 대처 나서야

스카이데일리 기자페이지 + 입력 2024-02-22 00:02:01

제22대 국회의원 선거가 얼마 남지 않은 가운데 우려했던 일이 발생했다. ‘딥페이크’라 불리는 가짜 영상·이미지 게시물이 선거운동에 활용되고 있는 정황이 포착된 것이다. 중앙선거관리위원회(선관위)는 지난달 29일부터 이달 16일까지 자체 조사 결과 129건의 불법 게시물을 적발했다고 밝혔다. 불과 19일 동안 적발한 게 이 정도이니 앞으로 선거 전까지 계속 확산될 가짜 영상·이미지들은 또 얼마나 될 것인지, 선관위가 이들을 다 적발해 낼 수 있을지 우려된다.

선관위가 적발한 딥페이크 불법 게시물은 인공지능(AI)을 활용해 특정 정치인 관련 가짜 이미지를 합성한 것들이다. 이런 이미지나 영상물은 딥페이크를 통해 상대당 후보의 이미지를 부정적으로 왜곡하거나 조롱하기 위한 목적으로 만들어진다. 선관위는 이런 불법 선거 영상물을 적발해 모두 삭제했다고 한다. 하지만 선거 전까지 이런 불법 딥페이크가 계속 나오지 말란 법은 없다. 오히려 앞으로 더 기승을 부릴 가능성이 크다.

선거를 앞두고 진위를 구별할 수 없는 가짜 이미지와 영상이 나돌 것이라는 건 충분히 예견된 일이다. 2022년에도 지방선거를 앞두고 윤석열 대통령이 당시 국민의힘 특정 후보를 지지하는 영상이 사회관계망서비스(SNS)를 통해 확산해 논란이 되기도 했는데, 이는 AI로 만들어진 가짜 영상이었다.

이런 점을 우려해 국회는 지난해 12월 본회의에서 선거일 90일 전부터 딥페이크를 활용한 선거운동을 원천 금지한다는 내용의 공직선거법 개정안을 의결한 바 있다. 다만 이번 총선의 경우 법 공포 한 달 후인 지난달 29일부터 적용된 것이다.

개정된 공직선거법에 의해 딥페이크 선거운동으로 적발되면 7년 이하의 징역이나 1000만~5000만 원의 벌금에 처해진다. 가짜 이미지나 영상이 민주주의의 근간을 이루는 선거의 공정성을 훼손할 수 있다는 죄의 엄중함에 비해 처벌이 너무 가벼운 것 아니냐는 지적이 나오기도 한다. 다시 말해 처벌의 위험을 감수하더라도 불법 선거물 유포로 얻게 될 이득이 크다면 법의 구속력이 약해질 수 있다. 또 딥페이크가 걷잡을 수 없이 제작·유포될 때 선관위 전담팀만으로 이를 막아 낼 수 있느냐는 지적도 일리가 있다.

선거를 앞두고 가짜 게시물인 딥페이크로 골머리를 앓고 있는 건 우리뿐이 아니다. 올해 11월 대선을 치를 미국에서는 조 바이든 대통령의 가짜 목소리로 유권자에게 전화가 걸려오는가 하면, 영국·슬로바키아 등에서도 정치적으로 조작된 음성 메시지 사례가 속출했다.

최근 독일 뮌헨안보회의(MSC)에서 구글·오픈AI·메타 등 글로벌 빅테크 기업들이 세계 각국 선거판에서 딥페이크를 차단하는 방안을 마련하겠다는 내용의 합의문을 발표했다. 이는 딥페이크가 선거에 영향을 미쳐 혼란을 야기할 수 있다는 우려에서 비롯된 것이다.

이 자리에서 합의된 내용은 AI를 기반으로 한 딥페이크에 일종의 꼬리표인 ‘워터마크’를 붙여 차단한다는 것이다. 하지만 이는 강제성도 없거니와 이 역시 AI를 활용한 소위 ‘AI 지우개’로 지우는 것이 이미 가능한 것으로 알려져 있어 실효성을 크게 기대하기 어렵다.

향후 이 부분은 기술적으로 보완될 것으로 기대된다. 하지만 당장 선거를 목전에 둔 우리로서는 이 기술 개발을 기다릴 여유가 없다. 현 시점에서는 선관위를 비롯해 정부와 민간기업·시민사회가 협력해 딥페이크를 차단하는 방안을 마련하는 수밖에 없다. 특히 선거에 영향력이 큰 국내 주요 포털 네이버·카카오 등은 강력한 필터링 장치를 마련하는 등 신속하고도 적극적인 대응에 나서야 할 것이다.

스카이데일리 skyedaily@skyedaily.com 기자페이지 +