민영 통신사 뉴스판매사업

사진=KBS뉴스영상캡쳐

6월 지방선거 출마 예정자가 자신의 SNS에 올린 영상이 화제가 되고 있다. 실제 뉴스 영상처럼 보이지만, 해당 영상은 AI가 만든 가짜, 이른바 ‘딥페이크’다.

영상에는 시장 인파 속에서 연설하는 후보의 모습이 담겼지만, 이 또한 AI가 생성한 허위 영상으로 확인됐다. AI 기반 딥페이크 탐지 모델에 영상을 올리자 금세 ‘거짓’이라고 판명됐다. 이처럼 AI가 AI로 만든 가짜를 식별하는 셈이다.

탐지 모델은 얼굴 등 신체 조작뿐만 아니라 배경이나 목소리 진위까지 분석해 거짓 영상을 걸러낸다. 탐지 정확도는 92% 수준으로, 이전 모델 76%보다 크게 향상됐다.

지난해 대선 기간 중앙선거관리위원회가 삭제를 요청한 딥페이크 영상은 만여 건에 달하며, 2024년 총선 대비 약 27배 급증한 수치다. 정부는 개선된 탐지 모델을 중앙선관위에 제공해 6월 지방선거 기간 동안 허위 정보 유포를 신속히 차단할 계획이다.

또한 선거 90일 전부터는 AI로 제작한 영상을 선거운동에 활용하는 것이 전면 금지된다.