AI 딥페이크 가짜뉴스 막는다… 지방선거에 탐지 기술 도입

 

AI 딥페이크 가짜뉴스 막는다… 지방선거에 탐지 기술 도입

 

정부가 선거를 겨냥한 딥페이크 가짜뉴스에 대응하기 위해 인공지능(AI) 기반 탐지 기술을 본격적으로 도입한다. 행정안전부는 국립과학수사연구원과 함께 개발한 ‘AI 딥페이크 탐지 모델’을 오는 6월 실시되는 제9회 전국동시지방선거에 적용할 계획이라고 밝혔다. 이번 조치는 선거 과정에서 후보자의 얼굴이나 음성을 조작한 허위 정보가 확산되는 것을 방지하기 위한 것이다.

 

딥페이크 가짜뉴스 대응 AI 기술 도입

 

최근 인공지능 기술이 발전하면서 특정 인물의 얼굴이나 음성을 정교하게 합성한 딥페이크 콘텐츠가 증가하고 있다. 이러한 기술이 악용될 경우 선거 기간에 후보자의 발언이나 행동을 조작한 영상이 유포되어 유권자의 판단을 왜곡할 가능성이 있다. 이에 정부는 선거 과정에서 딥페이크 콘텐츠를 탐지하기 위한 AI 분석 모델을 활용할 계획이다.

 

AI 탐지 모델 정확도 약 92%

 

이번 탐지 모델은 2025년 12월 개최된 ‘딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회’의 성과를 바탕으로 개발됐다. 해당 대회에는 총 268개 팀, 1,077명이 참여했다. 행정안전부와 국립과학수사연구원은 최종 선정된 5개 우수 모델을 중앙선거관리위원회에 제공할 예정이다. 모델 검증 결과 탐지 정확도는 약 92% 수준으로 나타났다.

 

영상 전체와 얼굴을 동시에 분석

 

이번 탐지 모델은 두 가지 방식으로 딥페이크 여부를 분석한다. 첫 번째는 영상 전체 흐름을 분석하는 ‘전역 분석’ 방식이다. 두 번째는 얼굴 등 특정 부위를 집중적으로 확인하는 ‘국소 분석’ 방식이다. 이 두 가지 분석을 동시에 수행해 딥페이크 조작 흔적을 보다 정확하게 탐지할 수 있도록 설계됐다. 또한 최신 생성형 인공지능 기반 콘텐츠에도 대응할 수 있도록 개발됐다.

 

범정부 협력으로 디지털 범죄 대응 강화

 

정부는 딥페이크 탐지 기술의 활용 범위를 앞으로 확대할 계획이다. 행정안전부와 국립과학수사연구원은 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 디지털 범죄 대응 체계를 강화할 예정이다. 이를 통해 인공지능 기술을 악용한 범죄에 보다 체계적으로 대응한다는 방침이다.

 

정리

 

정부가 발표한 딥페이크 대응 정책의 핵심은 다음과 같다. - AI 딥페이크 탐지 모델 지방선거 적용 - 생성형 AI 기반 콘텐츠 탐지 가능 - 약 92% 탐지 정확도 확보 - 중앙선거관리위원회와 협력해 대응 체계 구축 정부는 선거 과정에서 허위·조작 정보 확산을 막기 위해 인공지능 기술을 활용한 대응 역량을 지속적으로 강화할 계획이라고 밝혔다.

 

 

2026.03.10 - [정부지원·정책 소식] - 딥페이크란 무엇인가? AI 영상 조작 기술과 탐지 방법