인공지능(AI)이 딥페이크 성범죄 영상물을 먼저 찾아내고, 삭제와 차단, 피해자 보호까지 연결하는 정부 차원의 대응 체계가 구축된다.

행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결하고 AI 기반 피해영상물 대응 시스템을 본격 추진한다고 밝혔다.

이번 협약은 생성형 AI 기술 발전으로 딥페이크 성범죄가 더욱 정교해지고 피해 영상물이 온라인을 통해 빠르게 확산하는 상황에 대응하기 위해 마련됐다.

행정안전부는 국립과학수사연구원과 공동 개발한 AI 딥페이크 탐지·분석모델을 관계기관과 공유해 피해영상물 탐지와 분석, 삭제·차단, 피해자 지원 등 대응 전 과정에 활용할 계획이다.

협약식에는 김민재 행정안전부 차관, 정구창 성평등가족부 차관, 고민수 방송미디어통신위원회 상임위원 등이 참석해 기관 간 협력 강화를 약속했다.

정부는 이번 협약을 통해 ▲AI 딥페이크 탐지·분석모델 공유 ▲피해영상물 탐지 및 삭제·차단 절차 연계 ▲피해자 정보 보호와 2차 피해 방지 등을 공동 추진한다.

성평등가족부는 기존 민간 탐지기술과 정부 AI 분석모델을 함께 활용해 의심 영상물을 보다 정밀하게 확인하고 삭제 지원에 나선다. 피해영상물 처리 과정에서 개인정보 보호와 피해자 인권 보호를 위한 업무 기준도 마련할 예정이다.

방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통 차단을 위해 플랫폼 사업자와 협력 체계를 강화한다. 재유포되거나 변형된 영상물에 대한 대응도 관계기관 정보 공유를 통해 신속하게 진행한다는 방침이다.

정부는 앞으로 피해 영상물이나 의심 콘텐츠가 접수되면 AI 탐지·분석모델을 활용해 우선 판별하고, 분석 결과를 삭제·차단 및 피해자 지원 절차와 연계할 계획이다.

특히 피해 영상 처리 과정에서 불필요한 복제와 공유, 보관을 제한하는 등 보안 관리 기준도 강화하기로 했다.

윤호중 행정안전부 장관은 “딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포와 변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동 대응이 중요하다”며 “AI 탐지·분석모델을 공유해 탐지와 분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축하겠다”고 밝혔다.