오는 29일부터 딥페이크 영상을 활용한 선거운동이 금지된다. 

다만, 의정활동 보고, 통상적인 정당활동, 당내경선운동, 투표참여 권유활동 등에 딥페이크영상 활용하는 것은 허용된다.

중앙선거관리위원회는 18일 공직선거법 개정으로 딥페이크영상 등을 이용한 선거운동이 금지됨에 따라 위법 행위 예방·단속 종합대책을 마련해 발표했다.

누구든지 선거일 전 90일부터는 선거운동을 위해 인공지능 기술(AI) 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 딥페이크영상등)을 제작·편집·유포·상영·게시할 수 없다.

단, 포토샵·그림판과 같이 AI 기술 등을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용하는 것은 제한하지 않는다. 그러나 고급·전문가버전 등 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한대상이 될 수 있다.

AI 기술을 사용해 만든 이미지·영상 등도 총선 선거운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유 활동, 통상적인 정당 활동에는 활용할 수 있다.

선관위는 지난 11일부터 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반 등을 확대 편성·운영하고 있다.

기술적 한계를 보완하기 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높이고, 포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI콘텐츠가 선거운동에 활용되는지 여부를 집중 감시한다.

또한 AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동게시의 경우 데이터분석 등을 통해 의심사례를 발견하면 수사기관에 신속히 통보할 방침이다.

[신아일보] 송혜숙 기자

송혜숙 기자 다른기사 보기