218 제22대 국회의원선거 총람 PART 01ㆍ제22대 국회의원선거 추진상황 라. 허위사실공표·비방 및 위법 AI콘텐츠 예방활동 온라인 선거운동이 각 정당 선거전략의 중심으로 자리잡은 상황에서, 챗GPT 등 생성형 AI의 등 장으로 전문가 영역에서만 가능했던 인공지능 기술이 일상으로 들어오게 되어 딥페이크 영상 등 무 분별한 허위 콘텐츠들이 온라인상에서 유권자의 판단을 흐리는 상황에 대한 우려가 있었다. 이에 우리 위원회는 2023년 8월부터 허위사실공표·비방 특별대응팀을 운영하는 한편, 팀 내에 AI 전담반을 설치하는 등 신종 사이버 선거범죄 예방과 조기 차단에 주력하였다. 또한, 시·도 사이버 업무 담당자를 대상으로 2023년 5월 ~ 7월 참여식 실무연수를 실시하고, 2024년 1월에는 희망자를 대상으로 추가 교육을 실시하는 등 허위사실공표 등에 대한 대응능력 강화를 도모하였다. 1) 딥페이크 영상 등 인공지능(AI)를 이용한 선거운동 대응 선거일전 240일 전부터 운영한 AI 전담 모니터링반은 다양한 해외사례를 학습하고 유통 경로를 분석하면서 예상되는 딥페이크 선거범죄를 대비하였고, 선거일전 90일부터는 전담 모니터링 인원 을 전국 59명으로 확대하는 한편 외부 전문가로 구성된 감별 자문위원 3인을 위촉하여 총 62명의 인력을 운영하였다. 2023년 12월에 딥페이크 영상 등을 이용한 선거운동 금지 조항(「공직선거법」제82조의8)이 국회 를 통과함에 따라, 위원회는 법 개정 사항 및 법규운용기준 등의 대국민 이해 제고를 위하여 TV·신 문 등 언론 대상 직접 인터뷰 및 보도자료 제공을 통해 적극적인 예방·안내 활동을 전개하는 한편, AI 콘텐츠 감별 프로그램을 도입한 3단계 감별 체계*를 마련하였다. * (1차) 시각적 탐지 (2차) 프로그램 감별 (3차) 자문위원 감별 법 개정 사항이 적용된 2024년 1월 29일 이후 온라인상에 게시된 ①선거운동을 위해 ②인공지 능 기술 등을 이용하여 만든 ③실제와 구분하기 어려운 콘텐츠에 대해서는 미국의 권리침해에 따른 ‘통지 및 게시중단(Notice and Takedown)’의 절차를 참조하여 선제적으로 삭제요청 조치를 실시
RkJQdWJsaXNoZXIy MjM0MzgwNg==