과학기술정보방송통신위원회

정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

대표발의 김용민·공동발의 0인·발의일 2024.09.02

쉬운 풀이공식 요약을 쉽게 풀어쓴 보조 설명 (AI 작성) · 정확한 내용은 아래 원문 요약 기준

최근 인공지능을 이용한 딥페이크 음란물 제작과 유포가 늘어나며 피해가 커지고 있습니다. 이에 따라 정보통신서비스 제공자가 딥페이크 허위영상물을 발견했을 때 즉시 삭제 등 필요한 조치를 하도록 의무화합니다. 또한 이를 이행하지 않을 경우 징벌적 손해배상을 적용하여 피해를 방지하고자 합니다.

정보통신서비스 제공자의 딥페이크 허위영상물 즉각 조치 의무화
조치 미이행 시 징벌적 손해배상 제도 도입

제안이유 및 주요내용 영상합성기술 교육이 활발해지면서 누구나 손쉽게 인공지능 기술을 이용하여 일반인의 얼굴에 음란물을 편집 및 합성해 딥페이크 허위영상물을 제작할 수 있음. 경찰청 자료에 따르면 딥페이크 음란물 범죄가 계속 증가하고 있음. 또한 최근 3년간 경찰에 신고된 딥페이크 허위영상물 사건의 피해자 10명 중 6명이 미성년자로 나타남. 딥페이크 허위영상물에 의한 피해자의 고통은 불법촬영물과 다를 바 없음. 현행법은 불법촬영물과 달리 딥페이크 허위영상물이 SNS 등 정보통신망에 유포되어도 이를 막을 방법이 없음. 이에 정보통신서비스 제공자로 불법촬영물과 같은 수준으로 딥페이크 허위영상물에 대해서도 즉각적인 조치를 취하도록 하고, 그러지 않을 경우 징벌적 손해배상을 도입하고자 함(안 제44조의7).