과학기술정보방송통신위원회

정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

대표발의 김민전·공동발의 0인·발의일 2024.10.28

쉬운 풀이공식 요약을 쉽게 풀어쓴 보조 설명 (AI 작성) · 정확한 내용은 아래 원문 요약 기준

최근 인공지능으로 만든 가짜 영상이나 음성이 늘어나면서 이를 구분하기 어렵고 악용되는 사례가 발생하고 있습니다. 이에 따라 인공지능으로 만든 정보를 올릴 때는 반드시 표시하도록 의무화합니다. 또한, 사람의 얼굴이나 신체 등을 동의 없이 가공한 인공지능 생성물의 유통을 금지하여 안전한 이용 환경을 만들고자 합니다.

인공지능 생성물 게시 시 해당 사실 표시 의무화
동의 없는 인공지능 기반 가공물 유통 금지
인공지능 생성물 관련 규제 조항 신설

제안이유 및 주요내용 최근 정보통신망을 통하여 인공지능 기술을 이용하여 만든 가상의 음향ㆍ화상 또는 영상 등의 정보(이하 “인공지능 생성물”이라 함)가 빈번하게 유통되고 있음. 그런데 현행법은 인공지능 생성물에 관한 규제조항을 두고 있지 않아 이용자가 어떠한 정보가 인공지능 생성물인지 판단하기 어렵고, 인공지능 기술을 이용하여 만든 음란물의 유통방지에 미흡한 측면이 있음. 이에 인공지능 생성물을 정보통신망에 게시하려는 자로 하여금 해당 정보가 인공지능 생성물이라는 사실을 표시하도록 하여 이용자가 인지할 수 있게 하는 한편, 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 인공지능 생성물로서 대상자의 동의 없이 편집ㆍ합성 또는 가공한 정보를 불법정보에 포함하여 유통을 금지함으로써 정보통신서비스의 안전한 이용환경을 조성하려는 것임(안 제43조의2, 제44조의7제1항제1호의2, 제72조제1항제1호의3 및 제76조제3항제4호의2 신설 등).