과학기술정보방송통신위원회

정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

대표발의 김장겸·공동발의 0인·발의일 2024.08.29

쉬운 풀이공식 요약을 쉽게 풀어쓴 보조 설명 (AI 작성) · 정확한 내용은 아래 원문 요약 기준

인공지능으로 만든 가짜 정보가 실제와 구분하기 어려워지면서 이용자의 혼란을 막기 위한 법안입니다. 정보통신서비스 제공자는 인공지능 생성물임을 표시하는 기능을 마련하고, 표시가 없는 정보를 탐지하거나 삭제하는 조치를 해야 합니다. 또한 정보를 올리는 사람에게는 인공지능 생성물임을 표시할 의무를 부여하고, 이를 임의로 지우거나 바꾸지 못하도록 금지합니다.

정보통신서비스 제공자의 인공지능 생성물 표시 기능 마련 의무화
표시되지 않은 가상 정보에 대한 탐지 및 유통 방지 조치 의무
정보 게시자의 인공지능 생성물 표시 의무 부과
정당한 사유 없는 표시 제거 및 변경 행위 금지

제안이유 및 주요내용 인공지능 기술의 빠른 발전에 따라 인공지능 기술을 이용하여 실제와 구분하기 어려울 수준으로 가상의 글ㆍ음향ㆍ화상 또는 영상 등의 형태로 가상의 정보를 누구나 쉽게 만들고 정보통신망을 통해 유통할 수 있는 상황임. 그러나 정보통신서비스 이용자가 어떠한 정보가 인공지능 기술을 이용하여 만들어진 가상의 정보인지 판단하기 어려워지면서 이용자로 하여금 거짓을 진실로 믿게 하는 등 부정적 영향이 발생할 수 있어 법제도적인 대응이 필요하다는 의견이 제기됨. 이에 정보통신서비스 제공자에게 인공지능 기술을 이용하여 만든 가상의 정보라는 사실을 표시할 수 있는 기능을 마련하고 해당 표시방법을 지키지 아니한 정보를 탐지하기 위한 노력 및 삭제 등의 유통 방지 조치를 취하도록 의무를 부과하며, 정보를 게재하려는 자에게는 표시의무 부과와 함께 정당한 이유 없이 표시를 제거하거나 변경하는 것을 금지하여 인공지능 기술을 이용한 가상의 정보에 따른 이용자의 혼란을 방지하려는 것임(안 제44조의11 및 제76조제3항제4호의3 신설).