과학기술정보방송통신위원회

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

대표발의 김대식·공동발의 0인·발의일 2026.05.11

쉬운 풀이공식 요약을 쉽게 풀어쓴 보조 설명 (AI 작성) · 정확한 내용은 아래 원문 요약 기준

현재는 인공지능이 만든 결과물임을 알리는 표시가 유통 과정에서 사라질 위험이 있습니다. 이를 방지하기 위해 결과물 자체에 눈에 보이거나 보이지 않는 워터마크를 넣어 인공지능 생성물임을 명확히 표시하도록 의무화합니다. 또한, 이러한 표시를 고의로 지우거나 바꾸는 행위를 금지하고 이를 어길 경우 처벌하는 규정을 신설합니다.

인공지능 생성물에 가시적·비가시적 워터마크 삽입 의무화
워터마크 훼손 및 위·변조 행위 금지
표시 의무 위반 시 2년 이하 징역 또는 2천만 원 이하 벌금 부과

제안이유 및 주요내용 현행법은 인공지능시스템을 이용한 가상의 음향, 이미지 또는 영상 등의 결과물이 인공지능시스템을 이용하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시할 의무를 인공지능사업자에게 부과하고 있음. 그러나, 현행법은 고지 또는 표시의 대상을 한정하고 있지 않아 유통 과정의 가공 등으로 인하여 해당 결과물이 인공지능시스템을 이용하여 생성되었다는 사실이 이용자에게 전달되지 아니하고 사람이 직접 만들거나 실제로 존재하는 정보로 유통될 위험이 있음. 따라서, 해당 결과물 자체에 코드 또는 문자ㆍ부호 등을 삽입한 비가시적 또는 가시적 워터마크를 생성하여 인공지능시스템을 이용한 생성 사실을 고지ㆍ표시하도록 하고, 이와 같은 고지ㆍ표시를 훼손 또는 위작ㆍ변작하는 행위를 금지하면서 위반 시 2년 이하의 징역 또는 2천만원 이하의 벌금에 처함으로써 인공지능 투명성 규제의 사각지대를 해소하려는 것임(안 제31조제3항ㆍ제4항 및 제42조제2항 신설).