과학기술정보방송통신위원회

인공지능의 안전 및 신뢰 기반 조성에 관한 법률안

대표발의 의원·공동발의 0인·발의일 2024.11.18

쉬운 풀이공식 요약을 쉽게 풀어쓴 보조 설명 (AI 작성) · 정확한 내용은 아래 원문 요약 기준

이 법안은 인공지능 기술이 일상과 전문 분야에 널리 쓰이면서 생기는 위험을 줄이고, 안전하게 기술을 발전시키기 위한 기본 규칙을 정하려는 것입니다. 이를 위해 인공지능 관련 정책을 심의할 국가위원회를 설치하고, 정부가 인공지능 윤리 원칙을 마련하도록 했습니다. 특히 국민의 안전이나 권리에 큰 영향을 줄 수 있는 고위험 인공지능에 대해서는 별도의 준수사항을 정해 관리 체계를 만들고자 합니다.

대통령 소속 국가인공지능위원회 설치 및 심의 기능 부여
정부 차원의 인공지능 윤리 원칙 제정 및 공표 근거 마련
고위험 인공지능 제공자의 의무 준수사항 규정
민간자율인공지능윤리위원회 설치 근거 마련

제안이유 인공지능 기술의 발전에 따라 교통, 의료, 복지 등 국민의 일상생활에서부터 과학의 난제 해결 등 전문영역까지 전방위적으로 인공지능이 활용되고 있음. 이러한 인공지능의 활용은 국민의 삶의 질 향상과 국가경쟁력의 강화에 기여할 것으로 기대되고 있으나, 한편으로는 인공지능의 개발ㆍ이용 과정에서 발생할 수 있는 위험에 대한 우려도 제기되는 상황임. 이에 안전하고 신뢰할 수 있는 인공지능의 발전 및 이용에 관한 기본적인 사항을 규정함으로써 국민의 건강이나 안전, 권리ㆍ의무에 중대한 영향을 미칠 우려가 있는 인공지능에 관한 규율 체계를 정립하려는 것임. 주요내용 가. 이 법은 안전하고 신뢰할 수 있는 인공지능의 발전 및 이용에 관한 사항을 정함으로써 국민경제 발전과 국민의 삶의 질 향상에 이바지함을 목적으로 함(안 제1조). 나. 인공지능, 인공지능기술, 고위험 인공지능 및 인공지능윤리 등에 대하여 정의함(안 제2조). 다. 인공지능사회의 구현, 인공지능산업의 신뢰 확보와 관련된 사항을 심의ㆍ의결하기 위하여 대통령 소속으로 국가인공지능위원회를 두도록 함(안 제6조). 라. 정부는 인공지능사업자 및 이용자가 인공지능의 개발ㆍ이용 과정에서 지켜야 할 인공지능윤리 원칙을 제정ㆍ공표할 수 있도록 함(안 제11조). 마. 과학기술정보통신부장관은 인공지능 등이 국민의 생활에 미치는 잠재적 위험을 최소화하고, 안전하고 신뢰할 수 있는 인공지능의 이용 기반을 조성하기 위한 시책을 마련하도록 함(안 제12조). 바. 고위험 인공지능 제공자 등이 지켜야 할 준수사항을 규정함(안 제14조부터 제17조까지). 사. 민간자율인공지능윤리위원회의 설치 근거를 규정함(안 제18조).