[서울이코노미뉴스 박희만 기자] 정부가 인공지능(AI) 사업자에게 ‘고영향 AI’와 ‘생성형 AI’의 사용 사실을 이용자에게 알리도록 의무화하고, AI가 국민의 기본권에 미치는 영향을 사전에 점검하는 ‘AI 영향평가 제도’를 구체화했다.
다만 제도 시행초기 산업 혼란을 최소화하기 위해 최소 1년간 과태료는 부과하지 않기로 했다.
과학기술정보통신부는 이같은 내용을 담은 ‘AI 기본법 시행령’ 제정안을 12일 입법예고했다. 제정안은 40일간의 의견수렴 절차를 거쳐, 내년 1월22일 시행되는 AI 기본법의 세부방안을 확정할 예정이다.
과기정통부는 이번 제정안에 대해 “글로벌 규범 동향과 국내 AI 산업 성장상황을 종합적으로 고려해, 진흥 중심의 유연한 규제체계를 도입했다”며 “중복규제를 최소화하고 산업의 자율성을 보장하는 방향으로 설계했다”고 설명했다.
이에 따라 식품의약품안전처, 금융위원회, 원자력안전위원회 등 관계부처 소관 법률에서 이미 이행중인 의무는 AI 기본법상 고영향 AI 사업자 책무를 동시에 충족한 것으로 간주된다.
시행령에 따르면 사업자는 고영향 AI나 생성형 AI를 활용한 서비스 제공시, 인공지능이 작동하고 있다는 사실을 사전에 이용자에게 명확히 고지해야 한다.
특히 실제와 구분하기 어려운 생성형 AI의 결과물에는 ‘AI 생성물’임을 표시하도록 했다. 다만 이용자의 연령이나 신체적 조건 등 상황에 따라 예외를 둘 수 있다.
안전성 확보대상 AI 시스템은 미국 등 해외 기준을 참고해 학습시 누적 연산량이 10의 26승 FLOPs(부동소수점 연산) 이상인 시스템으로 규정됐다.
고영향 AI 여부는 사용영역, 기본권 침해 위험의 중대성, 발생빈도 등을 종합적으로 고려해 판단한다. 확인절차에는 기본 30일이 소요되며, 필요시 1회에 한해 30일 연장할 수 있다.
AI 제품이나 서비스가 사람에게 미치는 영향을 사업자가 스스로 평가하는 ‘AI 영향평가 제도’도 구체화됐다. 사업자는 영향받는 기본권의 종류, 영향의 형태, 완화방안 등을 포함한 평가를 수행해야 한다.
또 AI 연구개발(R&D), 학습용 데이터 구축, AI 도입·활용 등 산업 진흥을 위한 지원기준과 절차도 명시됐다. AI 집적단지의 지정기준과 운영절차도 함께 규정됐다.
AI 안전·신뢰성을 전문적으로 다룰 인공지능안전연구소, 정책 개발과 국제규범 확산을 지원할 인공지능정책센터, 그리고 AI 집적단지 지원을 담당할 전담기구 등의 설치 및 운영 근거도 마련됐다.
정부는 제도 도입초기 기업의 혼란을 방지하기 위해 최소 1년 이상 과태료 부과를 유예하는 ‘계도기간’을 운영한다.
이 기간 동안 통합안내지원센터(가칭)를 통해 기업들의 법 적용 문의를 지원하고, 현장 의견을 반영해 제도를 지속 보완할 계획이다.
과기정통부는 향후 AI 기본법 시행에 맞춰 AI 인증 및 영향평가 수행비용을 정부 예산으로 지원하고, 관련 가이드라인을 지속 개선할 방침이다.
배경훈 과기정통부 장관은 “AI 기본법 시행령 제정안은 대한민국이 ‘AI G3(글로벌 3대 AI 강국)’ 지위를 확고히 하는 제도적 초석이 될 것”이라며 “입법예고 기간 동안 산업 현장의 다양한 의견을 수렴해, AI 산업발전과 신뢰기반 조성이라는 법 취지를 충실히 반영하겠다”고 말했다.
시행령 제정안은 과기정통부 홈페이지 ‘입법·행정예고’ 게시판에서 확인할 수 있으며, 의견은 다음 달 22일까지 이메일이나 우편으로 제출할 수 있다.