인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법, 이른바 ‘AI기본법’이 22일부터 시행됐다. AI와 관련해 부분 규제가 아닌 포괄적 법령을 적용한 것은 세계 최초다.

과학기술정보통신부는 이날 AI 산업의 체계적 육성과 안전한 활용 기반을 조성하기 위한 AI기본법을 시행한다고 밝혔다.

이 법은 지난해 1월 21일 제정돼 입법고시를 통해 이날부터 시행됐다. AI 생성물 표시 의무(워터마크)와 투명성·안전 책임 체계를 제도화한 것이 핵심이다.

다만 규제 대상은 일반 이용자가 아닌 ‘AI 사업자’에 한정되며, 정부는 초기 혼란을 고려해 최소 1년 이상의 계도기간을 두겠다는 방침이다.

AI기본법의 적용 대상은 AI 모델을 개발하거나 이를 활용해 서비스를 제공하는 사업자다. 법은 AI 개발 사업자와 AI 이용 사업자로 구분되며, 투명성 확보 의무와 워터마크 부착 책임은 ‘최종적으로 이용자에게 AI 서비스를 제공하는 사업자’에게 부과된다.

예컨대 A기업이 개발한 AI 모델을 B기업이 API 형태로 가져와 자사 서비스에 적용할 경우, AI 생성물 표시 의무는 B기업이 진다. 모델 개발과 서비스 제공을 동시에 수행하는 경우에는 해당 기업이 직접 책임을 부담한다.

이 구조에 따라 오픈AI, 구글, 네이버 등 자체 모델과 서비스를 함께 운영하는 기업들이 투명성 의무의 직접 대상이 된다.

반면 AI를 활용해 웹툰을 제작하거나 영상·그래픽을 만드는 창작자, 단순 업무에 AI를 사용하는 일반 이용자는 법적 의무 대상이 아니다. 개인 이용자나 창작자에게 별도의 워터마크 부착 책임이 부과되지는 않는다.

워터마크 제도의 핵심은 ‘AI 생성물임을 이용자가 인식할 수 있도록 사전 고지하는 것’이다.

챗봇 응답, 이미지·영상 생성물, 게임 내 AI 기능 등 AI가 활용된 서비스에는 표시 의무가 적용된다. 일반 생성물의 경우 가시적 워터마크뿐 아니라 기계 판독이 가능한 비가시적 워터마크도 허용된다.

다만 사실과 구분이 어려운 딥페이크 생성물에 대해서는 사람이 인식할 수 있는 가시적 표시가 원칙적으로 의무화된다. 예술·창작물 등 콘텐츠 감상에 영향을 줄 수 있는 경우에 한해 예외적으로 비가시적 표시가 허용된다. 구체적인 방식은 과기정통부가 마련한 투명성 가이드라인을 따르게 된다.

법은 ‘고영향 AI’ 개념도 도입했다. 에너지, 금융(대출 심사), 먹는 물, 교통, 채용, 교육 등 10개 분야에서 인간의 권리와 안전에 중대한 영향을 미칠 수 있는 AI가 대상이다.

다만 채용·교육 등 영역에서도 사람이 최종 판단에 개입하는 구조라면 고영향 AI로 분류되지 않는다. 현재 기술 수준에서는 레벨4 이상 자율주행 등 일부 영역만 해당돼 단기적 파급효과는 제한적일 것이라는 평가다.

법 위반 시 정부는 사실조사, 시정명령, 최대 3000만 원의 과태료 부과가 가능하다. 그러나 과기정통부는 법 시행 초기 혼선을 고려해 최소 1년 이상의 계도기간을 운영하고, 해당 기간 동안 과태료 부과와 사실조사를 원칙적으로 유예한다는 방침이다.

그러나 인명 피해, 중대한 인권 침해, 국가적 피해 우려가 있는 경우에는 예외적으로 조사에 착수한다는 계획이다.

정부는 제도 안착을 지원하기 위해 기업 대상 전담 창구를 운영한다. 과기정통부는 기업 문의에 대응하는 ‘AI 기본법 지원 데스크’를 통해 법 적용 여부, 의무 범위, 워터마크 방식 등에 대한 안내와 맞춤형 컨설팅을 제공할 예정이다.

과기정통부 관계자는 “규제는 최소화하되 투명성과 안전 원칙은 분명히 하겠다”며 “산업 경쟁력 강화와 이용자 보호를 동시에 달성하는 방향으로 법을 운영하겠다”고 밝혔다.