[이성엽의 IT프리즘]세계 두 번째 인공지능법의 내용

본문 이미지 - 이성엽 고려대 기술경영전문대학원 교수/기술법정책센터장
이성엽 고려대 기술경영전문대학원 교수/기술법정책센터장

(서울=뉴스1) 이성엽 고려대 기술경영전문대학원 교수/기술법정책센터장 = 지난해 12월 26일.「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 인공지능(AI) 기본법)이 국회 본회의에서 의결되었다. 이로써 한국은 유럽연합(EU)에 이어 세계 두 번째로 인공지능을 포괄적으로 규제하는 법을 갖추게 되었다.

AI 기본법은 인공지능 개발 및 육성, 인공지능 윤리 및 신뢰성 확보 등 혁신과 규제를 균형적으로 달성하고자 산업진흥과 안전성 규제를 위한 다양한 법 조항을 도입했다. AI 산업 진흥을 위해 여러 시책은 다른 산업진흥법과 크게 다르지 않으나, 안전성 규제와 관련해서는 인공지능에 관한 전 분야에 적용되는 포괄적, 수평적 규제를 전면 도입했다는 점에서 특색이 있다.

주요한 내용을 살펴보자.

첫째, 정의 규정이다. '인공지능'은 학습·추론·지각·판단·언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 AI 그 자체를 의미하며, '인공지능시스템'이란 다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 및 가상환경에 영향을 미치는 예측·추천·결정 등의 결과물을 추론하는 인공지능 기반의 시스템을 의미한다.

다만, 이런 인간유사적 AI 개념에 대해서는 인간과 유사한 기능을 반영하지 않는 AI 기술을 규율대상에서 제외하게 되며, 나아가 인간의 능력을 뛰어넘는 AI를 포섭할 수 없는 문제가 야기된다는 비판이 있다. AI 개념을 의인화가 아니라 AI 기능이 합리적으로 인간의 편익을 증진하고 권리를 침해하지 않도록 인간중심적 AI 개념을 도입해야 한다고 본다.

그 외에도 인공지능을 고영향 인공지능과 생성형 인공지능으로, 인공지능사업자를 각 인공지능을 개발하여 제공하는 자인 '인공지능개발사업자'와 인공지능을 이용하여 제품 또는 서비스를 제공하는 자인 '인공지능이용사업자'로 구분하여 부과되는 의무를 달리하고 있다. '고영향 인공지능'은 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서, 법에서 열거하는 영역 중 하나에 해당하는 경우를 의미하며, 「에너지법」 제2조제1호에 따른 에너지의 공급 등 10개의 유형을 정하고 있고 향후 대통령령으로 추가할 수도 있도록 하고 있다.

'생성형 인공지능'이란 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템을 의미한다고 규정하고 있다. 또한 학습에 사용된 누적 연산량이 대통령령 기준 이상 인공지능 사업자는 고영향에 해당하지 않더라도 추가적인 의무를 부여하고 있다는 이를 '고성능 인공지능 사업자'로 명명할 수 있는데, 소위 범용 인공지능이 여기에 포함되는 것으로 해석된다.

기본적으로 EU법과 같이 위험 기반 접근 방식을 취하여 고영향 인공지능에 대하여 특별한 규제를 하고는 있으나, EU법과는 달리 금지되는 AI를 도입하지 않았고 고위험 대신 고영향 개념을 도입한 것이 다르다. 문제는 고영향 AI 개념이다. 영향이라는 개념은 위험보다는 상위 개념으로 인간에게 도움이 되는 긍정적 영향도 규제 대상이 될 수 있는 문제가 있다.

둘째, 고영향 인공지능사업자, 생성형 인공지능 사업자, 고성능 인공지능 사업자의 규제 내용을 살펴보자.

고영향 인공지능사업자의 경우 1) 안전성·신뢰성 검·인증을 받도록 노력해야 한다. 검·인증은 일종의 자율인증이나 국가기관 등이 고영향 인공지능을 이용하려는 경우에는 검·인증 등을 받은 인공지능에 기반한 제품 또는 서비스를 우선적으로 고려하도록 함으로써 사실상 강제성을 띨다. 2) 투명성 의무와 관련해 제품 또는 서비스가 인공지능에 기반하여 운용된다는 사실을 이용자에 사전에 고지해야 한다. 3) 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하여야 하며, 필요한 경우 과학기술정보통신부장관에게 고영향 인공지능에 해당하는지 여부의 확인을 요청할 수 있다. 4) 위험관리방안의 수립·운영, 인공지능이 도출한 최종결과에 대한 설명 방안의 수립·이행 등 안전성·신뢰성 확보를 위한 조치 의무를 이행해야 한다. 5) 사람의 기본권에 미치는 영향을 평가하기 위하여 노력하여야 한다. 국가기관 등은 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하여야 한다.

생성형 인공지능사업자는 1) 제품 또는 서비스가 인공지능에 기반하여 운용된다는 사실을 이용자에 사전 고지할 의무, 2) 제품 또는 서비스 제공 시 결과물이 인공지능에 의하여 생성되었다는 사실을 표시할 의무, 3) 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우(딥페이크) 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시할 의무를 부담한다. 고영향 인공지능 사업자와 달리 표시 의무도 부담한다. 고성능 인공지능 사업자는 인공지능 수명주기별 위험 식별, 평가 및 완화, 인공지능 모니터링 및 위험관리 체계 구축 의무가 있다.

사업자별로 의무와 관련 논란이 가장 큰 조항은 고영향에 대한 사전 확인 조항이다. 이는 EU법에는 없는 조항으로 일종의 진입규제로서 성격을 가진다. 확인은 처분성을 가지게 되어 확인 거부 등에 대해서는 행정쟁송으로 다툴 수 있다. 사업자가 AI를 출시할 때마다 사실상 개발한 내용을 확인받을 수밖에 없게 될 수 있어 혁신을 저해할 가능성이 있다.

셋째, 법 집행의 실효성 확보를 위해 사실조사 등에 관한 규정도 포함됐다. 과기정통부장관은 투명성, 안전성, 신뢰성 확보 의무와 관련하여 (i) 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, (ii) 위반에 대한 신고를 받거나 민원이 접수된 경우에 사실조사를 실시할 수 있으며, 의무나 시정명령 위반에 대해서는 3000만원 이하의 과태료를 부과할 수 있다.

AI 기본법이 시행될 경우 인공지능 기술 개발, 제품 및 서비스 제공에 대한 규제 불확실성이 제거되고 인공지능 산업 진흥을 위한 지원 정책이 체계적으로 추진되어 국내 인공지능 혁신 생태계가 활성화되는 동시에 AI 규범 및 기술 주도권을 선점하게 될 것으로 기대된다.

다만, 당초 기대와 달리 규제 내용이 상당수 포함되어 혁신을 저해할 가능성이 있다. 특히, 수평규제는 특성상 다른 도메인별 기존 수직 규제를 해체, 통합하는 방식으로 진행되어야 하나, 다양한 분야의 AI 용례와 그 위험성에 대한 도메인별 전문성을 무시할 수 없다는 점에서 향후 수평규제와 수직규제가 병립되며 중복·저촉될 가능성이 있다. 이미 방송통신위원회의 AI 이용자 보호법 제정 추진 외에도 개인정보보호위원회, 금융위원회, 문화체육관광부 등 여러 부처가 올해 업무 계획에서 AI 규제를 천명한 상황이다. 이에 따라 AI 기본법은 전통적인 규제법들과 함께 광범위한 중복규제를 형성할 우려가 있다. 이 점에서 국가인공지능위원회가 강력한 콘트롤타워 기능을 행사하는 것이 필수적이다.

한국은 EU가 3년 이상에 걸쳐 고민한 AI 규제법을 본격적인 논의나 의견 수렴 없이 몇 차례의 국회 회의만으로 통과시켰고, 시행 시기도 EU법이 내년 8월 전면 시행되어, 전면 시행 시기를 기준으로 하면 공포 후 1년인 2006년 초로 예정된 한국의 AI 기본법이 더 빠르다.

향후 하위 법령 제정 과정에서 불명확한 사항은 명확히 하되, 중복, 과잉 규제로 변질될 가능성이 있는 조항에 대해서는 신중히 접근할 필요가 있다. 트럼프 2기 정부가 바이든의 AI 규제 행정명령을 폐기하고 AI 인프라에 5000억 달러(718조원)를 투자하는 프로젝트를 발표하고, 설 연휴 기간 중국의 스타트업이 챗GPT를 넘어서는 저비용, 고성능 AI 모델인 딥시크를 출시함으로써 AI 경쟁 구도에 획기적 변화를 예고하고 있다.

AI 3대 강국을 목표로 하는 한국이 미국, 중국, 영국, 일본 주요국 누구도 하지 않는 포괄적, 수평적 AI 규제법을 본격 시행하는 선택을 하는 것이 자칫 한국을 AI 후진국으로 전락시키는 우를 범하지 않기를 바란다.

대표이사/발행인 : 이영섭

|

편집인 : 채원배

|

편집국장 : 김기성

|

주소 : 서울시 종로구 종로 47 (공평동,SC빌딩17층)

|

사업자등록번호 : 101-86-62870

|

고충처리인 : 김성환

|

청소년보호책임자 : 안병길

|

통신판매업신고 : 서울종로 0676호

|

등록일 : 2011. 05. 26

|

제호 : 뉴스1코리아(읽기: 뉴스원코리아)

|

대표 전화 : 02-397-7000

|

대표 이메일 : webmaster@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 사용 및 재배포, AI학습 활용 금지.