'AI 기본법' 제정 초읽기…"합성물 추적 제한, 기술 지원 필요"

(서울=뉴스1) 신은빈 기자 = 인공지능(AI) 산업 지원과 규제 방안을 명시한 'AI 기본법'이 제정까지 관문 2개만 남겨두고 있다. 연내 통과될 가능성이 커지자 업계는 적절한 규제는 필요하지만, 법안의 골자인 AI 워터마크 삽입 조항의 실효성을 높여야 한다고 진단한다.

모든 기업이 개별적으로 AI 워터마크를 삽입하고 제작자를 추적하기엔 기술적 제약이 있고, 비가시적 워터마크 삽입을 허용한 일부 표현물의 기준이 모호하다는 지적이다.

1일 국회에 따르면 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)은 이달 법제사법위원회(법사위)와 본회의를 거칠 전망이다. 여야는 12월 4일과 10일 본회의를 열기로 합의했다.

법안이 연내 본회의를 통과하면 내년 연말쯤 시행된다. 전달 26일 여야 합의로 상임위원회 문턱을 넘은 만큼 본회의까지 차질 없이 통과할 것으로 예상된다.

AI 기본법은 △AI 생성물 워터마크 의무화 △고영향 AI 정의와 사업자 책임 강화 △국내 대리인 지정 △정부·민간 위원회 설치 △과태료 부과 등 내용을 골자로 한다.

우선 생성형 AI로 합성한 사진·영상에는 모두 워터마크를 표시해야 한다. 특히 딥페이크(AI로 가짜 이미지 합성) 생성물에는 가시적 워터마크 삽입을 의무화했다. 다만 예술·창의적 표현물은 비가시적 방식을 허용했다.

AI 워터마크 기술 개발 업체 관계자는 "AI 합성물의 제작자를 추적하려면 합성에 쓰인 알고리즘을 모두 파악해야 한다"면서 "개별 기업이 그 기술을 모두 판별하는 것은 불가능하기에 정부가 알고리즘 분석 시스템을 지원하는 등 보완이 필요하다"고 말했다.

장병탁 서울대 AI 연구원장은 "비가시적 워터마크를 허용한 예술·창의적 표현물의 기준이 모호해서 법안 취지를 완전히 살릴 수 있을지 의문"이라고 했다.

법안에는 고영향 AI의 정의와 사업자 책임도 함께 담겼다. 고영향 AI는 사람의 생명과 안전, 기본권에 중대한 영향을 미치는 인공지능이다.

기존에 고위험 AI로 규율하던 것을 고영향 AI로 대체해 부정적 인식을 피하면서도 책임 있는 사용을 요구하려는 취지다. 고영향 AI를 제공하는 사업자는 이용자에게 고영향 AI 활용 사실을 미리 알려야 한다.

또 AI 사업자로 분류된 해외 기업은 국내 대리인을 지정해 안전성과 신뢰성을 확보하도록 했다. 만약 위의 사업자 의무를 위반하거나 시정명령을 이행하지 않으면 최대 3000만 원의 과태료를 부과한다.

이재성 중앙대 AI 학과 교수는 "최근 딥페이크 성범죄가 발생하면서 AI 규제의 필요성은 더 커졌다"며 "기업들은 수익을 위해 해외 시장에 진출해야 하는 만큼 유럽연합(EU)의 AI 규제법과 유사한 고영향 AI 규제로 이중부담을 피하는 효과도 있을 것"이라고 분석했다.

문형남 숙명여대 글로벌융합학부 교수는 "물론 규제도 필요하지만 기술 발전을 가로막을 우려도 있다"며 "산업 육성 방안도 구체적으로 마련해야 업계의 우려를 덜 수 있다"고 말했다.

산업 진흥을 위한 조항도 있다. AI 관련 주요 정책 사항은 대통령 소속 국가인공지능위원회를 설치해 심의·의결하도록 했다. 연구자와 개발자가 소속된 민간자율인공지능윤리위원회는 AI 기술을 연구·활용할 때 윤리 원칙 준수 여부를 확인한다.

bean@news1.kr