"개발자도 예측 어려운 AI 부작용…예방보다 빠른 대응체계 중요"

(서울=뉴스1) 김승준 기자 = '인공지능(AI) 기본법'을 마련할 때 섣부른 규제보다 빠른 피드백, 사전 위험 평가 등 관리체계 구축이 중요하다는 의견이 나왔다.

현행 AI 기술은 작동 과정을 정확히 파악하기 어려운 '블랙박스 문제'가 있어 개발자도 결과물을 예측해 위험을 모두 예방하기 어렵기 때문이다.

최민희 국회 과학기술정보방송통신위원장(더불어민주당)은 12일 국회에서 시민기술네트워크와 함께 '시민참여 AI 기본법 추진을 위한 쟁점 토론회'를 개최했다.

AI 기본법은 지난 21대 국회에서 입법이 추진됐으나 안전장치 관련 논의가 이뤄지다 국회 임기가 끝나며 좌초됐다. 다시 22대 국회에서 10여건이 발의되는 등 입법이 추진되고 있다.

발제에 나선 김정원 영국사회혁신연구소 '스프레드 아이' 대표는 "유럽연합(EU)의 법안은 앞으로 어떤 위험이 있는지 자신할 수 없기 떄문에 빠르게 피드백을 돌릴 수 있는 절차에 공을 들인 것이 핵심"이라며 "AI 사용으로 인한 피해를 아는 사람들은 (기술 전문가가 아니라) 피해자기 때문에 시민단체 등의 피드백이 중요하다"고 강조했다.

AI 기술·산업 분야 전문가들이 규제의 기준, 표준 등을 논의하지만 인권이나 타 분야 전문가는 아니기에 한계가 있을 수 있다는 의견이다.

김정원 대표는 "런던에서 AI 서울 정상회의에 다녀오신 분들과 논의했다. 딥마인드 관계자 등도 있었는데 산업적으로 최선을 다해 테스트 시나리오를 돌려도 위험을 감지하고 예방은 어렵다는 이야기가 나왔다"며 "시민사회와 함께 일하는 프로세스가 정상회의 등을 통해서 골격을 잡는 작업이 있었으면 좋겠다는 의견이 나왔다"고 소개했다.

사우디아라비아에서 원격 연결로 참여한 하정우 네이버클라우드 AI 이노베이션 센터장은 "모델을 개발하는 수준에서는 어떤 문제가 발생할지 모든 걸 예측하기가 사실상 어렵다"며 "샌드박스 방식으로 시민사회와 활용해 보며 발생하는 문제를 즉각적으로 대응하는 형태가 돼야 한다"고 주장했다.

이어 그는 "일단 사용해 봐야 문제점과 개선점을 도출할 수 있다. 일어나지 않을 일을 상상으로 규제하는 건 바람직하지 않다"고 덧붙였다.

샌드박스 방식은 신기술을 특정 기간, 장소, 일정 규모 등 제한을 두고 우선 출시하며 규제 영향, 필요성을 평가하고 문제점을 개선해 나가는 방식이다.

한편 과학기술정보통신부 관계자는 기본법으로 골격을 만들고 지속해서 입법을 보완하는 방향을 제안했다.

남철기 과기정통부 인공지능기반정책과장은 "AI를 두고 진흥을 강조하는 측이 있고 AI 위험성을 대비한 인권을 강조하는 측이 있다. 저희는 안전과 신뢰가 지켜져야만 AI 혁신이 일어난다고 보고 있다"며 "많은 내용을 담은 완벽한 법안을 만드는 것이 현실적으로 어려워 최소한 골격을 만들고 필요한 내용을 보완 입법해 완결성을 가져가는 것이 필요하다"고 말했다.

seungjun241@news1.kr