'책임 있는 군사 AI' 청사진 확정…"핵무기는 인간이 통제해야"

(서울=뉴스1) 정윤영 기자 = 군사 분야에서 인공지능(AI) 기술 활용에 대한 우려가 증가하는 가운데 세계 주요국들이 AI 규범을 마련하기 위한 첫걸음을 뗐다.

10일 외교부는 '2024 제2차 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급회의'(REAIM 고위급회의)의 결과물로 '행동의 청사진'(블루프린트 포 액션·Blueprint for Action) 선언문을 채택했다고 밝혔다. 군사분야 AI 관련 최소한의 가이드라인 즉, AI의 이용 원칙을 만들자는 취지다.

20개 항으로 구성된 '행동의 청사진' 선언문에는 △AI가 국제 평화와 안보에 미치는 영향 △AI의 책임 있는 군사적 이용을 위한 조치 △군사 분야 AI의 미래 거버넌스 구상 등 세 가지 큰 틀로 구성됐다.

20개 항 가운데 가장 눈에 띄는 부분은 5항이다. 여기에는 국가 및 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성이 부각돼 있다.

5항은 "AI 기술이 군축, 군비통제 및 비확산 노력을 저해하지 않아야 함을 강조하며 '핵무기 없는 세계'라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"라고 지적했다.

'책임 있는 군사 분야 AI 기술'을 보장하기 위해 인간은 군사 분야 AI 적용의 활용과 효과에 대한 책임과 책무를 지며, '이러한 책임과 책무는 어떠한 경우에도 기계에게 전가될 수 없다'는 9항 내용도 주목할 만하다.

외교부 당국자는 "AI의 군사적 이용에 대한 혜택과 문제점에 대한 이해를 높이는 차원에서 지난해 REAIM 고위급회의에서 '행동 촉구(Call to Action)'가 제시된 데 이어 AI 기술의 실질적 혜택을 어떻게 나누고 위험성 어떻게 규율하면 좋겠냐는 고민의 결과물이 이번 REAIM에서 도출된 '행동의 청사진'"이라고 설명했다.

이어 "이런 작업을 토대로 유엔총회서도 해당 문제가 다뤄지고 국가 또는 국제기구 차원에서 논의되는 규율이 만들어지는 과정을 거칠 수 있다고 생각한다"라고 말했다.

REAIM 고위급회의는 AI의 군사적 이용이 국제평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제규범 형성 과정에 기여하고자 출범했다. 이는 정부·산업계·학계·국제기구 등 다중 이해관계자가 함께 참여하는 1.5트랙 국제 다자회의체다.

이번 회의는 외교부와 국방부 공동 주관으로 이날부터 양일간 진행되며 네덜란드·싱가포르·케냐·영국이 공동 주최국으로 참여했다. 90여개국 정부 대표단이 참석하며 이 중 34개국에서 외교·국방 장·차관급이 자리했다.

yoonge@news1.kr