"AI 안전은 글로벌 이슈"…'국제 AI 안전연구소 네트워크' 출범

(서울=뉴스1) 김승준 기자 = 과학기술정보통신부는 20~21일 미국 샌프란시스코에서 열린 '국제 AI 안전연구소 네트워크' 행사에 참석해 국제적 네트워크를 구축했다고 22일 밝혔다.

이번 행사는 5월 'AI 서울 정상회의'에서 발표된 '서울 선언'의 핵심의제인 안전한 인공지능(AI)을 만드는 글로벌 협력을 이행하려고 열렸다.

한국은 정상회의 후 AI 안전연구소 출범을 추진해 이달 말 개소를 앞두고 있다.

이번 '국제 AI 안전연구소 네트워크 행사'에는 지난주 임명된 김명주 AI 안전연구소 소장을 포함한 한국 대표단이 참석했다.

이번 행사에는 주최국 미국을 포함해 10개국 AI 안전연구소 또는 상응하는 연구기관), AI 안전 분야 기술전문가 등이 참석해 '국제 AI 안전연구소 네트워크' 출범을 선언했다. 이어 네트워크 미션 및 운영 거버넌스 논의와 AI 안전 연구·테스팅·지침을 주제로 기술적 논의가 진행됐다.

'국제 AI 안전연구소 네트워크'는 전 세계의 기술 전문성을 결집해 AI 안전 관련 위험과 완화를 주제로 힘을 합친다.

상호 운용할 수 있는 원칙, 모범사례 적용 지원을 목표로 연구, 테스팅, 지침, 포용 협력이 중점 추진된다.

기술 세션에서는 합성콘텐츠 위험 저감, AI 모델 테스트, 위험 평가 등 다방면의 논의가 이뤄졌다.

한국대표단은 '딥페이크 탐지 및 생성억제 기술 연구'(우사이먼성일 성균관대 교수), 'AI 위험평가 및 검증 체계'(곽준호 한국정보통신기술협회 AI 신뢰성 정책팀장) 등 연구 성과를 발표했다.

송상훈 정보통신정책실장은 "AI 안전 글로벌 연대는 우리 정부가 주도해 정립했던 서울 선언의 핵심의제였다"며 "AI 안전연구소에서 AI 안전 연구를 본격 수행하고 국제 AI 안전연구소 네트워크에도 적극 참여해 글로벌 차원의 AI 안전 기술·규범 발전에 주도적인 역할을 하겠다"고 말했다.

seungjun241@news1.kr