1000명 모여 네이버·SKT·업스테이지 LLM 모델 검증한다(종합)

(서울=뉴스1) 조재현 기자 = 정부가 민간과 손잡고 인공지능(AI)의 잠재적 위험과 취약점을 찾아내는 공개 챌린지 행사를 연다.

과학기술정보통신부와 한국정보통신기술협회(TTA), 초거대AI추진협의회는 4월 11일부터 이틀간 서울 강남구 코엑스에서 '생성형 인공지능(AI) 레드팀 챌린지'를 열고, 행사에 참가할 1000명을 모집한다고 21일 밝혔다.

AI 레드팀은 적대적 방법을 사용해 AI 시스템의 결함·취약성을 식별하기 위한 테스트 활동이다. AI 안전·신뢰성을 확보할 수 있는 핵심 방법으로 오픈AI, 구글, 네이버클라우드 등도 자체 AI 레드팀을 운영 중이다.

과기정통부는 국내 AI 기업의 대형언어모델(LLM)을 집중 점검, 민간이 자율적으로 AI 안전·신뢰성을 확보하도록 지원하고자 이 행사를 기획했다.

행사는 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 AI 기업의 LLM 모델을 대상으로 참가자가 잠재적 위험·취약점을 식별하는 공개 챌린지 방식으로 진행된다. 대표 파트너사로 참여하는 네이버는 행사에서 축적된 검증 데이터를 기반으로 자사 초거대 AI '하이퍼클로바X'의 안전성을 한층 강화할 계획이다.

안전한 AI 개발을 주제로 국내외 AI 기술 리더들이 참여하는 콘퍼런스도 마련된다.

북미 AI 스타트업 '코히어'의 공동 창업자 에이단 고메즈 대표를 비롯해 해외 빅테크가 AI 안전 표준 개발을 위해 공동 출자한 '프런티어 모델 포럼'의 크리스 메세롤 의장, 최고 수준의 이미지 생성 AI 개발사인 '스태빌리티AI'의 에마드 모스타크 최고경영자(CEO), 하정우 네이버 퓨처 AI 센터장, 에릭 데이비스 SK텔레콤 부사장, 김경훈 카카오 이사, 오혜연 카이스트 교수 등이 연사로 나선다.

네이버는 지난해 영국 정부가 개최한 AI 안전 정상회의에도 한국을 대표하는 기업 두 곳 중 하나로 초청받아 오픈AI, 딥마인드, 앤트로픽 등과 협력을 논의한 바 있다.

김유원 네이버클라우드 대표도 초거대AI추진협의회 회장사 대표로서 축사를 한다. 초거대AI추진협의회는 AI 경쟁력 강화를 위해 국내 대·중소 105개 기업이 회원사로 참여해 지난해 6월 발족했다.

과기정통부는 행사 결과를 바탕으로 생성형 AI 레드팀 수행가이드라인을 마련하는 등 표준화된 AI 위험 발굴·대응체계를 구축해 나갈 계획이다.

참가 희망자는 4월 10일까지 행사 홈페이지에서 신청하면 된다. 위험·취약점을 가장 많이 발견한 5명에겐 과기정통부 장관상 등을 포함해 총 1700만 원 규모 상금이 수여된다.

cho84@news1.kr