1000명 모여 네이버·SKT·업스테이지 LLM 모델 검증한다

(서울=뉴스1) 조재현 기자 = 과학기술정보통신부와 한국정보통신기술협회(TTA)가 4월 11일부터 이틀간 서울 강남구 코엑스에서 개최하는 '생성형 인공지능(AI) 레드팀 챌린지' 참가자 1000명을 모집한다고 21일 밝혔다.

AI 레드팀은 적대적 방법을 사용해 AI 시스템의 결함·취약성을 식별하기 위한 테스트 활동이다. AI 안전·신뢰성을 확보할 수 있는 핵심 방법으로 오픈AI, 구글, 네이버클라우드 등도 자체 AI 레드팀을 운영 중이다.

과기정통부는 국내 AI 기업의 대형언어모델(LLM)을 집중 점검, 민간이 자율적으로 AI 안전·신뢰성을 확보할 수 있도록 지원하고자 이 행사를 기획했다.

1일 차 행사는 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 AI 기업의 모델을 대상으로 참가자가 잠재적 위험·취약점을 식별하는 공개 챌린지 방식으로 진행된다.

2일 차에는 하정우 네이버 퓨처 AI 센터장, 에릭 데이비스 SK텔레콤 부사장, 김경훈 카카오 이사, 에이단 고메즈 코히어 대표, 에마드 모스타크 스태빌리티AI 최고경영자(CEO), 댄 헥드릭스 xAI 안전 담당고문 등 국내외 AI 전문가들이 생성형 AI 안전·신뢰성 확보 방안을 논의한다.

과기정통부는 결과를 바탕으로 생성형 AI 레드팀 수행가이드라인을 마련하는 등 표준화된 AI 위험 발굴·대응체계를 구축해 나갈 계획이다.

참가 희망자는 4월 10일까지 행사 홈페이지에서 신청하면 된다. 위험·취약점을 가장 많이 발견한 총 5명에겐 과기정통부 장관상 등을 포함해 총 1700만 원 규모 상금이 수여된다.

cho84@news1.kr