오픈AI, "챗GPT 연령 제한 검토…안전한 AI 구현 최선"

(서울=뉴스1) 김승준 기자 = 챗GPT의 제작사인 오픈AI가 청소년 보호를 위해 AI 제품의 연령 제한을 검토한다.

오픈AI는 5일(현지시간) 공식 블로그를 통해 이같은 내용이 담긴 'AI 안전에 대한 우리의 접근 방식'이라는 공지를 공개했다.

오픈AI는 "안전한 AI를 위해 어린이를 보호하는 것도 중요한 관심사"라며 "우리의 AI 도구를 사용하려면 18세 이상이거나 부모의 승인이 있는 13세 이상이어야 하며, 연령 검증 옵션을 검토하고 있다"고 설명했다.

이어 "비영리 교육 단체인 '칸 아카데미'와 같은 개발자들과 협업해, 학생들을 위한 안전한 인공지능을 제공한다"며 "(교육과 같이 안전이 필요한) 인공지능 영역에서 결과물에 대해서 더 엄격한 기준을 적용할 수 있는 기술을 개발하고 있다"고 덧붙였다.

지난달 비영리 단체 '삶의 미래 연구소'는 '거대 인공지능 실험을 멈추자'라는 공개서한을 통해 급속도로 발전하는 AI의 파급효과를 경계했다.

아울러 인류의 번영을 위한 AI가 되려면 사회·경제·정책·기술적으로 검토할 시간이 필요하기 때문에 최소 6개월간 GPT-4보다 강력한 인공지능(AI)의 학습을 멈추자고 제안했다. 이 공동성명에서는 일론 머스크 스페이스X 최고 경영자, 유발 하라리 교수, 스티브 워즈니악 애플 공동창업자 등이 서명했다.

오픈AI는 공지를 통해 "강력한 AI 시스템이 엄격한 안전성 평가를 받아야 한다고 믿는다"며 "그렇기 위해서는 규제가 필요하며, 우리는 그러한 규제가 최선의 형태로 도입 될 수 있도록, 정부와 적극적으로 협력하고 있다"고 설명했다.

다만 공개서한에서 6개월간 인공지능 개발을 멈추자는 주장과는 다른 의견을 냈다.

오픈AI는 "안전성을 강화하는 연구를 노력하지만 한계가 있다. 사람들의 실제 사용 사례를 보고 개선하는 것이 AI 안정성을 높이는 데 중요한 요소라고 생각한다. 또 실제 기술을 사용해봤을 때 AI 기술 채택에 대한 토론을 할 수 있다"며 "AI 안전과 기능 개선이 함께 이루어져야 한다고 믿는다. 보다 유능한 모델의 개발 및 배포에 더 주의를 기울일 것"라고 말했다.

한편 이탈리아는 1일 개인 정보 보호를 이유로 인공지능(AI) 챗봇인 '챗GPT' 접근을 차단, 데이터 수집 규정 위반 여부에 대한 조사를 실시했다.

오픈AI는 "인공지능의 일부 교육 데이터에는 공개된 인터넷에서 사용할 수 있는 개인 정보가 포함되어 있지만, 개인 정보를 제거하고 있다"며 "또 AI모델을 미세 조정하여 이용자가 개인 정보를 요청해도 AI가 거부하도록 하고 있다"고 했다.

seungjun241@news1.kr