지난해 3월 인공지능 바둑 프로그램 '알파고'와 대결을 펼친 이세돌 9단(오른쪽)과 알파를 개발한 딥마인드의 데미스 하사비스 대표/뉴스1 © News1 송원영 기자

인공지능(AI)으로 대표되는 4차 산업혁명 시대를 맞아 지능정보기술의 산업적 가치를 높이고 사회적 부작용을 예방하기 위한 '윤리 가이드라인'이 올연말 공개된다.28일 과학기술정보통신부에 따르면 정부와 민간이 힘을 합쳐 마련한 '지능정보사회 윤리 가이드라인'이 12월 마지막주에 공식 발표될 예정이다.

가이드라인은 4차 산업혁명 시대에 지능정보기술의 급속한 발전에 따른 부작용을 해소하고 문재인 정부가 주창하는 '인간중심의 지능정보사회 구현'을 위한 지침을 담고 있다.

앞서 과기정통부는 지난해말부터 한국정보화진흥원(NIA)과 함께 민간전문가들로 구성된 '정보문화포럼'을 운영해 가이드라인 제정을 준비해왔다.

과기정통부는 "국내외적으로 지능정보기술에 대한 윤리적 지침이 다양하게 제시되고 있지만 대부분 과학자, 법학자 등 전문가 집단 주도로 추진돼 사회적 공론화를 위해 정부를 포함한 민관협력 차원의 윤리적 대응이 필요했다"고 밝혔다.지난 9월말에는 공청회를 열고 가이드라인 초안을 공개한 바 있다. 과기정통부는 초안에 근거해 이해관계자와 전문가들의 의견수렴 과정을 거쳐 이달 '최종본'을 확정지었다.

과기정통부 관계자는 "초안과 크게 달라진 점은 없으며 일부 어렵거나 중복되는 표현을 수정했다"고 설명했다. 관계 부처와 정부기관 등을 대상으로 오는 30일까지 의견수렴도 요청한 상태다.

가이드라인의 기본 방향은 지능정보기술의 잠재적 위협으로부터 사회시스템을 보호하는 '사전 예방원칙'에 입각한다는 점이다. 또 인간의 복지와 자유 확대라는 측면에서 지능정보기술에 따른 부작용을 경감하는 윤리규범을 제시하는 것이 핵심이다.

특히 가이드라인은 지능정보기술을 개발자, 공급자, 이용자 등 3개 주체를 중심으로 서술하고 이들이 공통적으로 지켜야 할 원칙으로 △공공성(Publicness) △책무성(Accountability) △통제성(Controllability) △투명성(Transparency)을 담고 있다.

공공성을 위해 개발자는 지능정보기술 개발시 성, 인종, 종교, 지역 등에 따른 근원적 차별을 배제하고 인류의 보편적 복지에 기여할 기술개발에 우선해야 한다.

공급자는 제품이나 기술의 기획·보급을 통한 사회문제 해결에 지속 관심을 가져야 하며 상업적 이익과 공공 기여 사이의 조화를 운영원칙으로 삼아야 한다. 이용자는 악의적 목적으로 서비스를 이용하지 않으며 기술의 개선과정에 참여할 필요가 있다.

책무성은 개발자에게 정보 교류와 기술갱신에 대한 의무를 부과한다. 공급자는 기술로 인한 문제가 발생할 경우 합리적 책임과 보상 원칙을 마련해야 한다.

통제성 측면에서 개발자는 기술의 제어가능성을 유지하기 위해 지속적 품질관리를 실시할 필요가 있다. 또 인공지능 알고리즘의 오작동 및 위험을 원천적으로 막기 위해 '절대적 동작 중지기능' 등의 제어장치를 마련해야 한다.

이밖에 투명성을 지키기 위해 개발자는 이용자의 사생활 침해를 막고 필요한 데이터 공유에 적극 임해야 한다. 공급자도 이용자나 제3의 정보를 부당하게 이용해선 안 되며 기술 보급 과정에서 도출된 위험을 이용자들에게 알려야 한다.

과기정통부 관계자는 "지능정보사회 윤리 가이드라인은 인간의 도덕적 가치와 윤리원칙의 관점에서 인간과 조화를 이뤄야 하며 궁극적으로 인간에게 도움이 돼야 한다는 원칙을 구현하는 데 노력했다"고 말했다.


sho218@