아마존의 인공지능(AI) 비서 '알렉사'로 작동하는 스마트스피커 '에코' 의 모습.© News1

구글 어시스턴트나 애플 시리(Siri), 아마존 알렉사 등 음성 인식을 기반으로 한 인공지능(AI) 개인 비서 서비스에 새로운 보안 위협이 나타났다. 기계만 인식할 수 있는 소리를 음악 속에 묻어둬 AI 비서를 작동시키는 방식인데 악용의 소지가 있다는 주장이 나온다.

뉴욕타임스는 10일(현지시간) 미국 버클리대 연구진이 음악연주나 대화·연설 등에 사람에게는 들리지 않는 소리로 이루어진 명령을 숨겼더니 실제로 AI 비서가 여기에 응답하는 현상을 확인했다고 보도했다. 음악을 듣고 있었을 뿐인데 나도 모르는 사이 AI 비서가 스마트스피커나 스마트폰으로 물건을 구매할 수도 있는 것이다.이번 연구에 참여한 니콜라스 카를리니 버클리대 박사과정 학생은 "이미 이를 이용하기로 마음먹은 사람들이 필요한 인력을 모으고 있을 것"이라며 이같은 방식이 악용되는 건 시간문제라고 주장했다. 사물인터넷(IoT)을 이용해 집안 설비를 스마트폰으로 제어할 수 있다는 점을 감안하면 누군가 내 AI 비서를 이용해 잠긴 문을 열게 하거나 송금 명령도 내릴 수 있다. 더구나 이런 '스텔스 명령'으로 스마트기기를 무음으로 설정한다면 이용자는 누군가 자신의 AI 비서를 이용하는 동안 이를 전혀 모를 수 있다.

이미 2016년에 미 캘리포니아주립대·버클리대·조지타운대 학생들이 유튜브 영상이나 확성기 소리에 화이트노이즈로 명령을 심어서 AI 비서가 스마트폰을 비행기모드로 전환하거나 웹사이트를 열게 하는 데 성공한 바 있다. 이번에 버클리대 연구진이 사람들이 일상적으로 접하는 음악에도 은밀한 명령을 숨길 수 있다는 점을 발견해 문제가 더 심각해진 셈이다.

또 2017년에는 미 프린스턴대와 중국 저장대 연구진이 초음파로 음성인식 시스템을 작동시킬 수 있다는 것을 입증한 바 있다. 초음파 역시 사람이 들을 수 없어 마찬가지로 악용 가능성이 있다. 연구진은 7m 넘게 떨어진 곳에 있는 스마트 기기에 초음파로 명령을 보내서 악성 사이트에 접속하거나 전화를 걸게 하는 데 성공했다. 이같은 우려에 대해 아마존과 구글, 애플 등 스마트스피커 제조사들은 AI 비서가 악용되지 않도록 보안장치를 갖춰가고 있다고 설명했다.

아마존과 구글은 사람이 들을 수 없는 소리로 이루어진 명령은 AI 비서도 응답하지 않게 차단하겠다고 밝혔다. 음성인식 기술로 주인의 목소리가 아니면 응답하지 않게 개선하겠다고도 했다. 애플은 스마트스피커 홈팟이 문의 잠금장치를 풀라는 명령에는 응답하지 않게 설계돼있다고 답했다. 또 개인정보에 접근하거나 웹사이트·애플리케이션을 여는 등 명령에 응답하려면 아이폰이나 아이패드 잠금 해제가 선행돼야 한다고 했다. 하지만 스마트폰을 모든 사용자가 항상 잠가두지 않기 때문에 미봉책에 그친다는 지적이 있다.


kaysa@news1.kr