아동 성착취물에 칼 빼든 미 캘리포니아…딥페이크 금지법안 통과

(서울=뉴스1) 강민경 기자 = 미국 캘리포니아주 의회가 딥페이크를 금지하는 등 일련의 인공지능(AI) 규제 법안을 통과시켰다.

지난달 31일(현지시간) AP통신에 따르면 민주당 다수의 캘리포니아 주의회는 아동 성 착취물 제작 등 AI를 활용한 범죄 행위를 단속하기 위한 일련의 법안을 처리했다.

이 법안은 개빈 뉴섬 주지사에게 송부된다. 뉴섬 주지사는 오는 30일까지 이 법안에 서명하거나 거부권을 행사해야 한다.

이날 처리된 법안은 AI를 활용해 딥페이크 아동 성 착취물을 제작하는 행위를 불법으로 규정한다.

현행법상 딥페이크 성 착취물 제작은 아동이 피해자라도 불법이 아니다. 영상 속 인물이 실존한다는 사실을 증명할 수 없으면 기소와 처벌이 불가능하기 때문이다.

하지만 이번 캘리포니아 주의회의 법안은 딥페이크로 아동 성 착취물을 제작하거나 배포하거나 소지한 이들을 모두 처리할 수 있도록 하는 내용이 담겼다.

정치 분야에서도 AI를 규제한다. 주 의원들은 선거와 관련된 딥페이크 제작을 금지하고, 대형 소셜미디어(SNS) 플랫폼이 선거 120일 전과 60일 전에 허위 콘텐츠를 삭제하도록 하는 법안 또한 승인했다.

또 이 법안은 정치인의 선거 캠프가 AI를 활용해 변형된 이미지를 쓴다면 이 사실을 명확히 공개하도록 요구한다.

기술 업체와 소셜미디어 플랫폼은 사용자들에게 콘텐츠에 AI 기술이 활용됐는지 여부를 탐지할 수 있는 도구를 제공해야 한다.

아울러 이번 법안은 성우 등의 노동자들이 AI로 대체되는 것을 규제하는 내용도 포함됐다. 국가 기관과 지방 기관은 콜센터 직원을 AI로 대체하는 것도 금지한다.

AP통신은 AI 기술에 대응해 전면적인 안전 조치를 법으로 도입한 미국 최초의 주가 될 수 있다고 전했다.

pasta@news1.kr