[시선뉴스 이호] 중국의 한 프로그래머가 인공지능(AI)과 안면인식 기술을 활용해 포르노 비디오 속 여성들의 신원을 파악하는 프로젝트를 추진했다가 여론의 뭇매를 맞고 전량 폐기했다. 

9일 홍콩 사우스차이나모닝포스트(SCMP)는 중국의 프로그래머 리쉬가 '문란한 여성'을 알아볼 수 있도록 돕겠다면서 안면인식과 AI 기술을 활용한 프로그램을 제작해왔다고 전했다. 

그의 프로그램은 페이스북, 인스타그램, 틱톡 등 주요 SNS의 여성 사용자 얼굴 정보를 수집해 포르노 비디오 속 여성의 얼굴과 대조하는 방식으로 포르노 비디오에 등장한 이들의 신원을 확인하는 알고리즘을 갖췄다.

픽사베이
픽사베이

리쉬는 이런 방식을 통해 100테라바이트(TB)에 달하는 방대한 데이터를 모았으며 자신의 웨이보(微博·중국판 트위터)를 통해 10만 명에 달하는 포르노 비디오 속 여성들의 신원을 '성공적으로' 확인할 수 있었다고 알렸다.

리쉬는 이런 성공(?)을 자축하고 자신의 프로그램을 널리 알리기 위해 작동 원리를 설명하는 인터넷 생방송을 진행할 것을 예고하기도 했다. 

하지만 그의 그런 계획은 진행될 수 없었다. 그의 그런 정보수집 행위가 ‘불법’이라는 논란이 일어났기 때문이다. 

다수의 인권 단체들과 개인정보 전문가들은 리쉬의 행위가 개인 정보를 침해하는 명백히 불법적인 행위이며 즉각 해당 행위를 중단할 것을 요구했다. 커다란 비판 여론이 발생하자 리쉬는 생방송 일정을 취소했고 수집했던 모든 자료를 폐기했다고 알렸다. 

중국은 현재 AI를 활용한 사회 감시망이 급속도로 발전하고 있다. 어느 곳에나 설치되어 있는 CCTV와 안면인식 기술을 활용해 수만 명이 찾는 콘서트 장에서 지명수배자를 찾고 무단횡단이나 반정부 활동을 하는 시민들까지 감시한다. 

중국 정부의 이런 감시망은 시민들의 자유를 크게 침해하는 것인데 정부를 넘어서 일반인까지 AI를 활용하여 개인 정보를 침해하는 행위를 하니 그 반발력이 더욱 큰 것이다. 게다가 AI가 ‘꽤’정확할 수는 있지만 비슷한 사람을 오인해서 억울한 피해자가 나올 수 도 있는 만큼 리쉬의 프로그램은 실로 위험한 것이라 할 수 있다. 

과학자, 기술자들은 해도 될까가 아니라 된다면 해보자 라는 마인드가 크다. 하지만 윤리적인 면도 잘 고려를 해야 리쉬처럼 힘들게 시간과 노력을 쏟아 수집한 데이터를 폐기하는 헛수고는 하지 않을 것이다.

SNS 기사보내기