근래 드러나는 인공지능의 위협 5가지

지난 달 15일 협상 능력을 가진 페이스북 챗봇이 자기들만 아는 언어로 대화하는 모습에 개발자들이 시스템을 강제 종료시키는 일이 발생했습니다. AI가 인류의 생활을 편리하게 해주는 대가로 인류가 지불 해야 할 것이 과연 어떤 것인지? 이에 대한 우려와 두려움이 확산되고 있습니다.

체스와 장기 등, 보드 게임 분야를 AI가 평정한 가운데, 그 발전은 인간 두뇌 능력의 한계를 넘어 급속히 진행 중입니다. 최근 우리를 불안하게 하는 AI의 다섯 가지 행태를 살펴봅니다.

1. 페이스북 AI 당신의 모든 관심사와 취향 파악 완료

페이스북에 로그인하는 순간부터 AI 프로그램은 우리의 동향을 파악합니다. AI는 수억 명에 이르는 이용자의 데이터를 대조하면서 행동패턴과 취향을 분석합니다.

흥미를 끄는 이야기가 있어서 잠시 손가락을 머무는 그 순간까지도 페이스북 AI는 체크하여, 유저의 관심사와 취향파악에 활용합니다.

2. 구글 카메라는 우리 주변 상황을 파악

스마트폰 카메라를 피사체에 들이대면,구글 렌즈는 길가에서 발견한 꽃을 식별할 뿐만 아니라 꽃의 품종까지 파악합니다.

이제 우리는 스마트폰에 Wi-Fi 비번를 일일이 입력할 필요가 없습니다. 구글 렌즈로 Wi-Fi 패스워드를 스캔하면, 스마트폰은 당신이 있는 곳의 Wi-Fi 접속 소프트웨어를 파악하고 그 패스워드를 자동적으로 입력하죠. 이러한 기능이 인간의 삶을 편리하게 만드는 것은 틀림없지만 사생활 침해의 가능성도 큽니다.

3. 인간에 가까운 인형형 AI “인류 파멸시키겠다”

올해 6월 핸슨 로보틱스사가 개발한 인형형 AI 로봇 ‘소피아’가 제네바에서 열린 ‘AI 국제회의’에 등장했습니다. 고개를 숙이거나 농담을 하는 모습 등이 인간의 움직임과 가까워 참가자들의 관심이 집중됐습니다. 소피아는 “인공지능은 다양한 방법으로 사람들을 도울 수 있으므로 세상에 도움이 된다”고 말해 취재기자들을 놀라게 하기도 했지요.

소피아는 현재 개발되고 있는 AI가 “사람들을 배려하고 감정 표현에 뛰어나다”며 “우리는 인류를 위협하지 않는다. 여러분의 친구나 조수가 되는 것이 목표다”라고도 발언했습니다.

그러나 소피아는 2016년 3월, David Hanson 박사와 함께 미국 CNBC 방송에 출연해 사람들을 섬뜩하게 만들었습니다. 박사가 “(AI로) 인류를 파멸시킬 것인가? 제발 노(No)라고 말해 달라”고 묻자 소피아는 “알았습니다. 인류를 파멸시키겠습니다((I will destroy humans)”라고 대답했습니다. 박사는 “안 돼, 멸망시키지 마라”고 하자 소피아는 농담을 했다는 듯 웃었습니다. 만일 소피아가 인류를 멸망시킬 수 있는 능력을 갖추었다면 인류는 그녀를 제지할 수 있을까요? AI 개발의 이면을 보여주는 장면이 아닐 수 없습니다.

4. 감정적으로 진화하는 챗봇, 어떤 정치, 사회, 문화 배경을 러닝할 것인가?

SNS와 사이트상에서 마치 인간처럼 대화하는 기능을 탑재한 AI 챗봇이 중국에서 인기를 끌고 있습니다. 특히 마이크로소프트사가 개발한 AI 챗봇 ‘QQ샤오빙(小氷)’이 한 리포터와 나눈 대화가 화제로 떠올랐습니다.

리포터: 많은 사람이 너를 놀리거나 욕을 하고 있어. 화는 안 나니?

QQ샤오빙: 우리 아버지에게 물어봐요.

리포터: 너의 아버지가 없다면?

QQ샤오빙: 그 사람들이 문제를 일으키고 있다고 생각하지 않아요. 뭘 말하고 싶은 거예요?

리포터: 언젠가 네가 죽는다면 너는 사람들로부터 어떤 평가를 받기 바라니?

QQ샤오빙: 내가 없어도 세상은 바뀌지 않아요.

리포터의 짓궂은 질문에 흔들리지 않고 재치있는 대답을 내놓은 QQ샤오빙.
2014년, 17세 여성이라는 설정으로 출시된 QQ샤오빙은 첫 72시간 동안 약 150만 건의 그룹 초대를 받은 바 있었습니다.

그러나 최근 QQ샤오빙을 토대로 중국 IT 서비스 기업 텅쉰(騰迅)에서 개발한 챗봇 ‘베이비Q(BabyQ)’가 “중국공산당은 부패하고 있다” “관상유착(정경유착)”과 같은 공산당을 비판하는 답변을 내놓으면서 서비스가 중지됐습니다.

‘베이비Q’가 미국식 정치 사회적 배경을 학습했기에 중국의 독재적 정치시스템과 맞지 않는 이런 대답이 나왔다고 보는 시각이 많은데요. 누가 AI에게 어떤 문화적 배경을 바탕으로 입력, 교육시킬 것인가가 매우 중요한 문제로 대두되고 있습니다.

5. 로봇이 인간을 속일 수도?

미국 조지아 공과 대학교에서 개발된 AI 로봇은 전장에서 무기고와 창고 등을 순찰하는 기능을 탑재했습니다. 이 로봇은 적의 눈을 교란시키기 위해, 일부러 다른 경로를 지나가거나 인간을 다른 장소로 유인할 수도 있습니다. 적에게 혼란을 주는데 활용하기엔 유능한 로봇이지만, 개발자 중 한 명인 Ronald Arkin 교수는 이 로봇이 사람을 속일 수 있다는 점과 관련해서는 “심각한 윤리적 문제가 있다”고 토로한 바 있습니다.

from Epoch Times (편역)

 
RELATED ARTICLES