가족끼리 집에서 나눈 대화가 모르는 사이에 다른 사람에게 전송된다면 얼마나 당황스러울까. 최근 미국에서 실제로 이런 일이 일어났다.
아마존 인공지능(AI) 스피커 에코가 미국 한 부부의 사적 대화를 임의로 녹음해 연락처 명단에 있던 동료에게 전송한 것.
이 부부는 메시지를 받은 동료로부터 전화를 받고서야 이 사실을 인지한 것으로 전해졌다.
이 여성은 시애틀 지역방송 KIRO7에 “완전한 사생활 침해”라며 “다시는 아마존 에코를 연결하지 않겠다”고 말했다.
아마존은 이런 사고를 확인하면서 부부의 대화 중에 나온 단어를 알렉사가 명령으로 착각해서 일어난 일이라고 설명했다.
아마존 관계자는 “에코가 대화 중 ‘알렉사’처럼 들리는 말 때문에 가동됐고 뒤이은 대화는 ‘메시지 전송’ 요구처럼 알아들었다”고 말했다.
이어 “알렉사가 ‘누구에게(보낼까요)’라고 질문했을 시점에서, 부부의 대화가 연락처 명단에 있는 한 이름으로 해석됐다”고 말했다.
또 “알렉사가 다시 ‘(연락처 이름) 맞습니까’라고 물었고 알렉사가 그 당시 대화를 ‘맞다’고 해석한 것”이라고 설명했다.
아마존은 “이런 일련의 일들은 일어날 가능성이 매우 희박하지만, 발생 가능성을 줄이기 위해 여러 옵션을 고려하고 있다”며 파장을 잠재우려 했다.
이번 일은 최근 AI 음성인식 기기를 생활 속에 활용하는 사람들이 늘어나는 가운데 보안과 사생활 침해 우려를 더욱 키우는 일이라고 외신들은 지적했다.