알렉사, 불특정 제3자들에 대화 녹음 전송
대화를 명령으로 오인해‘메시지 전송’
테슬라·우버·웨이모 자율주행차 사고 잇따라
“AI도 사람처럼 착시 가능”학계도 위험성 경고
정보통신(IT)과 자동차 업계에서 인공지능(AI)의 문제점들이 잇따르면서 AI 회의론이 번지고 있다.
AI가 일상생활은 물론 의료기술에까지 도입되는 상황에서 AI에 대한 맹신이 인간의 생명을 위협할 수 있다는 위기감이 커지고 있는 것이다.
지난 26일 시애틀 지역 방송국인 KILO 7에 따르면 오리건주 포틀랜드의 한 가정에서 아마존 인공지능(AI) 비서인 ‘알렉사’를 내장한 스마트스피커 ‘에코’가 사적 대화를 녹음해 임의로 제 3자에게 전송했다.
자신을 ‘다니엘레’라고 밝힌 제보자는 방송국에 “가족들 간 사적 대화가 에코에 녹음돼 가족의 연락처 목록에 포함된 회사 동료에게 전달됐다. 녹음파일을 받은 동료의 연락을 받고 대화 내용이 외부로 유출된 사실을 알았다”고 말했다.
말 한마디로 난방·점등·보안 장치를 제어해주던 알렉사가 비서가 아닌 감청·해킹 도구로 전락해버린 셈이다. 충격에 휩싸인 다니엘레 씨는 에코와 연동된 모든 기기의 전원을 차단했다.
다니엘레가 아마존에 확인한 결과 이번 사고는 알렉사가 대화 내용 일부를 ‘메시지를 전송하라’(Send message)는 명령으로 오인하면서 발생했다. 대화와 명령을 분별하지 못해 일어난 사고라는 뜻이다. 아마존은 “이러한 사건이 다시 일어날 가능성은 희박하지만 재발 가능성을 줄이기 위한 방안을 검토하고 있다”고 밝혔다.
아마존은 이번 사태가 극히 드문 사건이라며 논란이 확대되는 것을 극도로 경계했지만 업계에서는 일상생활에서 AI가 악용될 수 있는 사례라며 주목하고 있다.
경제전문매체 CNBC는 “아마존은 스마트 스피커가 ‘알렉사’라는 특정 단어를 들을 때만 작동한다고 주장하지만 이러한 기기들이 사적인 대화를 들을 가능성이 있다”고 강조했다.
자율주행차 상용화 선두 자리를 놓고 싸우는 자동차 업계에서도 AI가 논란거리다.
지난 3월 캘리포니아주에서 테슬라 ‘모델X’가 자율주행 모드로 작동되던 중 도로 분리대를 들이받은 사고가 대표적이다. 당시 차량 운전자는 사망했다. 지난 3월 우버의 자율주행차가 피닉스에서 보행자 사망사고를 냈고, 웨이모가 운행하는 자율주행 미니밴도 이달 애리조나 주에서 교통사고에 휘말렸다.
영국 일간 텔레그래프는 “영국 저명 과학자들도 자율주행차에 활용되는 AI의 위험성을 경고한다”며 “엔지니어 손을 떠나 실생활에서 활용될 경우 어떤 일이 일어날지 모른다”고 지적했다.
학계에서도 AI의 오작동을 경고하는 연구결과가 나오고 있다. 일본 리쓰메이칸 대학은 지난 3월 국립 기초생물연구소와 공동 연구를 진행한 결과 AI가 인간의 눈처럼 착시 현상을 일으킬 수 있다고 밝혔다.
프로펠러 회전 모습을 반복적으로 AI에 보여줬더니 AI가 프로펠러가 정지됐을 때도 회전하는 것으로 판단했다.
일본 마이니치신문은 이번 실험에 대해 “착시현상으로 두뇌에 잘못된 정보가 전달되듯이 AI도 오류를 일으킬 수 있다는 점을 보여준 것”이라고 설명했다.
<김창영 기자>
아마존의 인공지능(AI) 스피커 뒤로 “명령만 내려달라”(Just ask)는 문구와 함께 예시문들이 적혀 있다.
