한국일보 애틀랜타
첫광고
이규 레스토랑
베테랑스 에듀

‘AI 못 믿겠네’불신론 갈수록 커진다

미국뉴스 | | 2018-05-31 09:09:41

AI,불신론,대화녹음,전송

구양숙 부동산표정원 융자

알렉사, 불특정 제3자들에 대화 녹음 전송

대화를 명령으로 오인해‘메시지 전송’

테슬라·우버·웨이모 자율주행차 사고 잇따라

 “AI도 사람처럼 착시 가능”학계도 위험성 경고

정보통신(IT)과 자동차 업계에서 인공지능(AI)의 문제점들이 잇따르면서 AI 회의론이 번지고 있다. 

AI가 일상생활은 물론 의료기술에까지 도입되는 상황에서 AI에 대한 맹신이 인간의 생명을 위협할 수 있다는 위기감이 커지고 있는 것이다. 

지난 26일 시애틀 지역 방송국인 KILO 7에 따르면 오리건주 포틀랜드의 한 가정에서 아마존 인공지능(AI) 비서인 ‘알렉사’를 내장한 스마트스피커 ‘에코’가 사적 대화를 녹음해 임의로 제 3자에게 전송했다.

자신을 ‘다니엘레’라고 밝힌 제보자는 방송국에 “가족들 간 사적 대화가 에코에 녹음돼 가족의 연락처 목록에 포함된 회사 동료에게 전달됐다. 녹음파일을 받은 동료의 연락을 받고 대화 내용이 외부로 유출된 사실을 알았다”고 말했다. 

말 한마디로 난방·점등·보안 장치를 제어해주던 알렉사가 비서가 아닌 감청·해킹 도구로 전락해버린 셈이다. 충격에 휩싸인 다니엘레 씨는 에코와 연동된 모든 기기의 전원을 차단했다. 

다니엘레가 아마존에 확인한 결과 이번 사고는 알렉사가 대화 내용 일부를 ‘메시지를 전송하라’(Send message)는 명령으로 오인하면서 발생했다. 대화와 명령을 분별하지 못해 일어난 사고라는 뜻이다. 아마존은 “이러한 사건이 다시 일어날 가능성은 희박하지만 재발 가능성을 줄이기 위한 방안을 검토하고 있다”고 밝혔다. 

아마존은 이번 사태가 극히 드문 사건이라며 논란이 확대되는 것을 극도로 경계했지만 업계에서는 일상생활에서 AI가 악용될 수 있는 사례라며 주목하고 있다. 

경제전문매체 CNBC는 “아마존은 스마트 스피커가 ‘알렉사’라는 특정 단어를 들을 때만 작동한다고 주장하지만 이러한 기기들이 사적인 대화를 들을 가능성이 있다”고 강조했다. 

자율주행차 상용화 선두 자리를 놓고 싸우는 자동차 업계에서도 AI가 논란거리다. 

지난 3월 캘리포니아주에서 테슬라 ‘모델X’가 자율주행 모드로 작동되던 중 도로 분리대를 들이받은 사고가 대표적이다. 당시 차량 운전자는 사망했다. 지난 3월 우버의 자율주행차가 피닉스에서 보행자 사망사고를 냈고, 웨이모가 운행하는 자율주행 미니밴도 이달 애리조나 주에서 교통사고에 휘말렸다. 

영국 일간 텔레그래프는 “영국 저명 과학자들도 자율주행차에 활용되는 AI의 위험성을 경고한다”며 “엔지니어 손을 떠나 실생활에서 활용될 경우 어떤 일이 일어날지 모른다”고 지적했다.

학계에서도 AI의 오작동을 경고하는 연구결과가 나오고 있다. 일본 리쓰메이칸 대학은 지난 3월 국립 기초생물연구소와 공동 연구를 진행한 결과 AI가 인간의 눈처럼 착시 현상을 일으킬 수 있다고 밝혔다. 

프로펠러 회전 모습을 반복적으로 AI에 보여줬더니 AI가 프로펠러가 정지됐을 때도 회전하는 것으로 판단했다. 

일본 마이니치신문은 이번 실험에 대해 “착시현상으로 두뇌에 잘못된 정보가 전달되듯이 AI도 오류를 일으킬 수 있다는 점을 보여준 것”이라고 설명했다. 

<김창영 기자> 

‘AI 못 믿겠네’불신론 갈수록 커진다
‘AI 못 믿겠네’불신론 갈수록 커진다

아마존의 인공지능(AI) 스피커 뒤로 “명령만 내려달라”(Just ask)는 문구와 함께 예시문들이 적혀 있다.

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

한인 일식당 업주, 남편 친구였던 스시맨에 피살
한인 일식당 업주, 남편 친구였던 스시맨에 피살

용의자 분신 시도 후 체포숨진 박희정(왼쪽)씨와 용의자 진성호씨.<폭스2> 용의자가 도주 차량 안에서 경찰과 대치하며 몸에 불을 붙이는 장면. <폭스2> 미시

다리 붕괴 ‘충격파’ 장기화… 물류·일자리 비상
다리 붕괴 ‘충격파’ 장기화… 물류·일자리 비상

다리 복구에 수년 가능성항구 재개방은 덜 걸릴 듯  볼티모어 항으로 들어가는 ‘프랜시스 스콧 키 브리지’가 붕괴된 가운데 한 구조·수속 상선이 28일 사고 컨테이너선을 지나가고 있

이제 뉴욕 가면 차량 교통혼잡세 내야
이제 뉴욕 가면 차량 교통혼잡세 내야

맨해턴 도심 진입시 징수   뉴욕 맨해턴 도심 진입 차량들에 교통혼잡세가 징수될 전망이다. 맨해턴 42번가에 차량들과 보행자들이 뒤엉켜 혼잡한 모습. [로이터]  뉴욕 메트로폴리탄

‘뉴욕증시 거품’ 경고음 잇따라… 2분기 조정 임박
‘뉴욕증시 거품’ 경고음 잇따라… 2분기 조정 임박

전문가 61% “위험관리” 조언‘버핏 지표’ 약세 전환 신호  최근 연이어 사상최고를 경신하고 있는 뉴욕증시의 조정 가능성이 높아졌다는 분석이다. 뉴욕증권거래소 트레이더들의 모습.

동문자녀 특례입학 혜택…프린스턴대 유지키로

프린스턴대가 동문 자녀 특례입학 제도 ‘레거시 어드미션’을 계속해서 유지키로 했다. 프린스턴대 이사회는 27일 레거시 어드미션 유지 등을 포함한 학부 입학전형 정책 심의 결과를 승

“정부 기관에 ‘AI 부작용 방지 안전장치’ 의무화

백악관, 새 정책규칙 발표 백악관이 28일 인공지능(AI)을 업무에 활용하는 정부 기관들에 AI로 인한 부작용을 막기 위한 구체적인 안전장치를 의무적으로 마련하도록 했다고 밝혔다.

작년 4분기 경제성장률 확정치 3.4%

잠정치서 0.2%p 상승 지난 4분기 미국 GDP(국내총생산) 성장률 확정치가 3.4%로 집계됐다. 당초 잠정치를 0.2%p 상회한 결과로 경제가 예상보다 더 좋았다는 얘기다. 지

“금리인하 서두를 필요 없어”

인하 횟수·시기 늦출 수도 크리스토퍼 월러 연방준비제도(FRB·연준) 이사는 27일 금리 인하를 서두를 필요가 없으며, 최근 경제 지표를 감안할 때 인하 횟수를 줄이거나 시기를 늦

아마존, 미국서 첫 소형 홀푸드 마켓 오픈
아마존, 미국서 첫 소형 홀푸드 마켓 오픈

아마존 소유 수퍼마켓 체인인 홀푸드 마켓은 올해 뉴욕시를 시작으로 소규모 매장을 전국적으로 오픈한다고 발표했다‘. 홀푸드 마켓 데일리숍’(Whole Foods Market Dail

"개, 트라우마 스트레스 냄새도 맡는다…PTSD 안내견에 활용"
"개, 트라우마 스트레스 냄새도 맡는다…PTSD 안내견에 활용"

캐나다 연구팀 "훈련 통해 스트레스 날숨 감지…위험 경고 가능"외상후스트레스장애(PTSD) 환자의 날숨 냄새를 이용해 스트레스를 받고 있는지 구분하는 훈련을 받은 개 아이비(Ivy

이상무가 간다 yotube 채널