한국일보 애틀랜타
이규 레스토랑
첫광고
엘리트 학원

“은행·부모까지 속았다”… AI로 만든 아바타

미국뉴스 | 사회 | 2023-05-02 09:19:37

AI로 만든 아바타,은행·부모까지 속았다

구양숙 부동산표정원 융자누가 스킨 케어

신종 범죄 악용 주의보

 

챗봇 ‘챗GPT’를 비롯한 인공지능(AI) 기술로 일상생활이 편리해졌지만 그 이면에는 어떤 위험성이 있을까.

 

일간 월스트릿저널(WSJ)의 IT 칼럼니스트 조안나 스턴은 지난달 28일 ‘AI로 나 자신을 복제했다. 그녀가 은행과 내 가족을 속였다’는 제목의 기사에서 AI로 만든 아바타가 초래할 부작용을 경고했다.

 

스턴은 지난 몇개월간 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램을 활용해 ‘아바타’를 만드는 실험을 했다고 밝혔다.

 

그는 이렇게 생성된 ‘AI 아바타’가 나오는 동영상을 보고 “거울로 나 자신을 보는 것 같았다”고 말했다.

 

스턴은 여기서 한발 더 나아가 AI 아바타에 챗GPT로 생성한 대사를 입력해 자신 대신 동영상 공유 사이트나 화상회의에 출연하도록 해봤다.

 

그 결과 화상회의에선 지나치게 곧은 자세와 위트 부족으로 진짜 사람이 아니란 사실이 곧장 들통났지만, 상호작용이 상대적으로 적은 동영상 공유 사이트에선 비교적 쉽게 들키지 않았다고 그는 밝혔다.

 

스턴은 이와 동시에 음성 AI 스타트업 일레븐랩스(ElevenLabs)의 프로그램으로 ‘음성 아바타’를 만든 뒤 가족을 대상으로 자신의 실제 목소리와 구분할 수 있는지 시험하기도 했다. 매주 스턴과 여러 차례 통화한다는 여동생은 AI로 생성된 목소리가 호흡을 위해 대화 중 멈추지 않는 점을 제외하면 진짜와 매우 흡사하다는 반응을 보였다. 스턴의 아버지는 사회보장번호를 묻는 AI 음성에서 녹음 같은 느낌을 받고 ‘뭔가 벌어졌다’는 정도만 알아챘을 뿐 스턴 본인의 목소리가 아니라고 눈치채진 못한 것으로 전해졌다.

 

스턴은 “부모와 여동생조차 차이를 찾아내지 못한다면 다른 사람들에게 그것을 기대할 수 있겠는가”라면서 “잠재적 악용 가능성이 있는 게 현실”이라고 우려했다.

 

실제, 일레븐랩스 프로그램으로 생성한 AI 음성을 이용해 대형은행의 신용카드 관련 고객서비스를 이용해 본 결과 개인 목소리를 구분하는 생체인식 시스템을 손쉽게 통과할 수 있었다고 스턴은 밝혔다.

 

자동응답시스템이 AI 음성을 스턴 본인의 목소리로 인식해 직원에게 연결해줬다는 것이다.

 

은행 측 대변인은 신속한 업무를 위해 음성 생체인식 기술을 쓰고 있으며 고객이 금융 거래 등을 마무리하려면 추가 정보 제공이 필요하다고 강조했지만, 그런 정보가 유출된 상황이라면 보안이 뚫릴 위험성을 배제하기 힘들어 보인다.

 

스턴은 신세시아 프로그램과 일레븐랩스 프로그램 모두 AI 아바타가 살해 위협을 비롯한 비윤리적이거나 문제가 될 수 있는 내용을 제한하지 않는다고도 지적했다.

 

실제 사람과 구분되지 않는 AI 아바타가 우후죽순 생겨나 온라인 세상을 더욱 혼탁하게 만들 위험성이 있는 셈이다. 스턴은 기사의 말미에서 AI 기술은 계속 발전할 것이라며 “나 자신을 진정한 인간으로 만드는데 더 많은 시간을 가지도록 AI 도구들을 활용할 계획”이라고 말했다.

 

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

콜럼비아 칼리지, 글로벌 인재 양성 프로그램 진행
콜럼비아 칼리지, 글로벌 인재 양성 프로그램 진행

워싱턴 D.C.에서 연수 프로그램 운영올해 2월까지 부산대 등 연수 계획 콜럼비아 칼리지(총장 리처드 킴)가 지난해 12월 17일부터 올해 1월 1일까지 워싱턴 D.C.에서 글로벌

애틀랜타 인구 상승에 따른 '스토리지 사업' 호황
애틀랜타 인구 상승에 따른 '스토리지 사업' 호황

"인구 상승으로 스토리지 수요 증가할 것"애틀랜타 스토리지 시설 8% 증가율 보여 애틀랜타 인구 증가로 인한 스토리지 사업이 호황을 맞았다. 업계 전문가들은 애틀랜타 이주자들이 늘

애틀랜타 아동병원, IT분야 최고 직장
애틀랜타 아동병원, IT분야 최고 직장

컴퓨터월드 선정 전국 25위  애틀랜타 아동병원 (Children’s Healthcare of Atlanta)이 IT 분야  최고의 직장 중  한 곳으로 선정됐다.IT분야 평가업체

호스피스에 긍정 메시지 남긴 카터 전 대통령
호스피스에 긍정 메시지 남긴 카터 전 대통령

생애 마지막 22개월 호스피스 케어업계 “일반인 오해 불식 기여” 평가  재임시절보다 퇴임 후 활동으로 더 많은 사람들에게 존경을 받았던 고 지미 카터 전 대통령. 그런 카터 전

조지아북부 연방검사장 뷰캐넌 사임
조지아북부 연방검사장 뷰캐넌 사임

트럼프 취임 따라 19일까지 근무 조지아 북부 연방지방 검사장 라이언 뷰캐넌이 2일 사임을 발표했다.뷰캐넌은 도널드 트럼프가 미국의 47대 대통령으로 취임하기 하루 전인 1월 19

애틀랜타 한인사회 제주항공 참사 희생자 추모
애틀랜타 한인사회 제주항공 참사 희생자 추모

4일 오후 1시-5시 분향소 운영 애틀랜타한인회 재건을 위한 비상대책위원회, 미동남부 호남향우회, 애틀랜타한인노인회, 밀알선교단, 미동남부 충청향우회, 리 장례식장 등 애틀랜타의

C Land 부동산 2025년 새로운 도약 다짐
C Land 부동산 2025년 새로운 도약 다짐

12월 30일 뉴저지서 송년모임유튜브 통한 마케팅 더욱 강화 C Land 부동산(대표 스티븐 리)은 12월 30일 뉴저지 포트리 타운에 위치해 새로운 설비로 개장한 허드슨 매너 연

트럼프와 관계설정부터 민주당 재도약까지
트럼프와 관계설정부터 민주당 재도약까지

▪2025 조지아 정가 5대 과제 새해 조지아 정가는 어느해보다 심한 변화를 겪을 것으로 전망된다. 무엇보다 트럼프 2기 행정부가 들어서면서 조지아도 정치역학 관계 설정이 필요해

2025년 중소기업 보조금 신청 리스트
2025년 중소기업 보조금 신청 리스트

중소기업 성장위한 지원금 제공무료 교육 온라인 영상도 지원 애틀랜타 비즈니스 크로니클에서 2025년, 중소기업이 신청할 수 있는 보조금 리스트를 발표했다. 먼저 버라이즌은 중소기업

애틀랜타 호텔서 일산화탄소 누출...5명 병원행
애틀랜타 호텔서 일산화탄소 누출...5명 병원행

3일 아침 투숙객 모두 대피령 애틀랜타 다운타운의 한 호텔에서 3일 아침 일산화탄소 누출 사고가 발생해 투숙객들이 대피하고5명이 병원으로 이송됐다.소방관들은 오전 9시 직후 피치트

이상무가 간다 yotube 채널