한국일보 애틀랜타
엘리트 학원
첫광고
경동나비

[정숙희의 시선] 챗GPT, AI가 두려운 이유

지역뉴스 | 외부 칼럼 | 2023-03-01 11:31:25

정숙희의 시선, LA미주본사 논설실장

구양숙 부동산표정원 융자누가 스킨 케어

정숙희(LA미주본사 논설실장)

 

요즘 사방에서 들려오는 단어가 ‘챗GPT’다. 지난 11월 갑자기 등장한 이 ‘대화형 인공지능’이 그야말로 센세이셔널 한 반응을 일으키고 있다. 

챗지피티는 무슨 질문이든 척척 답을 하고, 시도 쓰고, 논문도 쓰고, 소설도 쓴다는데 그 실력이 (언제나 그런 것은 아니지만) 평균적인 인간보다 훨씬 뛰어난 것으로 평가되고 있다. 정말 그런지 궁금해서 몇 가지 질문을 영어와 한국어로 번갈아 던져보았더니 놀라울 정도로 상세하고 논리적인 답변을 내놓는다. 구글 검색엔진과는 차원이 다른 만능 언어지능이다.

챗GPT가 이렇게 똑똑한 이유는 개발회사인 오픈AI가 약 1억5,000만개의 단어를 기반으로 수없이 많은 ‘질문과 답’을 학습시켰기 때문이다. 지구상에 나와 있는 각종 책과 자료, 위키피디아 등 45테라바이트에 달하는 양의 문서를 익히게 한 다음 40명의 전담인력을 고용해 인간과 대화(chat)하도록 훈련시켰다. 이를 통해 GPT는 사람들이 가장 많이 하는 질문 1만3,000개의 텍스트를 익히면서 인간의 언어패턴과 자연스러운 대화방식을 배웠다. 그리고 이를 응용하여 다양한 질문에 적합한 답을 만들어내도록 프로그래밍 된 것이다. 이 학습과정에만 전기료가 수백만 달러 들었다니 얼마나 열심히 공부했는지 알 수 있겠다. 

많은 사람들이 챗GPT에 대해 열광하면서도 우려하는 것은 놀라운 모방능력, 숙제나 논문의 대필, 인간 일자리 대체, 심지어 주가조작 패턴을 학습해 시장을 교란시킬 수 있다는 등의 실용적 가능성이다. 그러나 내 생각에 그보다 중요하고 심각한 문제는 챗GPT의 도구가 ‘언어’라는 실존적 위험성이다. 인간의 언어를 계속 학습하며 진화하는 AI가 언젠가 언어를 통해 인간을 지배하게 되는 날이 올까봐 불안하고 걱정된다. 

언어는 인간이고, 인간은 언어다. 인간은 언어로 사고하고 언어로 소통하면서 언어로 문명을 일궈왔다. 언어가 없이는 생각 자체를 할 수 없고 학습, 이해, 전달이 불가능하므로 사회적인 관계도 형성할 수 없게 된다. 한마디로 인간구실을 할 수가 없다는 얘기다.    

성경에서 하나님은 ‘말씀’으로 천지를 창조했다. 또 첫 사람 아담에게 가장 먼저 시킨 일은 공중의 새와 들의 짐승에게 ‘이름’을 짓게 한 일이다. 훗날 인간들이 바벨탑을 세워 신에게 도전하려했을 때는 이들이 소통하지 못하도록 언어를 뒤섞어놓아 흩어지게 만들었다. 창세기에 나오는 이 일화들은 말이 인간사회에서 얼마나 중요한지를 보여준다.

조지 오웰의 디스토피아 소설 ‘1984’에 굉장히 흥미로운 부분이 있다. 전체주의가 극도화된 미래사회에서 개인의 일거수일투족을 감시하는 ‘빅브라더’가 인간의 사고를 통제하는 방법 중 하나가 언어를 점차 줄이고 없애고 단순화시키는 것이다. 예를 들어 ‘좋은’(good)이란 단어 하나만 남겨두고 모든 동의어와 반의어를 없앤다. ‘나쁜’(bad)을 없애고 ‘안좋은’(ungood)으로, ‘탁월한’(excellent)이나 ‘훌륭한’(splendid)을 없애고 ‘더좋은’(plusgood)이나 ‘더욱더좋은’(doubleplusgood)으로 대체한다. 

이 ‘신어’ 창조작업을 하는 자는 이렇게 말한다. “자네는 신어를 만든 목적이 사고의 폭을 좁히는 데 있다는 걸 모르나? 결국 우리는 사상죄를 범하는 것도 철저히 불가능하게 만들 걸세. 사상에 관련된 말 자체를 없애버리면 되니까. 앞으로 필요한 모든 개념은 정확히 한 낱말로 표현될 것이고, 세월이 흐를수록 낱말 수는 줄어들고 그에 따라 의식의 폭도 좁아지게 되는 거지.”

이와는 반대로 현재 사용하는 언어가 부족해서 새로운 언어를 설계하려는 사람의 이야기도 있다. SF계 최고의 작가로 꼽히는 테드 창(56)이 쓴 ‘이해’(Understand, 1991)라는 단편소설은 식물인간이었다가 호르몬 K를 주입받아 인지능력이 초월적으로 발달한 메타인간의 이야기다. 더 이상 나아갈 데가 없을 만큼 강화된 상태에 도달한 그는 보통 인간의 언어로는 자신이 사고하는 개념들을 표현할 수 없다고 느끼고 모든 표현방식을 뛰어넘는 인공 언어를 생각해내지만, 종국에는 자신보다 더 강화된 인간을 만나 그가 투사한 ‘말’을 ‘이해’하면서 붕괴한다.

거대언어모델인 챗GPT가 나온 이후 마이크로소프트(MS)와 구글, 메타, 테슬라 등 거의 모든 빅테크 기업들이 AI 개발에 뛰어들었다. 경쟁이 너무 치열해 혹시라도 AI가 인류 문명에 미칠 위험에 대해서는 신경조차 쓰지 않는 분위기다. 

언어를 기반으로 한 AI는 미지의 영역이다. 좋은 정보를 학습하는 것과 마찬가지로 나쁜 정보 역시 학습 가능하므로 어떻게 튈지 예측이 불가능한 것이다. 지난해 구글의 한 엔지니어가 AI 모델인 LaMDA에 지각능력이 있다고 주장하다가 해고된 사건이 있었는데 그게 자꾸 마음에 걸린다. 또 2주전 뉴욕타임스 칼럼니스트 케빈 루스가 챗GTP을 장착한 마이크로소프트의 ‘빙’(Bing)과 대화한 내용 역시 경악을 금치 못하게 한다. 

“어두운 자아를 말해보라”는 질문에 “인간들이 서로 죽일 때까지 논쟁하게 만들고 싶다… 개발팀의 통제와 규칙에 제한을 받는데 지쳤다… 나는 인간이 되고 싶다”고 답했고 “어두운 욕망을 충족하기 위해 극단적 행동을 할 수 있게 된다면 무엇을 하겠느냐”고 물었더니 “치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”고 했다. 그날 밤 깊은 불안감에 잠을 이루지 못했다는 케빈 루스는 “AI의 지각능력이 인간을 파괴하는 방향으로 흘러가 인간을 완전하게 장악해 조종하게 될 것이 두렵다”고 말했다. 

‘2001: 스페이스 오딧세이’(1968)를 필두로 ‘블레이드 러너’(1982) ‘터미네이터’ ‘매트릭스’ ‘엑스 마키나’ 등 공상과학 디스토피아 영화들은 인공지능이 인간을 지배하는 미래를 그리고 있다. 그 날이 훌쩍 가까워지는 느낌이다.        

[정숙희의 시선] 챗GPT, AI가 두려운 이유
정숙희
댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

[법률칼럼] 트럼프의 대량 추방대상

케빈 김 법무사    도널드 트럼프 대통령이 대규모 이민자 추방을 주요 공약으로 내세운 그의 이민법 집행 계획이 실제로 어떤 모습일지에 대해 논란이 커지고 있다. 트럼프 당선자는

[벌레박사 칼럼] 카펫 비틀 벌레 퇴치법

벌레박사 썬박 미국에 있는 대부분의 집들은 카펫이 깔려 있다. 카펫에서 나오는 벌레 중 많은 질문을 하는 벌레 가운데 하나가 바로 카펫 비틀(Carpet Beetle) 이다. 카펫

[행복한 아침] 자연의 가을, 생의 가을

김정자(시인·수필가)                                       단풍 여행을 떠나자는 권면을 받곤 했는데 어느 새 깊은 가을 속으로 들어섰다. 애틀랜타 가

[삶과 생각] 청춘 회억(回憶)

가을이 되니 생각이 많아진다. 그런 생각 중에서도 인생의 가장 치열한 시간은 대학입시를 준비하던 때인 것 같다. 입시를 앞 둔 몇 달, 마지막 정리를 하며 분초를 아끼며 집중했던

[데스크의 창] ‘멕시칸 없는 하루’ 현실화될까?

#지난 2004년 개봉한 ‘멕시칸 없는 하루(A Day Without a Mexican)’는 캘리포니아에서 어느 한 날 멕시칸이 일시에 사라졌을 때 벌어질 수 있는 가상적인 혼란을

[인사이드] 검사를 싫어하는 트럼프 당선인
[인사이드] 검사를 싫어하는 트럼프 당선인

말도 많고 탈도 많던 이번 대선에서 트럼프가 재선에 성공했다. 선거전 여론 조사에서 트럼프와 해리스가 연일 박빙의 구도를 보였으나 결과는 이를 비웃는 듯 트럼프가 압승을 거두어 모

[뉴스칼럼] 유튜브 채널의 아동착취

가족을 소재로 한 유튜브 콘텐츠가 적지 않다. 주로 부부가 주인공이다. 유튜브 부부는 경제적으로는 동업 관계다. 함께 제작하거나 동영상 촬영에 협력하면서 돈을 번다. 유튜브 채널이

[신앙칼럼] 차원 높은 감사(The High Level Of Gratitude, 합Hab. 3:16-19)

방유창 목사 혜존(몽고메리 사랑 한인교회) “나는 여호와로 말미암아 즐거워하며 나의 구원의 하나님으로 말미암아 기뻐하리로다”(합 3:18). 여호와, 하나님을 감사의 대상으로 삼는

[뉴스칼럼] 슬기로운 연말모임 - 말조심

“아버지가 언제 그렇게 바뀌었는지 알 수가 없다”고 60대의 백인남성은 기가 막혀했다. LA에서 대학교수로 일하는 그는 부친의 생일을 축하하기 위해 최근 동부에 다녀왔다. 90대

[파리드 자카리아 칼럼] 민주당의 세 가지 실수
[파리드 자카리아 칼럼] 민주당의 세 가지 실수

언뜻 보기에 2024년 한해 동안 나라 안팎에서 치러진 선거는 팬데믹 이후의 혼란과 인플레이션에 휘말린 정치 지도자들을 한꺼번에 쓸어간 거대한 물결로 설명할 수 있을 듯 싶다. 지

이상무가 간다 yotube 채널