한국일보 애틀랜타
엘리트 학원
첫광고
경동나비

[나의 의견] 인공지능과 '개소리'

지역뉴스 | 외부 칼럼 | 2023-09-05 17:56:34

나의 의견, 한소원 서울대 심리학과 교수

구양숙 부동산표정원 융자누가 스킨 케어

철학책은 왠지 어렵다는 선입견이 있어 잘 읽게 되지 않는다. 그런데 철학자가 쓴 책 중에 짧고 명쾌해서 속이 다 후련한 책이 있었다. 철학자 해리 프랭크퍼트의 저서 ‘개소리에 대하여(On Bullshit)’는 대화라는 맥락에서 터무니없는 말이 어떻게 적용되는지 정의하고 분석해 이론으로 만들었다. 2005년에 발간돼 예상치 않게 뉴욕타임스 베스트셀러 1위에까지 올랐던 책이다.

프랭크퍼트는 ‘개소리’를 듣는 이를 현혹시키는 말이면서 도덕적으로 상관하지 않는, 속임수 전문가의 정석으로 설명하고 있다. 이런 ‘개소리’들은 거짓말보다 나쁘다. 그 이유는 거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시해서다.

우리가 감탄하는 대규모언어모델(LLM)에서 만들어내는 문장은 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 가장 그럴싸한 문장을 만들어내는 것이 목표이기 때문에 그 문장이 진실인지 거짓인지는 상관이 없다. 이런 언어 모델은 모방에 능하고 사실에 약하다.

지난해 11월에 출시된 챗GPT는 출시 두 달 만에 사용자가 1억 명이 넘을 만큼 폭발적인 인기를 누리고 있다. 비즈니스 분야에서도 생산성을 높이는 데 이미 큰 역할을 하고 있다. 챗GPT를 써보면 그 생산성에 감탄하기도 하지만 한계를 쉽게 알아차릴 수 있다.

이 챗봇에서 나오는 반응은 유창한 문장이라도 사실이 아닌 것이 많다. 가짜 이름과 존재하지 않는 사실을 만들어낸다. 모든 주제에서 유연하고 순조로운 대화가 가능하다는 것은 그 내용의 참과 거짓을 혼동시키는 결과를 만들 수 있다. 참과 거짓이 섞여 있는 문장이 우리 마음속에서 진실로 기억될 수 있는 것이다.

챗GPT를 개발한 오픈AI가 LLM의 위험을 줄이기 위해 사용한 한 가지 방법은 인간 피드백 강화 학습이다. 흔히 상상하듯이 엄청난 파워를 가진 인공지능(AI)이 스스로 학습을 한 것이 아니라 인간이 일일이 적절하지 못한 요소를 제거한 것이다. 문제는 어떤 대답이 적절한 것인지에 대한 의견이 분분하다는 점이다.

LLM의 위험을 경고하면서 언어학자 에밀리 벤더는 이렇게 역설했다. “기계는 마음이 없이도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다.” 문제는 기술이 아니라 기술에 반응하는 인간인 것이다.

<한소원 서울대 심리학과 교수>

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

[법률칼럼] 트럼프의 대량 추방대상

케빈 김 법무사    도널드 트럼프 대통령이 대규모 이민자 추방을 주요 공약으로 내세운 그의 이민법 집행 계획이 실제로 어떤 모습일지에 대해 논란이 커지고 있다. 트럼프 당선자는

[벌레박사 칼럼] 카펫 비틀 벌레 퇴치법

벌레박사 썬박 미국에 있는 대부분의 집들은 카펫이 깔려 있다. 카펫에서 나오는 벌레 중 많은 질문을 하는 벌레 가운데 하나가 바로 카펫 비틀(Carpet Beetle) 이다. 카펫

[행복한 아침] 자연의 가을, 생의 가을

김정자(시인·수필가)                                       단풍 여행을 떠나자는 권면을 받곤 했는데 어느 새 깊은 가을 속으로 들어섰다. 애틀랜타 가

[삶과 생각] 청춘 회억(回憶)

가을이 되니 생각이 많아진다. 그런 생각 중에서도 인생의 가장 치열한 시간은 대학입시를 준비하던 때인 것 같다. 입시를 앞 둔 몇 달, 마지막 정리를 하며 분초를 아끼며 집중했던

[데스크의 창] ‘멕시칸 없는 하루’ 현실화될까?

#지난 2004년 개봉한 ‘멕시칸 없는 하루(A Day Without a Mexican)’는 캘리포니아에서 어느 한 날 멕시칸이 일시에 사라졌을 때 벌어질 수 있는 가상적인 혼란을

[인사이드] 검사를 싫어하는 트럼프 당선인
[인사이드] 검사를 싫어하는 트럼프 당선인

말도 많고 탈도 많던 이번 대선에서 트럼프가 재선에 성공했다. 선거전 여론 조사에서 트럼프와 해리스가 연일 박빙의 구도를 보였으나 결과는 이를 비웃는 듯 트럼프가 압승을 거두어 모

[뉴스칼럼] 유튜브 채널의 아동착취

가족을 소재로 한 유튜브 콘텐츠가 적지 않다. 주로 부부가 주인공이다. 유튜브 부부는 경제적으로는 동업 관계다. 함께 제작하거나 동영상 촬영에 협력하면서 돈을 번다. 유튜브 채널이

[신앙칼럼] 차원 높은 감사(The High Level Of Gratitude, 합Hab. 3:16-19)

방유창 목사 혜존(몽고메리 사랑 한인교회) “나는 여호와로 말미암아 즐거워하며 나의 구원의 하나님으로 말미암아 기뻐하리로다”(합 3:18). 여호와, 하나님을 감사의 대상으로 삼는

[뉴스칼럼] 슬기로운 연말모임 - 말조심

“아버지가 언제 그렇게 바뀌었는지 알 수가 없다”고 60대의 백인남성은 기가 막혀했다. LA에서 대학교수로 일하는 그는 부친의 생일을 축하하기 위해 최근 동부에 다녀왔다. 90대

[파리드 자카리아 칼럼] 민주당의 세 가지 실수
[파리드 자카리아 칼럼] 민주당의 세 가지 실수

언뜻 보기에 2024년 한해 동안 나라 안팎에서 치러진 선거는 팬데믹 이후의 혼란과 인플레이션에 휘말린 정치 지도자들을 한꺼번에 쓸어간 거대한 물결로 설명할 수 있을 듯 싶다. 지

이상무가 간다 yotube 채널