한국일보 애틀랜타
엘리트 학원
첫광고
경동나비

[나의 의견] 인공지능과 '개소리'

지역뉴스 | 외부 칼럼 | 2023-09-05 17:56:34

나의 의견, 한소원 서울대 심리학과 교수

구양숙 부동산표정원 융자누가 스킨 케어

철학책은 왠지 어렵다는 선입견이 있어 잘 읽게 되지 않는다. 그런데 철학자가 쓴 책 중에 짧고 명쾌해서 속이 다 후련한 책이 있었다. 철학자 해리 프랭크퍼트의 저서 ‘개소리에 대하여(On Bullshit)’는 대화라는 맥락에서 터무니없는 말이 어떻게 적용되는지 정의하고 분석해 이론으로 만들었다. 2005년에 발간돼 예상치 않게 뉴욕타임스 베스트셀러 1위에까지 올랐던 책이다.

프랭크퍼트는 ‘개소리’를 듣는 이를 현혹시키는 말이면서 도덕적으로 상관하지 않는, 속임수 전문가의 정석으로 설명하고 있다. 이런 ‘개소리’들은 거짓말보다 나쁘다. 그 이유는 거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시해서다.

우리가 감탄하는 대규모언어모델(LLM)에서 만들어내는 문장은 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 가장 그럴싸한 문장을 만들어내는 것이 목표이기 때문에 그 문장이 진실인지 거짓인지는 상관이 없다. 이런 언어 모델은 모방에 능하고 사실에 약하다.

지난해 11월에 출시된 챗GPT는 출시 두 달 만에 사용자가 1억 명이 넘을 만큼 폭발적인 인기를 누리고 있다. 비즈니스 분야에서도 생산성을 높이는 데 이미 큰 역할을 하고 있다. 챗GPT를 써보면 그 생산성에 감탄하기도 하지만 한계를 쉽게 알아차릴 수 있다.

이 챗봇에서 나오는 반응은 유창한 문장이라도 사실이 아닌 것이 많다. 가짜 이름과 존재하지 않는 사실을 만들어낸다. 모든 주제에서 유연하고 순조로운 대화가 가능하다는 것은 그 내용의 참과 거짓을 혼동시키는 결과를 만들 수 있다. 참과 거짓이 섞여 있는 문장이 우리 마음속에서 진실로 기억될 수 있는 것이다.

챗GPT를 개발한 오픈AI가 LLM의 위험을 줄이기 위해 사용한 한 가지 방법은 인간 피드백 강화 학습이다. 흔히 상상하듯이 엄청난 파워를 가진 인공지능(AI)이 스스로 학습을 한 것이 아니라 인간이 일일이 적절하지 못한 요소를 제거한 것이다. 문제는 어떤 대답이 적절한 것인지에 대한 의견이 분분하다는 점이다.

LLM의 위험을 경고하면서 언어학자 에밀리 벤더는 이렇게 역설했다. “기계는 마음이 없이도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다.” 문제는 기술이 아니라 기술에 반응하는 인간인 것이다.

<한소원 서울대 심리학과 교수>

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

트럼프 제2기 모기지 금리 전망은
트럼프 제2기 모기지 금리 전망은

관세인상 및 감세정책 금리인상 전망트럼프 1기엔 물가안정 및 금리인하불확실성 커 주택시장 전망 시기상조 도널드 트럼프 공화당 후보가 당선됨에 따라 약 두 달 후면 트럼프 제2기 정

조지아 공립대, 백인 줄고 아시안∙히스패닉 급증
조지아 공립대, 백인 줄고 아시안∙히스패닉 급증

올해 전체 등록학생수는 역대 최대 올해 조지아 공립대학의  학생 등록수가 크게 늘어났다.조지아 공립대학교 위원회가 12일 공개한 자료에 따르면 조지아 26개 공립대학의 2024년

무려 130만 달러어치 가짜 티켓 팔다 ‘쇠고랑’
무려 130만 달러어치 가짜 티켓 팔다 ‘쇠고랑’

경찰, 알파레타 40대 남성 체포콘서트∙운동경기 티켓 허위판매  무려 130만 달러에 달하는 유명가수 공연과 운동경기 입장권을 허위로 판매하면서 사기행각을 일삼던 남성이 결국 경찰

아씨마켓 2주간 고객감사 쿠폰 증정
아씨마켓 2주간 고객감사 쿠폰 증정

11월 15일-28일 2주간 쿠폰 증정$50 구매 시 $5, $100→$10 쿠폰 아씨마켓 슈가로프 지점(지점장 정경섭)이 연말을 맞아 상품 구매 시 현금처럼 사용할 수 있는 감사

출생률 감소로 애틀랜타서도 폐교 확산
출생률 감소로 애틀랜타서도 폐교 확산

풀턴 2개 초등학교 폐교 위기  출생률 감소로 취학아동이 줄면서 폐교가 느는 현상은 비단 한국에서만이 아니다. 메트로 애틀랜타에서도 학생 수 감소로 폐교 되는 학교들이 늘자 학부모

성병 감염 크게 줄었다는데…조지아는 여전
성병 감염 크게 줄었다는데…조지아는 여전

▪CDC 2023 전국 성병 감염률 현황매독∙임질 감염 크게 감소 불구조지아는 안줄거나 소폭 감소 감염률도 전국 평균 크게 상회 미 전국적으로 성병 감염률이 크게 줄고 있는 가운데

조지아 주, '8명중 1명' 식량 문제 겪는다
조지아 주, '8명중 1명' 식량 문제 겪는다

저소득·중산층 식량 문제 심각일자리 있어도 식량 문제 겪어 조지아 주민 8명 중 1명이 식량 문제를 겪고 있는 것으로 알려졌다.애틀랜타 커뮤니티 푸드 뱅크는 애틀랜타 노동자 가정이

귀넷 내년 예산안 26억5천만 달러
귀넷 내년 예산안 26억5천만 달러

공공안전, 인프라, 경제기회 개선 중점주민들 12월 31일까지 의견제시 가능 내년도 귀넷카운티 예산은 공공안전, 인프라 및 경제적 기회 개선에 중점적으로 사용될 전망이다.니콜 러브

〈포토뉴스〉 디딤돌선교회 노숙자 재활 및 영성수련회 개최
〈포토뉴스〉 디딤돌선교회 노숙자 재활 및 영성수련회 개최

노숙자 선교단체인 디딤돌선교회(대표 송요셉 목사)는 지난 8일부터 10일일까지 선교회의 뉴라이프가든에서 15명의 노숙자들을 대상으로 제24차 노숙자 재활 및 영성수련회를 개최했다.

한빛대학교, 글로벌 교육 중심지로 도약
한빛대학교, 글로벌 교육 중심지로 도약

연방인증기관의 정회원 승인 받아12월 13일 학의학과 입학 설명회 기독교 정신을 기반으로 다양한 분야에서 전문 인재를 양성하는 글로벌 교육의 중심지인 한빛대학교가 올해 1월, 연방

이상무가 간다 yotube 채널