한국일보 애틀랜타
이규 레스토랑
첫광고
엘리트 학원

[나의 의견] 인공지능과 '개소리'

지역뉴스 | 외부 칼럼 | 2023-09-05 17:56:34

나의 의견, 한소원 서울대 심리학과 교수

구양숙 부동산표정원 융자누가 스킨 케어

철학책은 왠지 어렵다는 선입견이 있어 잘 읽게 되지 않는다. 그런데 철학자가 쓴 책 중에 짧고 명쾌해서 속이 다 후련한 책이 있었다. 철학자 해리 프랭크퍼트의 저서 ‘개소리에 대하여(On Bullshit)’는 대화라는 맥락에서 터무니없는 말이 어떻게 적용되는지 정의하고 분석해 이론으로 만들었다. 2005년에 발간돼 예상치 않게 뉴욕타임스 베스트셀러 1위에까지 올랐던 책이다.

프랭크퍼트는 ‘개소리’를 듣는 이를 현혹시키는 말이면서 도덕적으로 상관하지 않는, 속임수 전문가의 정석으로 설명하고 있다. 이런 ‘개소리’들은 거짓말보다 나쁘다. 그 이유는 거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시해서다.

우리가 감탄하는 대규모언어모델(LLM)에서 만들어내는 문장은 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 가장 그럴싸한 문장을 만들어내는 것이 목표이기 때문에 그 문장이 진실인지 거짓인지는 상관이 없다. 이런 언어 모델은 모방에 능하고 사실에 약하다.

지난해 11월에 출시된 챗GPT는 출시 두 달 만에 사용자가 1억 명이 넘을 만큼 폭발적인 인기를 누리고 있다. 비즈니스 분야에서도 생산성을 높이는 데 이미 큰 역할을 하고 있다. 챗GPT를 써보면 그 생산성에 감탄하기도 하지만 한계를 쉽게 알아차릴 수 있다.

이 챗봇에서 나오는 반응은 유창한 문장이라도 사실이 아닌 것이 많다. 가짜 이름과 존재하지 않는 사실을 만들어낸다. 모든 주제에서 유연하고 순조로운 대화가 가능하다는 것은 그 내용의 참과 거짓을 혼동시키는 결과를 만들 수 있다. 참과 거짓이 섞여 있는 문장이 우리 마음속에서 진실로 기억될 수 있는 것이다.

챗GPT를 개발한 오픈AI가 LLM의 위험을 줄이기 위해 사용한 한 가지 방법은 인간 피드백 강화 학습이다. 흔히 상상하듯이 엄청난 파워를 가진 인공지능(AI)이 스스로 학습을 한 것이 아니라 인간이 일일이 적절하지 못한 요소를 제거한 것이다. 문제는 어떤 대답이 적절한 것인지에 대한 의견이 분분하다는 점이다.

LLM의 위험을 경고하면서 언어학자 에밀리 벤더는 이렇게 역설했다. “기계는 마음이 없이도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다.” 문제는 기술이 아니라 기술에 반응하는 인간인 것이다.

<한소원 서울대 심리학과 교수>

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

[전문가 칼럼] 보험, 그것이 알고 싶다- 메디케어란 무엇인가?

최선호 보험전문인 흘러가는 세월이 끝이 있느냐 없느냐 하는 문제는 과학적인 문제일 뿐만 아니라, 철학적인 명제이기도 하다. 그만큼 인간의 머리로는 이해할 수 없는 영역이기 때문에

[내 마음의 시] 가을이  오네
[내 마음의 시] 가을이  오네

이 종 호(애틀랜타문학회 회원) 너무 덥다고밀어 보내지 않아도떠날 때 알고 있는 여름은 이미 이별을 준비하고 있다 금새 떠날걸 알면서도호들갑 떨며 아우성치던 우리는 언제 그랬냐고 

[애틀랜타 칼럼] 인생의 사계절(사추기)

이용희 목사인생의 사계절 중 중년기 그 중에서도 남성의 중년기를 좀더 구체적으로 살펴봅시다. 중년을 묶고 있는 몇 개의 사슬들이 있습니다. 첫째는 정체감의 혼란입니다. 중년기는 흔

[전문가 칼럼] 이번 가을의 Medicare 공개 등록 기간이 특히 중요한 이유
[전문가 칼럼] 이번 가을의 Medicare 공개 등록 기간이 특히 중요한 이유

연례 Medicare 공개 등록 기간은 2024년 10월 15일부터 2024년 12월 7일까지입니다. 또한 주 건강보험 마켓플레이스 (State’s Health Insurance

[벌레박사 칼럼] 가을철 벌레 관리는 이렇게…

벌레박사 썬박페스트 콘트롤 비즈니스를 오래 하다보니, 아침에 일어 나면 자동적으로 TV를 켜고 그날의 일기예보를 본다. 비즈니스 특징상 그날의 기온이 얼마나 변화가 있는지, 비와

[법률칼럼] 결혼영주권과 가정폭력

케빈 김 법무사   미국 이민 과정에서 종종 발생하는 문제 중 하나는 이중 결혼과 가정폭력 관련된 사례다. 가장 흔한 예로, 이미 미국에서 결혼한 사람이 한국으로 가서 자신을 총각

[행복한 아침] 모순

김정자(시인·수필가) 하이웨이 285에서 톰 모어 랜드 인터체인지로 차선을 바꾸려는 지점에서 갑자기 이쪽 차선으로 끼어든 차가 요란한 엔진소리를 울리며 내달린다. 연이어 여러 대가

[내 마음의 시] 이제 가을이
[내 마음의 시] 이제 가을이

권 요 한(애틀란타 문학회 회장) 길가 풀잎위몰래 앉은 새벽 이슬맑은 방울속에가을이 담겨 왔습니다  밤낮도 모르고처량하게 들려 오던매미 노래 여운속에가을이 스며 들었습니다  상큼하

[모세최의 마음의 풍경]  삶의 치열함에서 오는 것은
[모세최의 마음의 풍경] 삶의 치열함에서 오는 것은

최 모세(고전 음악·인문학 교실) 삶의 치열함에서 오는 변화는 먼저 성찰과 순수함의 회복이 아닐까 싶다.삶의 치열한 탐색이 변화의 핵심 요체인 듯하다.변화를 갈망하는 치열한 탐색이

[신앙칼럼] 기쁨의 모략(Conspiracy Of Joy, 시편Psalm 37:4)

방유창 목사 혜존(몽고메리 사랑 한인교회) 하나님의 진정성(Authenticity of God)을 가장 잘 대변해주는 단어 중에 “기쁨”이 있습니다. 이 기쁨의 저변에 무엇이 모략

이상무가 간다 yotube 채널