한국일보 애틀랜타
엘리트 학원
첫광고
경동나비

[나의 의견] 인공지능과 '개소리'

지역뉴스 | | 2023-09-05 17:56:34

나의 의견, 한소원 서울대 심리학과 교수

구양숙 부동산표정원 융자누가 스킨 케어

철학책은 왠지 어렵다는 선입견이 있어 잘 읽게 되지 않는다. 그런데 철학자가 쓴 책 중에 짧고 명쾌해서 속이 다 후련한 책이 있었다. 철학자 해리 프랭크퍼트의 저서 ‘개소리에 대하여(On Bullshit)’는 대화라는 맥락에서 터무니없는 말이 어떻게 적용되는지 정의하고 분석해 이론으로 만들었다. 2005년에 발간돼 예상치 않게 뉴욕타임스 베스트셀러 1위에까지 올랐던 책이다.

프랭크퍼트는 ‘개소리’를 듣는 이를 현혹시키는 말이면서 도덕적으로 상관하지 않는, 속임수 전문가의 정석으로 설명하고 있다. 이런 ‘개소리’들은 거짓말보다 나쁘다. 그 이유는 거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시해서다.

우리가 감탄하는 대규모언어모델(LLM)에서 만들어내는 문장은 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 가장 그럴싸한 문장을 만들어내는 것이 목표이기 때문에 그 문장이 진실인지 거짓인지는 상관이 없다. 이런 언어 모델은 모방에 능하고 사실에 약하다.

지난해 11월에 출시된 챗GPT는 출시 두 달 만에 사용자가 1억 명이 넘을 만큼 폭발적인 인기를 누리고 있다. 비즈니스 분야에서도 생산성을 높이는 데 이미 큰 역할을 하고 있다. 챗GPT를 써보면 그 생산성에 감탄하기도 하지만 한계를 쉽게 알아차릴 수 있다.

이 챗봇에서 나오는 반응은 유창한 문장이라도 사실이 아닌 것이 많다. 가짜 이름과 존재하지 않는 사실을 만들어낸다. 모든 주제에서 유연하고 순조로운 대화가 가능하다는 것은 그 내용의 참과 거짓을 혼동시키는 결과를 만들 수 있다. 참과 거짓이 섞여 있는 문장이 우리 마음속에서 진실로 기억될 수 있는 것이다.

챗GPT를 개발한 오픈AI가 LLM의 위험을 줄이기 위해 사용한 한 가지 방법은 인간 피드백 강화 학습이다. 흔히 상상하듯이 엄청난 파워를 가진 인공지능(AI)이 스스로 학습을 한 것이 아니라 인간이 일일이 적절하지 못한 요소를 제거한 것이다. 문제는 어떤 대답이 적절한 것인지에 대한 의견이 분분하다는 점이다.

LLM의 위험을 경고하면서 언어학자 에밀리 벤더는 이렇게 역설했다. “기계는 마음이 없이도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다.” 문제는 기술이 아니라 기술에 반응하는 인간인 것이다.

<한소원 서울대 심리학과 교수>

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

‘설악산의 화가 김종학, 애틀랜타에서 첫 전시
‘설악산의 화가 김종학, 애틀랜타에서 첫 전시

45년여 간의 예술 여정 선보여내년 4월 11일에 전시회 개최 애틀랜타 하이 뮤지엄 오브 아트(이하 하이 미술관)에서 설악산의 정수와 아름답게 수놓인 꽃들이 담긴 전시회가 펼쳐진다

미주다일 선우인호, 김순영 신임이사 선임
미주다일 선우인호, 김순영 신임이사 선임

과테말라 선교센터 후원 논의 미주다일공동체는 지난 24일 오후 7시 애틀랜타 오피스 회의실에서 정기이사회를 개최하고 신임이사로 선우인호, 김순영씨를 임명했다.이날 정기이사회는 과테

“난민·미혼모 지켜”   정우성 ‘두 얼굴’.. ‘대중 기만’ 번진   혼외자 스캔들
“난민·미혼모 지켜” 정우성 ‘두 얼굴’.. ‘대중 기만’ 번진 혼외자 스캔들

미혼모를 위한 캠페인에 참여한 정우성 /사진=Marie Claire Korea ‘아빠’는 맞지만 남편도 남친(남자친구)도 아니라니, 대혼돈이다. 톱스타 정우성(51)이 희대의 사생

[자녀의 성공적인 대학 진학을 위한 한인 학부모 가이드] “조지아 컬리지 앤 스테이트 유니버시티(GCSU)” 입학 준비 가이드
[자녀의 성공적인 대학 진학을 위한 한인 학부모 가이드] “조지아 컬리지 앤 스테이트 유니버시티(GCSU)” 입학 준비 가이드

1. 서론조지아 컬리지 앤 스테이트 유니버시티(GCSU)는 조지아 주의 유일한 공립 리버럴아츠 대학으로서, 높은 학문적 기준과 합리적인 학비를 동시에 제공하는 독특한 위치를 차지하

인천공항서 재외동포 민원서비스 가능해진다
인천공항서 재외동포 민원서비스 가능해진다

동포청 민원실 설치제2 여객터미널 내 내달 2일부터 운영   앞으로 미주 한인들의 한국 방문시 인천공항에서도 재외동포 민원서비스 이용이 가능해진다. 재외동포청은 “민원실 인천분소를

카드단말기 도난 직후 수천달러 인출 피해
카드단말기 도난 직후 수천달러 인출 피해

대낮에 한인업소서 강탈 전문털이범 일당 도주 “은행·경찰 대처 미온적” 연말 신종수법 주의해야  오렌지카운티 부에나팍의 한인 디자인 업체에서 순식간에 카드단말기를 강탈해 도주하는

[화제의 가족] 부친은 육군 군목·세 자녀는 모두 공사 출신 장교
[화제의 가족] 부친은 육군 군목·세 자녀는 모두 공사 출신 장교

김혁찬 대령 가족 스토리한국 특전사 호랑이교관 출신 20년 넘게 미 군종장교 근무 군복무 헌신 자녀들에 이어져   미 육군 군목 김혁찬 대령 부부와 공군사관학교를 졸업하고 공군장교

바이든, 마지막 추수감사절 칠면조 사면
바이든, 마지막 추수감사절 칠면조 사면

조 바이든 대통령이 25일 재임 중 마지막 추수감사절 칠면조 사면 행사를 주재하면서 “내 평생의 영광이었다. 영원히 감사할 것”이라며 4년 가까운 백악관 생활을 회고했다. 바이든

‘최대 명절’ 추수감사절 소비… 전년비 19% 증가
‘최대 명절’ 추수감사절 소비… 전년비 19% 증가

평균 지출 431달러 계획코로나19 사태 이후 최대미국인의 56% 가족 모임 중저소득층 ‘부담’ 느껴 연중 최대 명절인 추수감사절이 3일 앞으로 다가온 가운데 소비자들은 올해 추수

소매업체 ‘블프’ 기대…‘소비자 지갑 열어라’
소매업체 ‘블프’ 기대…‘소비자 지갑 열어라’

추수감사절 다음 날연말 샤핑시즌 개막 연말 최대 샤핑 대목인 블랙 프라이데이가 이번 주로 다가오면서 소매업체들이 소비자들의 지갑을 열기 위해 총력전에 나섰다. [로이터]  미국 최

이상무가 간다 yotube 채널