한국일보 애틀랜타
엘리트 학원
경동나비
첫광고

[나의 의견] 인공지능과 '개소리'

지역뉴스 | | 2023-09-05 17:56:34

나의 의견, 한소원 서울대 심리학과 교수

구양숙 부동산표정원 융자누가 스킨 케어

철학책은 왠지 어렵다는 선입견이 있어 잘 읽게 되지 않는다. 그런데 철학자가 쓴 책 중에 짧고 명쾌해서 속이 다 후련한 책이 있었다. 철학자 해리 프랭크퍼트의 저서 ‘개소리에 대하여(On Bullshit)’는 대화라는 맥락에서 터무니없는 말이 어떻게 적용되는지 정의하고 분석해 이론으로 만들었다. 2005년에 발간돼 예상치 않게 뉴욕타임스 베스트셀러 1위에까지 올랐던 책이다.

프랭크퍼트는 ‘개소리’를 듣는 이를 현혹시키는 말이면서 도덕적으로 상관하지 않는, 속임수 전문가의 정석으로 설명하고 있다. 이런 ‘개소리’들은 거짓말보다 나쁘다. 그 이유는 거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시해서다.

우리가 감탄하는 대규모언어모델(LLM)에서 만들어내는 문장은 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 가장 그럴싸한 문장을 만들어내는 것이 목표이기 때문에 그 문장이 진실인지 거짓인지는 상관이 없다. 이런 언어 모델은 모방에 능하고 사실에 약하다.

지난해 11월에 출시된 챗GPT는 출시 두 달 만에 사용자가 1억 명이 넘을 만큼 폭발적인 인기를 누리고 있다. 비즈니스 분야에서도 생산성을 높이는 데 이미 큰 역할을 하고 있다. 챗GPT를 써보면 그 생산성에 감탄하기도 하지만 한계를 쉽게 알아차릴 수 있다.

이 챗봇에서 나오는 반응은 유창한 문장이라도 사실이 아닌 것이 많다. 가짜 이름과 존재하지 않는 사실을 만들어낸다. 모든 주제에서 유연하고 순조로운 대화가 가능하다는 것은 그 내용의 참과 거짓을 혼동시키는 결과를 만들 수 있다. 참과 거짓이 섞여 있는 문장이 우리 마음속에서 진실로 기억될 수 있는 것이다.

챗GPT를 개발한 오픈AI가 LLM의 위험을 줄이기 위해 사용한 한 가지 방법은 인간 피드백 강화 학습이다. 흔히 상상하듯이 엄청난 파워를 가진 인공지능(AI)이 스스로 학습을 한 것이 아니라 인간이 일일이 적절하지 못한 요소를 제거한 것이다. 문제는 어떤 대답이 적절한 것인지에 대한 의견이 분분하다는 점이다.

LLM의 위험을 경고하면서 언어학자 에밀리 벤더는 이렇게 역설했다. “기계는 마음이 없이도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다.” 문제는 기술이 아니라 기술에 반응하는 인간인 것이다.

<한소원 서울대 심리학과 교수>

댓글 0

의견쓰기::상업광고,인신공격,비방,욕설,음담패설등의 코멘트는 예고없이 삭제될수 있습니다. (0/100자를 넘길 수 없습니다.)

로제, 유재석 만났다.. ‘APT.’  열풍→‘유퀴즈’  출격
로제, 유재석 만났다.. ‘APT.’ 열풍→‘유퀴즈’ 출격

블랙핑크 로제 /사진=스타뉴스걸 그룹 블랙핑크(BLACKPINK) 멤버 로제(ROSE)가 ‘유 퀴즈 온 더 블럭’(이하 ‘유퀴즈’)에 뜬다.14일(한국시간 기준) 스타뉴스 단독 취

CJ대한통운,  조지아주에 '콜드체인 물류센터' 가동
CJ대한통운, 조지아주에 '콜드체인 물류센터' 가동

7천500평 규모 복합물류센터…내륙항 완공되면 사바나 항구와 연결급속 냉동 시스템 도입…미국 농무부 인증 검사실 갖춰 CJ대한통운 조지아주에 '콜드체인 물류센터' 오픈[CJ대한통운

트럼프, 불법 이민자 구금시설 정원 두 배로 확충 추진
트럼프, 불법 이민자 구금시설 정원 두 배로 확충 추진

불법 이민자 자녀까지 함께 구금하는 제도도 부활 검토 사상 최대 규모의 불법 이민자 추방을 예고한 도널드 트럼프 미국 대통령 당선인이 구체적인 실행 계획 마련에 착수했다.NBC 방

미국 원정출산 산모 수술후 후유증 사망
미국 원정출산 산모 수술후 후유증 사망

한국 알선업체 통해 와괌 리조트에 혼자 방치적절한 치료 받지 못해 한국 알선업체를 통해 미국령인 괌으로 원정출산을 온 한국인 산모가 출산 12일 만에 사망하는 사건이 뒤늦게 알려져

아시아계 동업자 엽기살인 충격
아시아계 동업자 엽기살인 충격

8만불 채무 안 갚으려 남가주에서 아시아계 동업자끼리 채무 관계를 둘러싸고 엽기 살인사건이 벌어져 충격을 주고 있다. 오렌지카운티 거주 중국계 부부를 엽기 살인한 글렌데일의 중국계

트럼프 취임 앞두고 영주권 문호 전면 동결
트럼프 취임 앞두고 영주권 문호 전면 동결

■국무부 12월 문호 발표취업 2·3·4순위 제자리에가족이민 한발짝도 못나가   취업이민과 가족이민 영주권 문호가 전면 동결됐다. 연방 국무부가 13일 발표한 2024년 12월 영

공화, 상·하원까지 다수당 확정… 행정·입법부 장악
공화, 상·하원까지 다수당 확정… 행정·입법부 장악

연방대법원도 보수 우위‘트럼프 어젠다’ 추진 탄력   공화당 연방하원의원 회의에 참석한 도널드 트럼프 대통령 당선인이 마이크 존슨 하원의장과 인사하고 있다. [로이터]  공화당이

소비자 물가 둔화세 멈춰…인플레 우려 다시 고조
소비자 물가 둔화세 멈춰…인플레 우려 다시 고조

10월 전년 대비 2.6%↑7개월 만에 상승률 반등   10월 소비자 물가 상승률이 전년 대비 2.6%로 둔화세를 멈추고 반등하면서 물가 잡기가 여전히 어려운 과제임이 다시 한 번

내년 재외동포청 예산 소폭 늘어

국회, 1,070억원 책정전년 대비 0.4%↑ 그쳐 내년 한국 재외동포청 예산이 올해보다 소폭 늘어난 1,070억6,300만원으로 책정됐다. 한국 국회 외교통일위원회는 13일 재외

트럼프 2기 외교안보 진용 완성… 40·50 ‘충성파’
트럼프 2기 외교안보 진용 완성… 40·50 ‘충성파’

루비오 국무 공식 발표법무엔 극우성향 게이츠국 방 에는 44세 헤그세스관 료 ·장성·네오콘 배제  도널드 트럼프 대통령 당선인이 미국의 대외정책을 이끌 국무부 장관으로 마르코 루비

이상무가 간다 yotube 채널