영국왕, AI업계 리더 회의
“기술, 인류·자연 봉사해야”
허사비스“일부 악용 우려
인간 독창성으로 해결 믿어”
![17일 영국 국왕 찰스 3세(왼쪽부터)가 데미스 허사비스 구글 최고과학자, 잰슨 황 엔비디아 CEO와 환담하고 있다. [로이터]](/image/296855/420.webp)
찰스 3세 영국 국왕이 17일 글로벌 인공지능(AI)의 급격한 발달에 따른 인류 존립의 위험성을 경고하고 인간의 통제권을 지켜야 한다고 AI 업계에 촉구했다.
찰스 3세는 이날 스코틀랜드 덤프리스하우스에서 연 회의에서 젠슨 황 엔비디아 최고경영자(CEO), 딥마인드 공동 창업자인 데미스 허사비스 구글 최고과학자, 새러 프라이어 오픈AI 최고재무책임자(CFO) 등을 맞이했다고 로이터 통신과 BBC 방송이 보도했다.
찰스 3세는 개회사에서 “AI의 발전, 그 본질과 속도는 흥미롭고도 그만큼 깊이 우려스럽다”며 “우리의 인간성은 신성함을 유지해야 하고, 대중은 우리가 우리의 운명, 영혼에 대한 통제를 잃지 않을 거란 확신을 원한다”고 말했다. 그는 개발자들이 점점 더 많이 ‘생명을 앗아갈 수도 있는’ AI의 어두운 측면을 경고하고 있다고 언급하면서 “그런 기술이 잘못된 손에 들어가 파괴적일 수 있는 방식으로 사용될 존립적 위험성을 살펴볼 시급성이 있다”고 짚었다.
찰스 3세는 “물론, 우리는 너무 늦기 전에 충분한 통제 수단이 있어야 한다”며 “지금과 같은 형성기에 내려지는 결정이 미래 세대가 물려받을 세상을 결정한다”고 말했다. 이어 찰스 3세는 “여러분 앞에 놓인 과제는 그저 기술을 발전시키기만 하는 게 아니라 그 기술이 인류와 공동체, 자연 세계에 확고히 봉사하도록 보장하는 것”이라고 강조했다.
이번 회의는 업계에서 AI 감속을 촉구하는 목소리가 잇따라 나온 가운데 열렸다. 다리오 아모데이 앤트로픽 CEO, 샘 올트먼 오픈AI CEO 등이 속도조절론을 제기하거나 지지했다. 도널드 트럼프 미국 대통령이 속도조절론을 비판하는 등 정치권에서도 논쟁이 벌어졌고, 선두주자들이 감속론을 꺼내든 배경에는 업계 우위 유지를 위한 것이라는 의심도 제기됐다.
이날 회의에서는 특별한 합의가 도출되지는 않을 것으로 예상된다. 찰스 3세는 기후변화 의제는 오랫동안 다뤄왔으나 기술 분야에 정통하지는 않다. 다만, 서방 주요 지도자로서 중요한 글로벌 현안에서 논의를 주도하려는 노력으로 이번 회의를 연 것으로 해석된다.
한편 젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)이 제품이 아니라 기술이기 때문에 소셜미디어(SNS) 같은 방식으로 규제해서는 안 된다고 주장했다.
17일 폴리티코 유럽판에 따르면 이날 스코틀랜드 에어셔에서 찰스 3세 영국 국왕이 주최한 회동에 참석한 황 CEO는 “AI는 SNS와 매우 다르다”며 “현재 AI와 관련한 보안 문제는 출시할 준비가 되지 않은 제품과 관련돼 있다”고 강조했다.
황 CEO는 AI 개발 속도조절론에 꾸준하게 부정적인 입장을 피력했다. 그는 이번에도 “제품인 SNS와 달리 AI는 다른 모든 기술과 제품의 기반이 되는 기술”이라며 “제품을 규제해야 한다”고 말했다. 그러면서 정부와 규제기관이 AI 활용 과정에서 문제가 발생하는지를 감시하고, 새로운 법률이 필요할 경우 기존 법률에 관련 규정을 추가해야 한다고 덧붙였다. 다만 AI가 활용되는 의료·교통·엔터테인먼트 등의 분야에는 이미 관련 규제가 마련돼 있다고 지적했다.
황 CEO는 또 통제된 테스트 환경을 갖춘 실험실에서 엄격한 검증 시스템을 운영해야 한다고 거듭 강조했다. 그는 “제품을 대중에게 출시하기 전에 제대로 테스트하는 엄격한 검증 절차를 갖춰야 한다”면서 “그렇지 않다면 오믈렛을 만들었는데 아직 내놓을 준비가 되지 않았거나, 자동차나 항공기 엔진이 출시될 준비가 되지 않은 것과 다르지 않다”고 말했다. AI와 관련해 어느 정도 규제 체계가 잡혀 있다고 보고 이를 엄격하게 실행하는 것에 방점을 찍은 것이다.
이번 회동은 AI에 대한 부정적인 전망이 확산하는 가운데 영국 왕실의 주최 아래 업계 관계자 간 중립적인 대화의 장을 유도하기 위해 마련된 것으로 평가받는다. AI 개발 경쟁을 미중 패권 싸움으로 인지하는 도널드 트럼프 미 대통령은 “매우 부정적인 세력이 일어나지 않을 일들을 들먹이고 있다”면서 날선 반응을 보인 바 있다. BBC에 따르면 회동에는 중국 측 대표단도 참가하고 있으나 실질적인 논의는 비공개로 진행되고 있다.
