정부는 새 규제 선긋고… 업계와는 자율규제 협약

■ 트럼프·AI CEO 오찬

4대 통제체계 합의 발표

기업이 자율 통제·감사

‘ 수퍼지능’개명 서명도

 

 

 

 

도널드 트럼프 대통령이 인간 통제를 완전히 벗어난 인공지능(AI) 출현 가능성에 대한 경고음에도 불구하고 정부나 의회의 새 규제 도입에는 선을 그은 뒤 AI 업계의 ‘자율 규제’에 맡겼다.

 

트럼프 대통령은 지난달 29일 백악관에서 미국 주요 AI 기업 최고경영자(CEO)들과 오찬을 함께한 자리에서 “엄청난 수준의 자율규제가 있어야 한다는 믿음이 있다”고 말했다.

 

트럼프 대통령의 이러한 언급은 AI 인류 멸망론과 함께 급속한 개발의 속도를 연방 정부 차원의 규제로 조절해야 한다는 일각의 우려와 요구에도 이날 오찬에서는 AI 업계의 자율 규제만으로 AI를 제어할 수 있다는 데 의견이 모아졌음을 시사한 것으로 풀이된다.

 

트럼프 대통령은 이날 “우리가 한 일의 몇 가지를 요약한 성명을 발표할 것”이라고 했다. 트럼프 대통령은 이후 소셜미디어 트루스소셜을 통해 ‘프런티어 책임에 관한 공동 약속’이라는 ‘백악관 슈퍼지능 협약’ 문서를 공개했다.

 

이 합의문에는 “미국인과 전 세계를 위한 긍정적 미래를 구축하기 위해 우리는 모든 기업이 안전하게, 그리고 고객과 대중의 신뢰를 구축하는 방식으로 자사 기술을 개발할 책임이 있다고 믿는다”고 적혔다. 이어 “이는 프런티어 모델을 학습하고 배포하는 모든 기업이 튼튼한 내부 프로세스와 기술이 의도한 대로 작동하고 문제 발생시 신속히 파악하고 해결할 수 있는 통제를 갖추는 것에서 시작한다”며 4가지 통제 및 감사 시스템 도입을 약속했다.

 

우선 사이버·바이오 보안, 화학 위협 등 분야에서 모델의 학습 배포 과정 동안 모델의 역량과 정합성을 모니터링하고 모델이 의도하지 않은 방식으로 해킹하거나 기술 시스템에 접근하지 않도록 하기 위한 튼튼한 내부 통제를 구축하기로 했다.

 

또 모든 통제와 모니터링, 탐지가 의도한 대로 작동하는지 확인하고 어떤 문제든 해결할 수 있도록 내부 팀의 역량을 강화하기로 했으며, 이러한 통제 등이 제대로 작동하는지 평가할 수 있는 독립적인 외부 감사인 또는 평가인과 협력하기로 했다.

 

마지막으로 어떤 이슈가 확인되고 시정됐는지 확인하기 위해 내부 통제 팀과 외부 감사인·평가인의 보고를 검토하고 수신하기 위해 이사회 산하에 독립적 위원회를 지정하기로 했다.

 

합의문에는 “참여 기업들은 시스템 안전을 향상하기 위한 표준과 모범 사례를 마련하기 위해 정기적으로 만날 것”이라고 밝혔다.

 

이와 함께 트럼프 대통령은 중간선거를 앞두고 유권자들의 불만이 누적되고 있는 AI 데이터센터 건설과 관련해선 “지역사회와 협력할 것이며, 지역사회가 행복해지도록 노력할 것”이라며 “데이터센터는 매우 인기있을 것”이라고 말했다.

 

트럼프 대통령은 이날 ‘인공지능’이란 명칭을 ‘슈퍼지능’으로 변경하는 행정명령에 서명했다.