■ AI에 무너지는 보안 장벽
정찰·계획·실행·분석·재시도 반복
접근 힘든 국가인프라‘쪽문’찾아내
외국선 열병합발전·상하수도 타격
현실 재난 막으려면 선제적 보안 필요
인공지능(AI)이 공격 목표를 넘겨받자 대상 환경을 훑기 시작했다. 외부에 열려 있는 포트(Port)와 서비스를 정찰하고 침투 지점을 탐색했다. 수집한 정보를 토대로 침투 계획을 세우고 필요한 도구와 명령어도 직접 골랐다. 잠시 뒤 화면에 ‘FAIL(실패)’이 떴지만 공격은 멈추지 않았다. AI는 실패 원인을 분석해 다른 방법으로 다시 침투를 시도하고 막히면 경로를 바꿨다. 사람이 다음 명령을 내리지 않아도 ‘정찰→계획→실행→분석→재시도’를 반복하며 공격 경로를 스스로 찾아갔다.
지난달 16일 안랩이 공개한 ‘AI 펜테스트(Penetration Test)’ 시연 장면이다. 몇 차례 시도 끝에 AI는 파일 업로드 과정의 취약점을 찾아 외부에서 서버에 임의의 명령을 내릴 수 있는 ‘원격 코드 실행(RCE)’ 가능성까지 확인했다. 기존 자동화 공격과 결정적으로 다른 것은 ‘실패 이후’다. 미리 입력된 공격을 반복하는 데 그치지 않고 결과를 보고 다음 행동을 결정했다.
당시 안랩은 이를 AI 시대에 등장할 새로운 공격 방식으로 제시했다. 하지만 불과 수주 뒤 국내 금융권에서 우려가 현실로 나타났다.
5일 보안업계에 따르면 AI를 활용한 사이버 공격이 금융권을 넘어 국가 핵심 인프라로 확산할 수 있다는 우려가 커지고 있다. 전력·통신·교통 등 핵심 인프라는 금융권보다 견고한 보안 체계를 갖추고 있지만 AI가 정찰과 취약점 탐색부터 공격 방법 선택, 실패 분석과 재시도까지 대신하면서 공격의 문턱 자체가 낮아지고 있기 때문이다. 공격자가 시스템 구조를 일일이 분석하고 취약점을 찾아야 했던 과정을 AI가 빠르게 반복하면 그동안 발견하기 어려웠던 외부 접점이나 ‘쪽문’까지 찾아낼 수 있다. 특히 공격에 필요한 시간·비용·전문성이 낮아지면서 높은 보안 장벽 때문에 접근이 어려웠던 국가 핵심 인프라까지 공격자의 탐색 범위에 들어올 수 있다는 분석이다.
이승경 안랩 인공지능개발실장은 “AI 에이전트로 공격 비용과 기술적 진입장벽이 낮아지면 국가 기반 인프라를 겨냥한 공격 시도도 늘어날 가능성이 크다”며 “AI가 취약한 지점을 빠르게 찾아 대규모로 공격을 시도할 수 있는 만큼 선제적으로 취약점을 찾아 차단하는 대응 체계가 더욱 중요해질 것”이라고 말했다.
이미 해외에서는 AI를 활용해 국가 핵심 인프라를 겨냥한 공격 시도가 실제로 나타나고 있다. 산업제어시스템(ICS) 보안업체 드라고스(Dragos)에 따르면 올해 초 멕시코에서는 운영기술(OT), ICS에 대한 전문성이 없는 공격자가 앤트로픽의 ‘클로드’와 오픈AI의 GPT 모델을 동원해 상수도 사업자를 공격했다.
실제 클로드는 침투 계획과 공격도구 개발·배포 등 기술적 실행에 활용됐고 GPT 모델은 수집한 데이터 처리와 분석 결과 구조화를 맡았다. 특히 클로드는 이번 금융권 해킹 사례처럼 해당 인터페이스를 대상으로 비밀번호를 무차별 대입하는 대규모 자동화 공격을 수행했다. 이러한 시도는 최종적으로 실패했지만 전문성이 부족한 공격자도 AI를 이용해 핵심 인프라의 공격 경로를 찾아갈 수 있다는 점을 보여줬다.
미 국가안보국(NSA)은 올해 8월 사이버안보·인프라보안국(CISA), 미 연방수사국(FBI) 등과 함께 지멘스의 ‘S7 시리즈 프로그래머블 로직 컨트롤러(PLC)’를 겨냥한 사이버 공격을 경고했다. 공격자들이 AI로 생성한 취약점 공격 스크립트를 활용하고 있다는 것이다. PLC는 공장 등 산업시설의 설비를 자동 제어하는 핵심 장비다.
NSA는 보안이 취약한 PLC가 공격받을 경우 핵심 산업 공정이 중단되는 것은 물론 안전사고와 장비 손상, 가동 중단 등 ‘현실 세계의 피해’로 이어질 수 있다고 경고했다.
<서울경제=노현섭 기자>
