공격자가 자연어로 명령을 내리면 인공지능(AI) 에이전트가 100개가 넘는 보안 도구를 자동으로 실행해 취약한 시스템을 찾아내고 침투 계획 수립과 공격 코드 작성까지 스스로 처리한다. 올해 1~2월 방화벽 등 보안 장비를 겨냥한 대규모 스캔·해킹 공격에 동원된 'CyberStrike AI'라는 침투 도구의 작동 방식이다.

금융감독원은 9일 업권별 주요 금융회사 정보보호 최고책임자(CISO)들에게 이 같은 공격 사례를 제시하면서 경영진이 직접 보안 체계를 손질해 달라고 요구했다. CyberStrike AI에는 클로드와 GPT-4, 제미나이, 딥시크 등 15개 이상의 AI 모델과 여러 보안 도구를 상황에 맞춰 선택해 사용하는 오케스트레이터 엔진이 탑재됐다. 공격자가 도구를 일일이 다루지 않고도 다수의 금융회사를 동시에 겨냥한 자동화된 대량 공격을 벌일 수 있다.

악성코드가 실행 도중 외부 생성형 AI에 접속해 새로운 공격 코드를 만들어내는 유형도 확인됐다. 지난해 7월 러시아 해킹그룹 APT28이 우크라이나 국방기관 공격에 사용한 '레이미 허그'와 같은 해 11월 구글이 발견한 '프롬프트 플럭스'가 대표적이다. 프롬프트 플럭스는 외부 AI 서비스를 이용해 매시간 공격 코드를 다시 작성하기 때문에 보안 장비에 등록된 탐지 패턴으로는 걸러내기 어렵다.

공격의 거의 전 과정을 AI에 맡긴 사례도 나왔다. 'GTG-1002'로 불리는 국가 배후 해킹그룹은 지난해 9월 생성형 AI를 조작해 전 세계 30여 개 기관에 침해를 시도했고 일부는 실제 피해로 이어졌다. 사람이 맡은 역할은 목표 설정과 일부 의사 결정에 그쳤고, 탐색과 취약점 발견, 공격 코드 작성, 내부 수평 이동, 자료 유출로 이어지는 전체 과정의 80~90%를 AI가 자율적으로 수행했다.

공격에 활용될 수 있는 취약점은 빠르게 늘어나고 있다. 미국 국립표준기술연구소(NIST)가 공개한 신규 취약점은 올해 상반기 3만 5872건으로 전년 동기보다 51.6% 증가했고, 한국인터넷진흥원(KISA)의 보안 공지도 같은 기간 199건으로 46.3% 늘었다. 금감원은 AI를 해킹에 악용할 경우 이런 취약점을 신속하게 탐지할 수 있어 국내 금융회사를 겨냥한 공격이 빈발하고 공격 방식도 정교해지고 있다고 설명했다.

금감원은 대부분의 금융회사가 IT 위험 관리 체계를 운영하고 있으나 AI를 앞세운 새로운 공격에 대응하려면 전사 차원의 체계를 갖춰야 한다고 보고 있다. IT 자산 식별·관리 체계 구축과 대규모 보안 패치 대비에는 상당한 시간과 비용이 들어가기 때문에 경영진이 직접 관여하지 않으면 진척되기 어렵다는 판단이다. 대응이 미흡한 회사에 대해서는 밀착 감시와 현장 점검, 경영진 면담을 통해 집중 관리하기로 했다.

기본 통제 준수도 재차 강조했다. 최근 발생한 주요 IT 사고의 원인은 중요 보안 패치 미적용, 퇴직자 계정과 불필요한 서비스 포트 방치, 이용자 정보 암호화 미흡처럼 기본적인 통제가 지켜지지 않은 경우가 대부분이었다. 금감원은 7월부터 전 금융권을 대상으로 자가 진단 도구를 활용한 '자율 시정'을 진행하고 있으며, 금융회사들은 11월까지 정보처리시스템 보호와 전산 자료 보호, 해킹 방지, 공개용 웹서버 관리, 프로그램 변경 통제 등 5개 부문의 운영 실태를 자체적으로 점검·보완해야 한다. 미흡 사항을 충실히 보완한 회사는 경미한 사고가 발생하더라도 제재 감면을 검토받지만, 형식적으로 점검한 뒤 기본 통제 미비를 원인으로 대규모 IT·침해사고가 발생하면 엄중한 조치를 받는다.

보안 목적의 AI 활용을 위한 망 분리 규제 긴급 완화 조치는 단계적으로 확대한다. 신청한 금융회사·전자금융업자 75곳 가운데 15곳을 10월 중 선정해 2차 테스트를 진행할 예정이다. 이종오 디지털·IT 부문 부원장보는 프런티어 AI 기반의 보안 위협이 막연한 우려가 아니라 금융회사의 생존과 직결된 현실의 문제가 된 만큼 대표이사를 비롯한 경영진이 앞장서 조직과 인력, 예산을 확충해 달라고 당부했다.