은행 앱을 켜면 자연스럽게 AI(인공지능) 챗봇이 말을 건다. 대출 상담부터 환율 문의, 이상 거래 신고까지 AI가 처리하는 시대가 되었지만, 보안 전문가들 사이에서는 AI 챗봇 자체가 해커의 표적이 될 수 있다는 우려가 커지고 있다.

금융감독원과 금융보안원은 오는 5월부터 6월 사이 '2026년 상반기 금융권 블라인드 모의해킹 훈련'을 실시한다고 30일 밝혔다.

올해에는 최근 고도화되는 사이버 위협과 금융권의 침해사고 양상을 반영해 사상 처음 'AI 레드티밍'을 도입한다. 이는 화이트해커가 금융회사의 생성형 AI 서비스를 직접 해킹 대상으로 삼아 숨겨진 취약점을 찾아내는 방식이다.

AI를 겨냥한 공격은 기존 해킹과는 결이 다르다. 서버 방화벽을 뚫거나 악성코드를 심는 방식이 아니라, AI와 '대화'를 나누며 허점을 파고든다. 대표적인 수법인 '프롬프트 인젝션'은 AI에게 교묘한 명령을 삽입해 내부 지침을 무력화하거나 타인의 데이터를 유출하도록 유도한다. 이외에도 안전장치를 우회해 비정상적인 응답을 이끌어내는 '탈옥(Jailbreak)' 공격도 주요 점검 대상이다.

더 정교한 사회공학적 기법도 시험대에 오른다. 대화의 맥락을 조작해 AI가 타인의 계좌 정보나 거래 내역 등 민감한 데이터를 노출하게 만들거나, AI를 속여 내부 정책이나 시스템 구조를 털어놓게 만드는 방식이다. AI 공격은 기술적 취약점과 언어적 조작이 결합된 형태가 많다. 기존 보안 체계로는 탐지 자체가 쉽지 않다는 점에서 위험성이 더 크다.

올해 훈련은 AI 레드티밍 외에도 전방위적으로 강도가 높아졌다. 가장 눈에 띄는 변화는 훈련 횟수다. 연 1회였던 훈련을 올해부터 상·하반기 연 2회로 늘렸으며, 1차는 5~6월, 2차는 하반기에 별도 통보한다. 공격 일시와 대상을 사전 예고하지 않는 '블라인드' 방식을 고수해 금융회사의 실질적인 탐지·대응 역량을 점검한다.

아울러 불시 DDoS 공격, 서버 해킹, 모의 침투 훈련도 병행된다. 최근 침해사고의 주된 원인으로 지목된 외부 접속 인프라, 네트워크 취약점, 보안 업데이트 적정성 등을 현장 방문 훈련을 통해 집중 점검할 계획이다.

금감원은 훈련에서 발견된 취약점을 해당 금융사가 즉시 보완하도록 조치하는 한편, 여러 곳에서 공통으로 나타난 문제점과 개선 사항은 업계 전체에 공유해 금융권 전반의 보안 수준을 상향 평준화할 방침이다. 또한 '고성능 AI 모델의 악용 가능성' 등 신규 사이버 위협을 지속적으로 모니터링해 향후 훈련에 반영할 예정이다.

이종오 디지털·IT 금감원 부원장보는 “이번 훈련은 이달 7일 발표한 ‘사전예방적 디지털 리스크 감독방안’의 하나로 추진하는 것”이라며 "신종 보안 위협까지훈련 범위에 포함해 실효성 있게 실시하는 만큼 금융회사의 사이버 위협 대응 역량을 강화하고, 침해 사고를 예방하는데 도움이 될 것"이라고 말했다.