AI 보안 시리즈 ② - [Deep Dive] AI는 어떻게 가장 완벽한 '창'이 되었나

 

"해커들은 더 이상 코드를 짜지 않는다. 그들은 AI를 지휘할 뿐이다."

 

지난 1편에서 우리는 앤트로픽의 '미토스(Mythos)' 모델 발표가 불러온 파장과, 스스로 진화하는 '자율형 AI 공격 시대'의 서막을 확인했습니다. 국가 차원의 긴급 보안 간담회가 열릴 정도로 IT 생태계가 긴장하고 있는 지금, 우리는 적의 무기를 정확히 알아야 할 필요가 있습니다.

 

과연 AI는 구체적으로 어떤 기술을 통해 우리의 시스템을 무너뜨리고 있을까요? 이번 2편에서는 해커들의 손에 들린 AI가 어떻게 '가장 완벽하고 치명적인 창'으로 진화했는지 그 기술적 이면을 깊숙이 파헤쳐 봅니다.

🗣️ 1. 인간의 심리를 해킹하다: 맞춤형 스피어 피싱과 딥페이크

과거의 피싱 메일은 꽤 허술했습니다. 어색한 번역기 말투, 뜬금없는 발신자 주소 등 보안 교육을 받은 직장인이라면 충분히 걸러낼 수 있는 수준이었죠. 하지만 챗GPT와 같은 대형 언어 모델(LLM)이 해커들의 도구로 전락하면서 상황은 180도 달라졌습니다.

 

이제 해커들은 다크웹에서 '사이버 범죄용 LLM(FraudGPT 등)'을 활용해 대량의 맞춤형 공격을 자동화합니다. AI는 타깃 기업 직원의 링크드인(LinkedIn) 프로필, 최근 부서 이동 내역, 심지어 외부로 유출된 과거 이메일 샘플을 분석하여 평소 상사나 거래처가 쓰는 완벽한 비즈니스 톤앤매너로 스피어 피싱(Spear Phishing) 메일을 작성합니다.

 

더욱 끔찍한 것은 '딥페이크(Deepfake)'의 결합입니다. 최근 글로벌 보안 리포트들에 따르면, 탈취한 CEO의 목소리 3초 분량만으로 완벽한 음성 복제를 생성해 재무팀에 "지금 당장 M&A 비밀 자금을 이 계좌로 송금하라"고 지시하는 BEC(기업 이메일 침해) 사기가 급증하고 있습니다. 인간의 '신뢰'와 '심리'를 파고드는 사회공학적 공격이 AI를 만나 완벽한 대량 생산 체제를 갖춘 것입니다.

🦎 2. 1초마다 지문을 바꾸는 카멜레온: 다형성(Polymorphic) 악성코드

기존의 안티바이러스나 방화벽 시스템은 대부분 범인의 '지문(시그니처)'을 데이터베이스에 등록해 두고, 같은 지문이 발견되면 차단하는 방식으로 작동해 왔습니다.

 

하지만 AI가 생성하는 악성코드는 이른바 '다형성(Polymorphism)'을 띱니다. 탐지를 피하기 위해 공격을 실행할 때마다 자신의 코드 구조를 스스로 재작성합니다. 본질적인 공격 페이로드(목적)는 같지만, 겉으로 보이는 해시(Hash) 값이나 코드의 배열을 끊임없이 변형하는 것입니다.

 

보안 솔루션이 힘겹게 새로운 악성코드의 지문을 분석해 블랙리스트에 올리는 순간, 이미 그 악성코드는 다른 모습으로 탈바꿈하여 시스템 내부를 버젓이 돌아다니고 있습니다. 이는 마치 범인이 경찰의 검문을 통과할 때마다 얼굴과 지문을 자유자재로 바꾸는 것과 같습니다. 정해진 패턴에만 의존하는 기존 방어 체계는 이 '카멜레온' 앞에서 속수무책일 수밖에 없습니다.

🤖 3. 소스코드 없이 약점을 꿰뚫는다: 자율형 AI 봇넷(Botnet)

가장 치명적이고 혁신적인 공격 무기는 바로 '자율형 AI 봇넷'입니다. 미토스 사태에서 국내 보안 전문가들이 가장 경악했던 부분 역시, AI가 시스템의 소스코드 없이 컴파일된 '바이너리 코드'만으로 취약점을 찾아내는 능력이었습니다.

 

해커가 타깃 시스템을 지정하면 수천, 수만 개의 AI 봇이 일제히 달려들어 스캐닝을 시작합니다. 이들은 인간 해커처럼 지치지 않습니다. 만약 1차 공격이 웹 방화벽(WAF)에 의해 막힌다면? AI 봇은 실시간으로 방화벽의 차단 패턴을 학습하고, 이를 우회할 수 있는 새로운 익스플로잇(Exploit) 경로를 즉석에서 생성하여 2차, 3차 공격을 시도합니다. 관리되지 않은 오래된 API나 잊혀진 레거시 장비의 틈새를 찾아낼 때까지, 사람의 개입 없이 스스로 추론하고 진화하며 공격하는 것입니다.

🛡️ 무너진 성벽 앞, 우리의 대안은 무엇인가?

정리하자면, 현재 보안 생태계를 위협하는 AI 공격은 ① 속일 수 없는 정교함(LLM/딥페이크), ② 변칙성(다형성 악성코드), ③ 지치지 않는 자율성(자율형 봇넷)이라는 세 가지 무기를 장착했습니다.

 

방패를 들고 막아서는 순간, 창은 유체처럼 형태를 바꾸어 틈새를 파고듭니다. 우리는 과연 무엇으로 이 공격을 막고 있는 걸까요? 우리가 굳게 믿고 있는 방화벽은 지금 제 역할을 하고 있을까요?

 

다음 [3편: 무너진 방벽]에서는 이처럼 영악해진 AI 공격 앞에서 기업들이 맹신하던 '기존 방화벽(Legacy Firewall)'과 'WAF'가 어떻게 한계를 드러내고 돌이킬 수 없는 피해를 입게 되는지, 그 구조적인 맹점을 냉철하게 분석해 보겠습니다.