2025년, 한 다국적 기업의 재무 담당자가 CEO와 임원들이 참석한 평범한 화상회의에 들어갔다. 그리고 약 50만 달러 송금을 승인했다. 문제는 그 회의에 진짜 사람은 자기 혼자뿐이었다는 것이다. CEO도, 다른 임원들도 전부 AI가 만든 딥페이크였다.
"문법 틀린 이상한 메일만 조심하면 된다"던 시절의 보안 상식은 이제 통하지 않는다. AI는 공격자에게도 똑같이 강력한 도구다. IBM 2025 데이터 유출 비용 보고서에 따르면 이미 침해의 16%가 AI 도구를 동원했고, 그중 AI 생성 피싱이 37%, 딥페이크 사칭이 35%를 차지한다. 무엇이 새로워졌는지, 그리고 오늘 당장 뭘 해야 하는지 정리했다.
피해 규모 · FBI 2024 보고서
166억 달러 · 전년비 +33%
미국 FBI 2024 인터넷범죄(IC3) 보고서 기준 사이버 범죄 손실은 166억 달러(약 16.6 billion)로, 전년 대비 33% 늘었다. AI 보안 도구 시장도 2021년 약 150억 달러에서 2030년 1,350억 달러 이상으로 커질 전망이다. 공격과 방어가 함께 폭발하고 있다.
신유형 1~3. 사람 눈을 무력화하는 것들
문법 오류가 사라진 미끼
과거 피싱을 걸러내던 힌트는 어색한 번역투와 오타였다. AI는 그걸 전부 지운다. 게다가 링크드인·회사 홈페이지·뉴스에서 긁은 당신의 정보로 글쓰기 스타일까지 흉내낸다. 분석된 피싱 이메일의 82.6%에서 AI 사용 흔적이 나왔고, 보안 전문가 절반은 이 초개인화 피싱을 최대 위협으로 꼽는다.
믿는 얼굴과 목소리가 무기가 된다
서두의 50만 달러 사례가 예외가 아니다. 한 엔지니어링 회사는 딥페이크 공격으로 2,500만 달러를 잃었다. 이제 딥페이크는 다크웹에서 서비스형(Deepfake-as-a-Service)으로 팔린다. 기술이 없어도 돈만 내면 임원 목소리·얼굴을 위조할 수 있다는 뜻이다.
실행 중에 모습을 바꾸는 악성코드
AI 멀웨어는 실행 도중 스스로 코드를 바꿔 시그니처 탐지를 피한다. 폴리모픽 피싱은 한술 더 떠, 피해자 브라우저에서 LLM을 호출해 매번 다른 자바스크립트를 즉석 생성한다. 페이지에 고정된 악성 코드가 없으니 스캐너가 잡을 게 없다. 사람 판단과 시그니처 기반 도구를 동시에 무너뜨리는 설계다.
신유형 4~5. 기계 속도로 움직이는 것들
나머지 둘은 사람을 속이는 게 아니라 속도로 압도한다. AI 취약점 스캐너는 수천 개 시스템의 설정 오류를 동시에 훑고, 취약점 발견부터 실제 악용까지 걸리던 시간을 몇 주에서 몇 시간으로 압축한다(유형 4). 여기에 AI 봇넷은 사람 없이도 스스로 지휘·통제 결정을 내리고, 방어 대응에 맞춰 실시간으로 DDoS를 조정하며, 상상하기 어려운 규모로 자격증명 대입 공격을 자동화한다(유형 5).
⚠️ 핵심은 "모든 공격이 성공한다"가 아니다. 새 공격 기법이 나오고 방어책이 마련되기까지의 빈틈 구간에, 충분히 많은 시도가 자동으로 쏟아진다는 것이다. 그 틈에 딱 한 번만 뚫려도 피해는 실재한다.
🛡️ 그래서 오늘 뭘 하나 — 방어 체크리스트
다행히 방어의 기본기는 화려하지 않다. AI 공격의 상당수가 결국 "사람이 검증 없이 행동하게 만드는 것"을 노리기 때문에, 절차 하나가 가장 강력한 방패가 된다.
다중 채널 검증(가장 중요). 송금·자격증명·권한 변경·거래처 승인 요청은 반드시 다른 독립 경로로 한 번 더 확인한다. 영상통화로 지시받았으면 미리 아는 번호로 전화해 재확인. 딥페이크·음성복제에 가장 효과적인 단 하나의 방어다.
가족·팀 암구호. "급하게 돈 필요하다"는 전화에 대비해 가족·핵심 팀원끼리 사전 약속된 확인 단어를 정해둔다. 목소리는 위조돼도 암구호는 모른다.
MFA·패스키 전면 적용. 비밀번호만으로는 자동 자격증명 대입을 못 막는다. 다단계 인증, 가능하면 피싱 저항성이 있는 패스키로 갈아탄다.
공개 정보(OSINT) 다이어트. AI는 SNS·회사 소개에서 공격 재료를 긁는다. 직책·조직도·이메일 규칙·휴가 일정 같은 노출을 의식적으로 줄인다.
모의 훈련은 'AI급'으로. 오타 가득한 옛날 피싱이 아니라, 완벽한 문장의 AI 스타일 모의 피싱을 분기마다 돌려 감각을 유지한다.
AI 특화 사고대응 절차. 일반 침해 시나리오 말고 딥페이크 검증·프롬프트 인젝션 격리·탈취된 AI 에이전트 분리 절차를 따로 마련한다.
공용 와이파이·원격 접속 보호. 카페·공항의 개방 네트워크는 자동 스캔의 좋은 사냥터다. 중요한 접속은 암호화된 연결로 감싸 중간 가로채기를 막는다.
딥페이크가 완벽한 것도 아니다. 부자연스러운 눈 깜빡임, 음성·입 모양의 미세한 어긋남, "지금 당장·비밀리에"를 강조하는 압박은 여전히 신호다. 하지만 그 신호에 기대기보다, 위 절차를 습관으로 만드는 편이 훨씬 안전하다. 기술이 아무리 정교해져도, "돈이 오가는 요청은 두 번째 경로로 확인한다"는 규칙 하나를 뚫기는 어렵다.
당신의 조직에는 지금 이 절차 중 몇 개가 실제로 돌아가고 있는가? 그 답이 오늘의 보안 수준이다.