금융사 AI 에이전트, 가드레일 없인 안 된다 (2026)
FINRA 2026 감독보고서와 금융위원회 AI 가이드라인 개정안을 나란히 읽은 실무자용 체크리스트
2024년 3월 18일, 미국 SEC는 투자자문사 두 곳을 제재했다. 죄목은 해킹도, 불완전판매도 아니었다. "우리는 AI로 운용한다"는 말이 사실이 아니었다는 것. Delphia는 22만 5천 달러, Global Predictions는 17만 5천 달러의 민사제재금에 합의했다(SEC 보도자료 2024-36).
AI를 과장해도 제재를 받는데, 그 AI가 실제로 고객 계좌를 건드리기 시작하면 어떻게 될까. 2026년 금융사 AI 에이전트 논의는 바로 이 질문에서 출발한다. 개인 투자자의 트레이딩 봇 이야기가 아니다. 감독 책임을 지는 금융회사·투자자문사 실무자가 무엇을 먼저 점검해야 하는지, 미국과 한국 규제 문서를 나란히 놓고 정리했다.
FINRA 2026 보고서: 새 규칙은 없고, 질문은 많아졌다
FINRA는 2025년 12월 9일 「2026 Annual Regulatory Oversight Report」를 냈다. 생성형 AI가 독립 섹션으로 커졌고, AI 에이전트 리스크를 처음으로 따로 다뤘다. 정의는 간단하다. 사용자를 대신해 자율적으로 작업을 수행·완료할 수 있는 시스템이나 프로그램.
보고서가 꼽은 에이전트 리스크는 일곱 가지다. 사람의 검증·승인 없이 움직이는 자율성, 의도한 권한을 넘어서는 범위·권한, 여러 단계 추론을 거친 결과를 추적하기 어려운 감사 가능성, 민감 데이터의 의도치 않은 노출, 범용 에이전트의 업권 지식 부족, 잘못 설계된 보상 구조, 그리고 편향·환각 같은 기존 생성형 AI 리스크.
FINRA가 제시한 에이전트 점검 방향 4가지
① 에이전트의 시스템 접근·데이터 처리 모니터링 ② 사람 개입(human-in-the-loop)이 필요한 지점 정의 ③ 에이전트 행동·결정의 추적·기록 ④ 행동을 제한하는 가드레일
여기서 오해가 하나 생긴다. "FINRA가 AI 규칙을 만들었다"는 해석이다. 그렇지 않다. 보고서는 규칙이 아니라 감독 관점의 관찰과 고려사항이다. FINRA는 기술 중립적 입장을 유지하면서 감독·고객 커뮤니케이션·기록보관·공정거래 같은 기존 의무가 그대로 적용된다고 짚는다. 2024년의 Regulatory Notice 24-09도 같은 논리였다. 모니터링 관행으로는 프롬프트·출력 로그 보관, 어떤 모델 버전을 언제 썼는지 추적하는 방식을 예로 들었다.
한국은 '보조수단'이라고 못 박았다
국내 흐름은 단계가 여러 번 나뉘어 헷갈리기 쉽다. 시간순으로 정리하면 이렇다.
| 시점 | 내용 | 성격 |
|---|---|---|
| 2021년 7월 | 금융분야 AI 가이드라인 첫 발표 | 자율 가이드라인 |
| 2025년 12월 22일 | 금융권 AI 협의회에서 통합 가이드라인 개정 방향 공개 | 개정안(의견수렴) |
| 2026년 1월 22일 | 인공지능기본법 시행 | 법률 |
| 2026년 6월 18일 | 금융위, 7대 원칙 개정 가이드라인 발표 | 6월 22일 시행, 자율규제 |
| 2026년 하반기~ | AI 책임·권한 규율 체계, AI 에이전트 시범사업 | 검토·추진 예정 |
7대 원칙은 거버넌스·합법성·보조수단성·신뢰성·금융안정성·신의성실·보안성이다. 에이전트 관점에서 가장 무거운 건 보조수단성. 금융위 보도자료(2026-06-18)는 현 단계에서 AI를 업무의 보조수단으로 보고, 최종 의사결정과 그 책임은 임직원이 진다고 적었다. 김·장 법률사무소가 정리한 개정안 내용을 보면 외부에서 제공받은 모델을 쓰더라도 책임은 그 모델을 활용하는 금융회사에 귀속되고, 보안성 원칙에는 프롬프트 인젝션·데이터 오염 같은 AI 특화 위협 대응이 들어갔다. 적용 대상도 넓다. 활용 결과가 금융거래에 영향을 주면 핀테크 같은 비금융회사까지 포함된다.
주의할 점. 에이전트가 상품 추천부터 가입·결제까지 처리하는 환경에 맞춘 규율 체계는 아직 확정되지 않았다. 금융위가 밝힌 것은 책임·권한 체계 검토와 시범사업 추진 계획까지다.
반전: '자율'이라서 오히려 더 무겁다
두 문서를 읽고 나면 안도하기 쉽다. FINRA는 새 규칙이 아니라고 하고, 한국 가이드라인은 회사가 적용 수준을 자율로 정한다고 하니까. 그런데 실무에서는 정반대로 작동한다.
규칙이 구체적이면 체크박스를 채우면 끝난다. 원칙만 있으면 사고가 난 뒤 "그 원칙을 어떻게 지켰는지"를 회사가 스스로 증명해야 한다. FINRA는 감독·기록보관 같은 기존 의무의 잣대로 보고, 한국은 에이전트 전용 규율이 나오기 전이라도 인공지능기본법의 고영향 AI 의무가 먼저 닿는다. 대출심사처럼 개인의 신용을 평가하는 업무는 고영향 AI에 해당할 수 있다는 해석이 업계에서 나오며, 이 경우 위험관리 방안과 결과 설명 방안이 법적 의무가 된다.
규모가 커질수록 공백도 커진다. 영란은행·FCA의 2024년 조사(응답 118곳)에서 AI를 쓰는 영국 금융회사 비율은 75%로, 2022년 58%에서 뛰었다. 파운데이션 모델은 전체 AI 활용 사례의 17%였다(Bank of England). 도입이 빠를수록 "누가 승인했나"를 답하지 못하는 구간이 늘어난다.
한 가지 긴장도 있다. FINRA는 에이전트의 자율성 자체를 리스크 목록 첫 줄에 올렸고, 한국은 AI를 보조수단으로 규정했다. 거래·가입을 스스로 끝내는 "완전 자율 에이전트"는 적어도 지금 두 문서의 결로는 설명하기 어렵다. 효율을 원하는 사업부서와 승인 단계를 늘리려는 준법부서가 부딪히는 지점이 바로 여기다.
실무 체크리스트: 네 개의 질문
두 규제 문서의 공통분모를 뽑으면 네 축이 남는다. 도입 품의서나 내부 점검표에 그대로 옮겨 쓸 수 있게 질문 형태로 적었다.
접근권한 — 이 에이전트는 무엇까지 만질 수 있나
- 조회 권한과 실행 권한(주문·이체·계약 변경)이 분리돼 있는가?
- 에이전트 전용 계정이 있고, 권한 범위가 업무 단위로 좁혀져 있는가?
- 외부 모델·API에 넘어가는 고객 데이터 목록을 설명할 수 있는가?
로깅 — 나중에 재구성할 수 있나
FINRA 보고서가 예로 든 프롬프트·출력 로그, 모델 버전 기록이 출발점이다. 여기에 에이전트가 호출한 도구와 그 결과, 사람이 승인·거절한 이력을 같은 타임라인에 묶어야 사고 조사 때 쓸 수 있다.
휴먼 개입 — 어디서 멈추나
- 실행 직전 사람 확인이 필수인 행위 목록이 문서로 정해져 있는가?
- 에이전트가 권한 밖 요청을 받으면 거부·에스컬레이션하도록 설계됐는가?
- 긴급 중단(킬 스위치) 담당자가 지정돼 있는가?
책임 소재 — 사고가 나면 누구 이름이 올라가나
한국 가이드라인은 외부 모델을 써도 책임이 금융회사에 귀속된다는 입장이다. 벤더 계약서에 로그 제공·장애 통보 의무가 있는지, 내부적으로 에이전트별 책임 임원이 지정됐는지 확인해 둘 것. 그리고 SEC 사례가 보여주듯, 마케팅 문구 속 "AI" 표현도 점검 대상이다.
남는 질문은 하나다. 여러분 회사의 에이전트가 오늘 오후 잘못된 주문을 냈다면, 그 결정을 누가 승인했는지 로그 한 줄로 보여줄 수 있는가. 그 답이 "예"가 될 때까지가 가드레일의 몫이다.
※ 이 글은 공개된 규제 문서를 정리한 정보 제공용 콘텐츠이며 법률 자문이나 투자 권유가 아닙니다. 국내 AI 에이전트 관련 제도는 검토·추진 단계이므로 최신 공지를 반드시 확인하세요.