업무 정보, AI에 어디까지 넣어도 되나
ChatGPT·Claude에 회사 자료를 붙여넣기 전, 5초만 멈추면 막을 수 있는 사고들
삼성전자는 ChatGPT 사용을 허가한 지 딱 20일 만에 사내 기밀이 세 번 새어 나갔다. 반도체 장비 소스코드, 결함 검출 프로그램, 그리고 녹취해 만든 회의록까지. 담당 엔지니어들은 해킹을 당한 게 아니다. 그저 "이거 좀 고쳐줘" 하고 코드를 붙여넣었을 뿐이다.
문제는 이게 삼성만의 이야기가 아니라는 것이다. 사이버헤이븐(Cyberhaven)이 160만 명의 근무 데이터를 분석했더니, 직원이 ChatGPT에 붙여넣는 내용 중 약 11%가 민감 정보였다. 그런데도 대부분의 직장인은 오늘도 별생각 없이 Ctrl+C, Ctrl+V를 누른다. 어디까지가 괜찮고, 어디서부터가 사고인지 아무도 정확히 말해주지 않았으니까.
진짜 위험은 '학습'이 아니라 '입력' 그 자체
흔한 걱정은 이렇다. "내가 넣은 데이터로 AI가 학습하면, 나중에 다른 사람 답변에 우리 회사 기밀이 튀어나오는 거 아냐?" 맞는 말이다. 하지만 순서가 틀렸다.
학습으로 인한 노출은 시간이 걸린다. 반면 입력한 순간, 데이터는 이미 외부 서버로 떠났다. 삼성 사례에서 소스코드가 위험해진 건 모델이 그걸 학습해서가 아니라, OpenAI 서버에 저장됐고 삼성이 그걸 되찾거나 지울 계약적 방법이 없었기 때문이다. 회의록 건은 더 얄궂다. 네이버 클로바로 녹취를 텍스트로 바꾼 다음 ChatGPT에 회의록 정리를 시켰는데, 그 전체 대화가 그대로 남았다.
그러니 질문을 바꿔야 한다. "이게 학습될까?"가 아니라 "이 문장이 우리 회사 밖으로 나가도 되는 문장인가?" 이 기준 하나면 대부분의 판단이 끝난다.
3색 신호등: 무엇을 넣어도 되고, 무엇은 안 되나
복잡한 규정집은 실무에서 안 읽힌다. 붙여넣기 직전 3초 안에 판단할 수 있어야 한다. 데이터를 신호등 세 색으로 나눠 두면 몸이 먼저 반응한다.
| 구분 | 넣어도 되나 | 예시 |
|---|---|---|
| 빨강 | 절대 금지 | 소스코드·영업비밀, 고객 실명·주민번호·카드번호, 미공개 재무/M&A, 계약서, 인사·급여, API 키·비밀번호 |
| 노랑 | 조건부 | 가명·익명 처리를 거친 내부 문서, 숫자를 바꾼 예시, 제품명을 'A사 제품'으로 치환한 사례 |
| 초록 | 대체로 안전 | 이미 공개된 정보, 일반 지식 질문, 공개 문서 초안, 개념 설명·번역·문법 검토 |
핵심은 노랑 지대를 다루는 습관이다. "고객사 강남물산이 이번 분기 매출이 12% 빠졌는데 대응 전략 좀"이라는 프롬프트는 빨강이다. 하지만 "제조업 B사가 분기 매출 두 자릿수 하락 시 쓸 수 있는 대응 전략"으로 바꾸면 초록에 가까워진다. 답변 품질은 거의 그대로인데 위험은 사라진다. AI를 잘 쓰는 사람과 사고 치는 사람의 차이는 여기서 갈린다.
같은 ChatGPT라도, 무료냐 엔터프라이즈냐가 운명을 가른다
여기가 대부분이 놓치는 지점이다. 위험은 '어떤 AI를 쓰느냐'보다 '어떤 요금제로 쓰느냐'에 더 크게 달렸다. 무료·개인 계정과 회사 계약 계정은 데이터 취급이 근본적으로 다르다.
| 요금제 | ChatGPT | Claude |
|---|---|---|
| 무료 / Plus | 기본 학습 대상, 설정에서 opt-out 필요 | 2025년 9월부터 소비자 채팅 학습(거부 안 하면), 동의 시 보존 최대 5년 |
| 팀 / 비즈니스 | 기본 학습 제외 | 기본 학습 제외 |
| 엔터프라이즈 / API | 기본 학습 제외, 보존기간 설정 가능 | 기본 학습 제외 (Work·Gov·API) |
정리하면 이렇다. 무료 계정은 '기본값이 위험'이고, 회사 계약 계정은 '기본값이 안전'이다. 그런데 현실의 통계가 아프다. 직장에서 쓰이는 ChatGPT 계정의 73.8%가 회사 계정이 아니다. 링크스(LayerX) 조사에선 직원이 AI에 붙여넣는 데이터의 82%가 개인 계정에서 나왔다. 회사가 아무리 엔터프라이즈를 결제해도, 정작 직원은 익숙한 개인 크롬 탭에서 무료 ChatGPT를 연다는 뜻이다.
그래서 개인 계정을 쓸 수밖에 없다면 최소한 이건 하자. ChatGPT는 설정 → 데이터 제어 → 모든 사람을 위한 모델 개선을 끄고, 민감한 대화는 임시 채팅으로. Claude는 학습 동의를 거부(opt-out)로 둔다. 5초면 끝난다.
"엔터프라이즈니까 안심"이라는 마지막 함정
회사가 엔터프라이즈를 깔아줬다고 끝이 아니다. 학습 위험은 줄었지만, 그 자리를 내부 가시성이 채운다. 관리자 콘솔·감사 로그·보존 정책이 붙는 순간, 당신의 프롬프트는 개인 비서와의 대화가 아니라 회사가 들여다볼 수 있는 업무 기록이 된다. 홧김에 쓴 퇴사 고민이나 이직 자소서를 회사 엔터프라이즈 계정에 넣는 건, 학습보다 훨씬 가까운 위험이다.
기업들의 대응도 두 갈래로 갈렸다. 삼성·SK하이닉스와 JP모건·골드만삭스 같은 금융권은 전면 차단(block)을 택했다. 반면 모건스탠리는 OpenAI와 손잡고 사내 전용 버전을 만들었다. 이른바 구축(build)이다. 흥미로운 건 결과다. 무작정 막은 쪽에서 '섀도 AI'가 더 번졌다. 승인된 대안이 없으면, 직원은 사라지지 않고 개인 계정으로 숨어든다. 실제로 IBM 2025 데이터 유출 보고서는 섀도 AI가 유출 건당 손해를 눈에 띄게 키웠다고 짚는다.
붙여넣기 전 3초 체크리스트
- 이 문장에 고유명사(실명·회사명·제품 코드명)가 들어 있나? → 치환하거나 삭제
- 내가 지금 쓰는 게 회사 승인 계정인가, 개인 무료 계정인가?
- 이 내용이 외부 메일로 유출됐을 때 문제가 되나? 된다면 넣지 않는다
- 숫자·코드는 가짜 예시로 바꿔도 답변이 나오나? 그렇다면 바꾼다
결국, 판단의 무게중심을 어디에 두느냐
AI를 안 쓰는 게 답은 아니다. 하루 8시간을 아껴주는 도구를 공포 때문에 봉인하는 건, 삼성이 처음에 그랬듯 결국 섀도 AI로 되돌아온다. 필요한 건 금지가 아니라 붙여넣기 직전의 3초다.
당신이 오늘 마지막으로 AI에 넣은 문장을, 회사 단체 메일 참조에 그대로 걸 수 있는가? 그 질문에 잠깐이라도 망설였다면 — 이미 답은 나온 셈이다.