AI 보안, 회사 자료를 생성형 AI에 넣어도 될까

회사 자료를 생성형 AI에 넣어도 되는지에 대한 답은 "어떤 서비스에, 어떤 계정으로 넣느냐"에 따라 갈립니다. 같은 챗GPT라도 직원이 개인 무료 계정으로 쓰면 입력 내용이 모델 학습에 쓰일 수 있고, 회사가 계약한 업무용 계정으로 쓰면 기본적으로 학습에 쓰이지 않습니다. 문제는 많은 회사에서 직원들이 이미 개인 계정으로 견적서를 다듬고, 거래처 메일을 번역하고, 단가표를 정리하고 있다는 점입니다. AI를 금지해도, 방치해도 회사 자료는 새어 나갑니다.

실제로 있었던 사고, 서비스별 데이터 처리 방식, 정부 가이드라인이 꼽은 위험을 차례로 보면 중소기업도 사내 AI 사용 규칙을 바로 만들 수 있습니다.

2023년 삼성전자 사례가 남긴 것

생성형 AI 보안 이야기에서 가장 자주 인용되는 사건은 2023년 삼성전자입니다. 블룸버그 보도에 따르면 삼성전자는 그해 4월 엔지니어들이 내부 소스 코드를 챗GPT에 올린 사실을 확인한 뒤, 5월 회사 PC와 사내망에서 생성형 AI 사용을 막는 지침을 내렸습니다. 개인 기기에서도 회사 정보를 입력하지 말라고 했고, 어기면 징계할 수 있다고 경고했습니다.

지침에 적힌 우려는 지금도 그대로 유효합니다. 외부 AI 서비스로 보낸 데이터는 그 회사 서버에 저장되어 회수하거나 지우기 어렵고, 다른 사용자에게 노출될 수 있다는 것입니다. 동시에 삼성은 번역, 문서 요약, 개발에 쓸 사내 AI 도구를 만들고 있다고 밝혔습니다. 직원들이 AI를 쓰고 싶어 하는 이유는 업무가 빨라지기 때문이고, 막기만 하면 결국 몰래 쓰게 된다는 점을 회사도 알고 있었던 셈입니다.

개인용과 업무용은 데이터 처리가 다르다

같은 회사의 AI라도 개인용 요금제와 업무용 요금제는 데이터를 다르게 다룹니다. 2026년 10월 기준 주요 서비스의 공식 안내를 보면 차이가 분명합니다.

OpenAI는 업무용 데이터 안내에서 업무용 제품의 입력과 출력을 기본적으로 학습에 쓰지 않으며, 저장 데이터는 AES-256, 전송 구간은 TLS 1.2 이상으로 암호화한다고 밝힙니다. Anthropic은 2025년 개인용 약관 변경에서 Free, Pro, Max 사용자가 학습 사용 여부를 고르게 하면서, 허용한 경우 보관 기간을 30일에서 5년으로 늘렸고 업무용과 API는 적용 대상에서 뺐습니다. 구글은 워크스페이스 생성형 AI 개인정보 안내에서 회사 콘텐츠가 허가 없이 도메인 밖의 모델 학습에 쓰이지 않는다고 설명합니다.

정리하면 질문은 "AI에 넣어도 되나"가 아니라 "회사가 계약한 업무용 서비스에 넣고 있나"입니다. 개인 계정에 들어간 자료는 회사가 통제할 방법이 없습니다.

정부 가이드라인이 꼽은 위험

국내에서는 국가정보원과 개인정보보호위원회가 생성형 AI 활용 기준을 내놓았습니다.

국가정보원의 챗GPT 등 생성형 AI 활용 보안 가이드라인(2023년)은 주요 위험으로 여섯 가지를 꼽았습니다. 틀린 정보를 사실처럼 내놓는 할루시네이션, 피싱 메일이나 악성코드 작성에 악용되는 문제, 정상 서비스를 흉내 낸 가짜 AI 앱과 확장 프로그램, 입력한 데이터가 서비스 제공자 쪽에서 노출될 위험, 플러그인과 확장 프로그램을 통한 공격, 그리고 연결용 키(API 키) 관리 소홀입니다. 사용자 수칙으로는 개인정보와 민감한 내부 정보를 입력하지 말 것, 비식별 처리한 정보도 다른 정보와 합쳐지면 원래 정보가 드러날 수 있음을 알 것, 서비스의 데이터 보관과 삭제 정책을 확인할 것을 권합니다.

개인정보보호위원회는 2025년 8월 6일 생성형 인공지능 개발/활용을 위한 개인정보 처리 안내서를 공개했습니다. 챗GPT 같은 상용 AI 서비스를 활용하거나 오픈소스 모델을 고쳐 서비스를 만드는 사업자를 주 대상으로, 도입 목적을 정하는 단계부터 시스템을 운영하는 단계까지 단계별로 확인할 안전조치를 정리하고, 개인정보보호책임자를 중심으로 관리 체계를 갖추도록 권합니다. 고객 연락처나 직원 인사 정보처럼 개인정보가 섞인 업무에 AI를 붙인다면 먼저 읽어 볼 기준입니다.

👉 할루시네이션 뜻, AI가 틀리는 이유와 줄이는 법

실제로 새는 길: 영업팀 직원의 하루

정책 문서보다 실제 상황 하나가 더 와닿습니다. 유통 회사 영업팀 직원이 거래처 세 곳에 보낼 견적을 비교하려고 이렇게 한다고 해 보겠습니다.

1. 공유 폴더에서 거래처별 단가표 엑셀을 내려받습니다.
2. 개인 휴대폰의 챗GPT 무료 앱에 파일을 올리고 "세 거래처 단가를 비교해서 우리 마진이 가장 높은 조합을 찾아줘"라고 묻습니다.
3. 답을 받아 견적서를 고치고, 거래처 담당자 이름과 메일 주소가 들어간 메일 초안도 AI에게 다듬어 달라고 합니다.

이 직원은 일을 잘하려고 한 것이지만, 회사의 거래처별 단가와 마진 구조, 거래처 담당자 개인정보가 회사가 계약하지 않은 서비스에 남았습니다. 퇴사하면 그 대화 기록은 개인 계정에 그대로 남습니다.

같은 일을 회사가 계약한 업무용 AI에서 하면 결과는 같고 위험은 다릅니다. 데이터가 학습에 쓰이지 않고, 회사 계정으로 관리되며, 퇴사자 계정은 회사가 닫을 수 있습니다. AI를 막는 것보다 안전한 도구를 공식으로 주는 편이 실제 유출을 줄이는 이유입니다. 직원 입장에서도 "이걸 넣어도 되나"를 매번 고민하지 않아도 되니, AI를 쓰는 사람이 오히려 늘어납니다.

우리 회사 AI 사용 규칙 만들기

중소기업이라도 한 장짜리 규칙은 바로 만들 수 있습니다. 아래 다섯 가지를 정해 두면 대부분의 상황을 다룰 수 있습니다.

첫째, 쓸 수 있는 서비스를 정합니다. 회사가 계약한 업무용 AI 서비스와 계정을 명시하고, 업무 자료는 그 계정에서만 다루도록 합니다. 개인 계정 사용을 막는 대신 업무용 계정을 모든 직원에게 줍니다.

둘째, 넣으면 안 되는 정보를 등급으로 나눕니다. 주민등록번호, 계좌번호, 비밀번호처럼 어떤 AI에도 넣지 않는 정보, 업무용 AI에만 넣을 수 있는 정보(거래처 단가, 계약서, 내부 보고서), 어디에 넣어도 되는 정보(공개된 제품 소개, 보도자료)로 나눕니다.

셋째, 결과를 확인할 책임을 정합니다. AI가 만든 숫자, 법률이나 세무 관련 내용, 거래처에 나가는 문서는 담당자가 원문과 대조한 뒤 씁니다.

넷째, 연결과 확장 프로그램을 관리합니다. 브라우저 확장 프로그램, AI 앱의 플러그인, 회사 시스템과의 연결은 공식으로 확인된 것만 씁니다. AI가 회사 시스템에 직접 연결되는 방식은 MCP 글에서 실제 사고 사례와 함께 다뤘습니다.

다섯째, 한 번 교육하고 매년 다시 봅니다. 서비스 약관은 계속 바뀝니다. 위 표의 Anthropic처럼 개인용 정책이 1년 사이에 크게 바뀌기도 하므로, 계약한 서비스의 데이터 정책을 해마다 확인합니다.

상황별로 판단해 보기

규칙을 만들어도 직원들은 매번 "이건 넣어도 되나"를 고민합니다. 자주 나오는 상황 네 가지를 위 기준으로 판단해 보면 이렇습니다.

거래처에서 온 영문 메일을 번역할 때. 메일 본문에 단가나 계약 조건이 없다면 큰 문제가 없지만, 거래처 담당자 이름과 연락처가 들어 있으므로 업무용 계정에서 하는 것이 맞습니다.

사내 회의록을 요약할 때. 회의록에는 신제품 계획, 거래처 협상 내용, 인사 이야기가 섞여 있습니다. 업무용 계정에서만 다루고, 요약본을 외부에 보낼 때는 담당자가 내용을 한 번 더 확인합니다.

직원 급여나 인사 평가를 정리할 때. 개인정보가 직접 들어가는 일입니다. 업무용 서비스라도 접근할 수 있는 사람을 인사 담당자로 한정하고, 개인정보보호위원회 안내서의 기준을 따릅니다.

거래처 계약서 초안을 검토할 때. 계약 조건과 금액이 담긴 대표적인 내부 자료입니다. 업무용 계정에서 검토하되, AI가 짚어 준 조항은 반드시 원문과 대조하고, 법률 판단이 필요한 부분은 AI 답을 그대로 쓰지 않습니다.

AI 보안 자주 묻는 질문 (FAQ)

Q. 챗GPT 설정에서 학습을 끄면 개인 계정도 괜찮지 않나요?

학습에는 쓰이지 않게 할 수 있지만, 자료가 회사가 관리하지 않는 계정에 남는다는 문제는 그대로입니다. 퇴사, 계정 공유, 비밀번호 유출 같은 상황을 회사가 통제할 수 없으므로 업무 자료는 업무용 계정에서 다루는 것이 원칙입니다.

Q. 회사 자료를 익명 처리하면 넣어도 되나요?

거래처 이름을 지워도 품목, 단가, 수량 조합만으로 어느 거래인지 알 수 있는 경우가 많습니다. 국정원 가이드라인도 비식별 처리한 정보가 다른 정보와 결합되면 원래 정보가 드러날 수 있다고 경고합니다.

Q. AI 사용을 아예 금지하는 게 가장 안전하지 않나요?

금지하면 직원들이 개인 휴대폰과 개인 계정으로 몰래 쓰게 되고, 회사는 무엇이 어디로 나갔는지조차 모르게 됩니다. 삼성전자도 사용을 막으면서 사내 도구를 함께 준비했습니다. 안전한 업무용 도구를 주고 규칙을 정하는 편이 실제 위험을 더 줄입니다.

Q. 직원이 이미 개인 계정에 회사 자료를 넣었다면 어떻게 하나요?

먼저 어떤 자료가 어느 서비스에 들어갔는지 확인하고, 해당 대화를 삭제하게 하고 학습 사용 설정을 끄게 합니다. 서비스마다 삭제된 대화의 보관 기간이 다르므로 공식 안내를 확인합니다. 그다음 같은 일이 반복되지 않도록 업무용 계정을 지급하고, 넣으면 안 되는 정보의 기준을 직원들과 다시 공유합니다. 직원을 탓하기보다 쓸 수 있는 도구를 주는 것이 재발을 막는 가장 빠른 방법입니다.

Q. 업무용 AI 서비스를 고를 때 무엇을 확인해야 하나요?

데이터가 어디에 저장되는지, 저장과 전송 구간이 암호화되는지, 회사 데이터가 모델 학습에 쓰이는지, AI 모델 제공사에 요청 내용이 남는지를 계약 문서로 확인합니다.

inline AI로 안전하게 AI 쓰기

직원들이 개인 계정으로 AI를 쓰는 이유는 회사가 쓸 만한 도구를 주지 않았기 때문인 경우가 많습니다. inline AI는 문서를 바로 편집하고 만드는 AI 브라우저와 회사용 AI OS가 연결된 시스템으로, 회사 데이터를 AES-256으로 암호화해 저장하고 전송 구간은 TLS로 보호하며 고객 데이터를 AI 학습에 쓰지 않습니다. 모델 제공사와는 eZDR 계약을 맺어 요청 내용과 파일이 제공사에 남지 않습니다.