AI ERP 데이터 주권·보안: 내 분개가 벤더 AI 학습에 쓰이는지 확인하는 법 (온프레미스·클라우드·AI 학습)
2026년 2월, 개인정보보호법이 바뀌었습니다. 고의·중과실로 큰 사고가 나면 전체 매출의 10%까지 과징금입니다. 시행은 올해 9월입니다.
회계 현장에서 AI ERP 보안을 물으면 여전히 같은 질문이 돌아옵니다. "해킹당하지 않나요?" 그런데 방화벽은 20년 전부터 있었습니다. 2026년에는 새로 생긴 위험이 있습니다.
새로 물어야 할 것은 '내 분개가 남의 모델을 학습시키나'입니다.
AI ERP 데이터가 이동하는 세 경로: 온프레미스·클라우드·AI 학습
▍전표를 입력한 뒤 데이터가 가는 곳
AI ERP에 전표를 입력하면 그 데이터는 세 곳 중 하나로 흐릅니다.
① 온프레미스: 우리 회사 서버 안에 머뭅니다. 데이터가 회사 건물을 떠나지 않습니다.
② 클라우드(SaaS): 벤더의 서버에 저장되고, 거기서 처리됩니다. 국내 리전일 수도, 국외일 수도 있습니다.
③ 벤더의 AI 학습: 저장·처리에 더해, 내 데이터가 벤더의 모델을 개선하는 학습 데이터로 쓰이는 경우입니다.
①과 ②는 데이터가 어디에 저장되는지의 문제입니다. ③은 내 데이터가 벤더의 자산이 되는 문제입니다. 보안 논의는 대개 ①과 ②에서 멈추고, ③은 계약서 조항에 들어 있어 잘 보이지 않습니다.
AI가 내 회계 데이터를 학습하는지: SAP·더존의 실제 정책
▍학습에 쓰는지는 계약서에 적혀 있습니다
SAP는 외부 LLM을 호출할 때, 파트너가 고객 데이터로 자사 모델을 학습하지 못하도록 계약으로 금지한다고 밝힙니다. 데이터는 추론(inference)을 위해 전송될 뿐 보관·재사용되지 않는다는 설명입니다. 다만 SAP가 자사 AI를 개선하는 용도로는 고객이 명시적으로 동의(opt-in)한 경우에만 쓰이고, SAP for Me 포털에서 언제든 철회할 수 있다고 안내합니다. 그래서 기본값이 무엇인지 계약 단계에서 직접 확인해야 합니다.
더존 ONE AI는 다른 방식으로 같은 문제에 답합니다. 기업 고유 데이터를 모델에 통째로 학습시키는 대신, RAG로 그때그때 필요한 최소한의 데이터만 불러오고, WEHAGO 접근 권한이 있는 사용자·서비스의 데이터만 다루도록 권한을 걸어둔다고 설명합니다. 온프레미스 배포 선택지도 있습니다.
두 회사 모두 '학습에 쓰지 않는다'를 계약과 설정으로 정합니다. 가만히 두면 보장되지 않습니다.
한국 데이터 주권: 개인정보 국외이전과 전자세금계산서
▍회계 데이터도 해외 서버로 나갑니다
제가 회계사로 11개국 통상 실무를 하던 시절, 물건이 국경을 넘을 때는 늘 원산지증명과 통관 서류가 따라붙었습니다. 데이터도 국경을 넘습니다. 다만 눈에 보이지 않아서 그 서류를 챙기는 사람이 없습니다.
개인정보보호위원회는 2025년 8월 「생성형 AI 개인정보 처리 안내서」를 냈습니다. ChatGPT 같은 해외 LLM에 개인정보를 입력하는 방식을 국외이전 유형으로 보고, 유형별로 법적 기준과 리스크 경감 방안을 제시합니다. 거래처 대표자명·주민등록번호·계좌가 섞인 전표를 해외 AI에 그대로 넣으면, 편리한 자동화로 보여도 개인정보 국외이전입니다.
여기에 전자세금계산서가 얹힙니다. 발급 자료는 공급자·수령자 모두 10년 보관 의무가 있습니다(국세청). 이 원본이 AI 파이프라인을 타고 어디에 사본으로 남는지를, 감사 시점에 설명할 수 있어야 합니다. 2026년 9월 시행되는 개정 개인정보보호법은 대표자를 최종 책임자로 명시했습니다. '어디에 있는지 모른다'고 답할 수 없게 됩니다.
온프레미스와 클라우드의 장단점: 통제권과 도입 속도
▍온프레미스는 통제권이 크고 도입이 느립니다
온프레미스와 프라이빗 배포는 데이터를 회사 서버에만 둡니다. 금융처럼 망분리 규제가 강한 곳, 감사·규제가 무거운 상장사에는 이게 협상 불가한 조건일 때가 있습니다. 대신 비용이 듭니다. 구축 기간이 길고, GPU와 운영 인력이 들고, 최신 모델을 클라우드만큼 빨리 붙이기 어렵습니다.
클라우드는 반대입니다. 도입이 빠르고, 최신 모델이 바로 들어오고, 인프라를 벤더가 굽니다. 대신 내 데이터가 남의 서버에 놓이는 조건을 계약으로 관리해야 합니다. 그래서 많은 기업이 민감한 원장은 사내 서버에 두고, 덜 민감한 처리는 클라우드에서 돌리는 하이브리드로 갑니다. 통제권과 속도를 동시에 최대로 가질 수는 없습니다.
▍남는 한계: 계약서를 끝까지 읽는 사람이 드뭅니다
벤더가 '학습에 쓰지 않는다'고 해도, 그 범위와 예외·철회 조건은 약관과 설정 깊숙이 있습니다. 읽고 검증하는 일은 여전히 사람 몫이고, 그 일을 전담하는 사람이 없는 회사가 대부분입니다. AI가 데이터 흐름을 대신 감시해 주지도 않습니다. Gridie를 만들면서 매일 부딪히는 문제이기도 합니다. 자동화를 늘릴수록 데이터가 지나간 경로를 되짚는 audit trail이 더 필요해집니다.
데이터가 만든 분개를 감사에서 어떻게 설명하느냐는 AI 회계 거버넌스에서, 어떤 ERP가 우리 조건에 맞는지는 AI ERP 선택 가이드에서 이어집니다.
자주 받는 질문
Q. AI ERP를 쓰면 내 회계 데이터가 AI 학습에 사용되나요?
A. 벤더 정책에 따라 다릅니다. SAP는 LLM 파트너의 고객 데이터 학습을 계약으로 금지하고, 자사 AI 개선에도 명시적 opt-in 동의가 있을 때만 사용한다고 밝힙니다. 더존 ONE AI는 RAG와 접근 권한으로 데이터 노출을 최소화한다고 설명합니다. 벤더 문구를 믿기 전에 계약과 설정에서 기본값을 직접 확인하는 것이 안전합니다.
Q. 해외 AI 서비스에 회계 데이터를 넣으면 법적으로 문제가 되나요?
A. 개인정보가 포함돼 있으면 개인정보 국외이전에 해당할 수 있습니다. 개인정보보호위원회는 2025년 8월 「생성형 AI 개인정보 처리 안내서」에서 해외 LLM 활용을 국외이전 유형으로 보고 법적 기준을 제시했습니다. 거래처 대표자·주민등록번호·계좌가 섞인 전표라면 특히 주의해야 합니다.
Q. 온프레미스가 클라우드보다 무조건 안전한가요?
A. 데이터 통제 측면에서는 유리하지만, 무조건 낫지는 않습니다. 구축 기간과 비용, 운영 인력, 최신 모델 도입 속도에서 대가를 치릅니다. 망분리·감사 요건이 강하지 않다면, 민감 데이터만 안에 두는 하이브리드가 현실적인 경우가 많습니다.
Q. 2026년 개인정보보호법 개정으로 무엇이 달라지나요?
A. 2026년 2월 통과해 9월 시행되는 개정안은 대규모 유출 시 전체 매출의 10%까지 과징금을 물릴 수 있고, 대표자를 최종 책임자로 명시하며, 유출 '가능성'만 인지해도 통지 의무를 지웁니다. AI ERP에 데이터를 태우기 전에 데이터 흐름을 문서로 정리해 둘 이유가 커졌습니다.
지금 우리 회사의 전표 데이터가 어느 서버에 있고 그중 무엇이 벤더의 모델로 가는지, 한 장으로 그릴 수 있는 사람이 사내에 있어야 합니다.