AI ERP 데이터 주권·보안 — 내 분개는 지금 누구의 모델을 학습시키나 (온프레미스·클라우드·AI 학습)

2026년 2월, 개인정보보호법이 바뀌었습니다. 고의·중과실로 큰 사고가 나면 전체 매출의 10%까지 과징금입니다. 시행은 올해 9월입니다.

회계 현장에서 AI ERP 보안을 물으면 여전히 같은 질문이 돌아옵니다. "해킹당하지 않나요?" 그런데 방화벽은 20년 전부터 있었습니다. 2026년에 새로 생긴 위험은 다른 자리에 있습니다.

물어야 할 건 '해킹당하나'가 아니라 '내 분개가 남의 모델을 학습시키나'입니다.

AI ERP 데이터는 어디로 가나 — 온프레미스·클라우드·AI 학습 세 경로

▍내 전표가 지나가는 세 개의 길

AI ERP에 전표를 입력하면 그 데이터는 세 곳 중 하나로 흐릅니다.

① 온프레미스 — 우리 회사 서버 안에 머뭅니다. 데이터가 건물 밖으로 나가지 않습니다. ② 클라우드(SaaS) — 벤더의 서버에 저장되고, 거기서 처리됩니다. 국내 리전일 수도, 국외일 수도 있습니다. ③ 벤더의 AI 학습 — 저장·처리를 넘어, 내 데이터가 벤더의 모델을 더 똑똑하게 만드는 재료로 쓰이는 경우입니다.

앞의 두 개는 '내 데이터가 어디 있나'의 문제입니다. 세 번째는 '내 데이터가 누구의 자산이 되나'의 문제입니다. 성격이 다릅니다. 그리고 보안 논의는 대개 첫 두 개에서 멈추고, 세 번째는 계약서 안쪽에 묻혀 있습니다.

AI가 내 회계 데이터를 학습하나 — SAP·더존의 실제 정책

▍'학습에 쓰나'의 답은 홍보 문구가 아니라 계약서에 있습니다

SAP는 외부 LLM을 호출할 때, 파트너가 고객 데이터로 자사 모델을 학습하지 못하도록 계약으로 금지한다고 밝힙니다. 데이터는 추론(inference)을 위해 전송될 뿐 보관·재사용되지 않는다는 설명입니다. 다만 SAP가 자사 AI를 개선하는 용도로는 고객이 명시적으로 동의(opt-in)한 경우에만 쓰이고, SAP for Me 포털에서 언제든 철회할 수 있다고 안내합니다. 뒤집으면, 기본값이 무엇인지를 계약 단계에서 직접 확인해야 한다는 뜻입니다.

더존 ONE AI는 다른 방식으로 같은 문제에 답합니다. 기업 고유 데이터를 모델에 통째로 학습시키는 대신, RAG로 그때그때 필요한 최소한의 데이터만 불러오고, WEHAGO 접근 권한이 있는 사용자·서비스의 데이터만 다루도록 권한을 걸어둔다고 설명합니다. 온프레미스 배포 선택지도 있습니다.

두 회사의 공통점은 분명합니다. '학습에 쓰지 않는다'가 저절로 되는 게 아니라, 계약과 설정으로 만들어진다는 것입니다.

한국 데이터 주권 — 개인정보 국외이전과 전자세금계산서

▍데이터가 국경을 넘을 때, 통관 도장을 확인하는 사람이 없습니다

제가 회계사로 11개국 통상 실무를 하던 시절, 물건이 국경을 넘을 때는 늘 원산지증명과 통관 서류가 따라붙었습니다. 데이터도 국경을 넘습니다. 다만 눈에 보이지 않아서, 통관 도장을 확인하는 사람이 없을 뿐입니다.

개인정보보호위원회는 2025년 8월 「생성형 AI 개인정보 처리 안내서」를 냈습니다. ChatGPT 같은 해외 LLM에 개인정보를 입력하는 방식을 국외이전 유형으로 보고, 유형별로 법적 기준과 리스크 경감 방안을 제시합니다. 거래처 대표자명·주민등록번호·계좌가 섞인 전표를 해외 AI에 그대로 넣는 순간, 이건 '편리한 자동화'가 아니라 개인정보 국외이전입니다.

여기에 전자세금계산서가 얹힙니다. 발급 자료는 공급자·수령자 모두 10년 보관 의무가 있습니다(국세청). 이 원본이 AI 파이프라인을 타고 어디에 사본으로 남는지를, 감사 시점에 설명할 수 있어야 합니다. 2026년 9월 시행되는 개정 개인정보보호법은 대표자를 최종 책임자로 명시했습니다. '어디에 있는지 모른다'가 더 이상 답이 되지 않는 방향입니다.

온프레미스 vs 클라우드 — 무엇을 얻고 무엇을 내주나

▍온프레미스는 통제권을 사고, 속도와 최신성을 내줍니다

온프레미스와 프라이빗 배포는 데이터를 건물 밖으로 내보내지 않습니다. 금융처럼 망분리 규제가 강한 곳, 감사·규제가 무거운 상장사에는 이게 협상 불가한 조건일 때가 있습니다. 대신 값을 치릅니다. 구축 기간이 길고, GPU와 운영 인력이 들고, 최신 모델을 클라우드만큼 빨리 붙이기 어렵습니다.

클라우드는 반대입니다. 도입이 빠르고, 최신 모델이 바로 들어오고, 인프라를 벤더가 굽니다. 대신 내 데이터가 남의 서버에 놓이는 조건을 계약으로 관리해야 합니다. 그래서 많은 기업이 민감한 원장은 안에 두고, 덜 민감한 처리는 밖에서 돌리는 하이브리드로 갑니다. 어느 쪽도 공짜가 아닙니다. 통제권과 속도를 동시에 최대로 가질 수는 없습니다.

▍그래도 남는 한계 — 계약서를 끝까지 읽는 사람이 드뭅니다

솔직하게 적습니다. 벤더가 '학습에 쓰지 않는다'고 해도, 그 범위와 예외·철회 조건은 약관과 설정 깊숙이 있습니다. 읽고 검증하는 일은 여전히 사람 몫이고, 그 일을 전담하는 사람이 없는 회사가 대부분입니다. AI가 데이터 흐름을 대신 감시해 주지도 않습니다. Gridie를 만들며 매일 부딪히는 지점이기도 합니다 — 자동화를 늘릴수록, 데이터가 지나간 경로를 되짚는 audit trail이 오히려 더 중요해집니다.

데이터가 만든 분개를 감사에서 어떻게 설명하느냐는 AI 회계 거버넌스에서, 어떤 ERP가 우리 조건에 맞는지는 AI ERP 선택 가이드에서 이어집니다.

자주 받는 질문

Q. AI ERP를 쓰면 내 회계 데이터가 AI 학습에 사용되나요?

A. 벤더 정책에 따라 다릅니다. SAP는 LLM 파트너의 고객 데이터 학습을 계약으로 금지하고, 자사 AI 개선에도 명시적 opt-in 동의가 있을 때만 사용한다고 밝힙니다. 더존 ONE AI는 RAG와 접근 권한으로 데이터 노출을 최소화한다고 설명합니다. 벤더 문구를 믿기 전에 계약과 설정에서 기본값을 직접 확인하는 것이 안전합니다.

Q. 해외 AI 서비스에 회계 데이터를 넣으면 법적으로 문제가 되나요?

A. 개인정보가 포함돼 있으면 개인정보 국외이전에 해당할 수 있습니다. 개인정보보호위원회는 2025년 8월 「생성형 AI 개인정보 처리 안내서」에서 해외 LLM 활용을 국외이전 유형으로 보고 법적 기준을 제시했습니다. 거래처 대표자·주민등록번호·계좌가 섞인 전표라면 특히 주의해야 합니다.

Q. 온프레미스가 클라우드보다 무조건 안전한가요?

A. 데이터 통제 측면에서는 유리하지만, 무조건 낫지는 않습니다. 구축 기간과 비용, 운영 인력, 최신 모델 도입 속도에서 대가를 치릅니다. 망분리·감사 요건이 강한 곳이 아니라면, 민감 데이터만 안에 두는 하이브리드가 현실적인 경우가 많습니다.

Q. 2026년 개인정보보호법 개정으로 무엇이 달라지나요?

A. 2026년 2월 통과해 9월 시행되는 개정안은 대규모 유출 시 전체 매출의 10%까지 과징금을 물릴 수 있고, 대표자를 최종 책임자로 명시하며, 유출 '가능성'만 인지해도 통지 의무를 지웁니다. AI ERP에 데이터를 태우기 전에 데이터 흐름을 문서로 정리해 둘 이유가 커졌습니다.

지금 우리 회사의 전표 데이터가 어느 서버에 있고, 그중 무엇이 벤더의 모델로 흘러가는지 — 한 장으로 그릴 수 있는 사람이 사내에 있습니까?