AI 회계의 진짜 관문은 환각이 아니라 감사다 — 자동분개를 '왜 그렇게 했는지' 설명할 수 있는가 (2026 거버넌스)

AI로 분개를 자동화한 회사는 넘칩니다. 그런데 그 AI를 어떻게 통제할지 정해둔 회사는 21%뿐입니다.

나머지 대부분은 감사에서 이렇게 말하게 됩니다 — "AI가 처리했습니다." 문제는 그다음입니다. "그래서 왜 이 계정으로, 이 금액으로 분개했습니까?"에 답하지 못하면, 그 숫자는 맞아도 감사 불가입니다. AI 회계의 진짜 리스크가 여기 있습니다. 다들 환각(틀린 숫자)을 걱정하지만, 더 큰 벽은 통제 실패 — 맞는 답조차 설명하지 못하는 것입니다.

진짜 리스크는 환각이 아니라 '설명 못 하는 분개'

▍정확한 것과 감사 가능한 것은 다릅니다

2026년 감사 현장의 교훈이 있습니다. 한 은행은 AI로 신용 거절을 자동 처리했는데, 감사 추적에는 모델의 결과 점수만 남고 그 점수를 만든 요인은 남지 않았습니다. "AI가 결정했다"는 보여줄 수 있어도, "왜"를 규제가 요구하는 수준으로는 설명하지 못했습니다. 통제 결함입니다.

회계 분개도 똑같습니다. AI가 이 거래를 어느 계정에, 얼마로, 무엇에 근거해 인식했는지를 사후에 재구성하지 못하면, SOX(2002년 제정된 미국의 상장사 재무보고 내부통제 의무법)와 내부통제 기준에서 그 분개는 신뢰할 수 없는 것으로 분류됩니다. 핵심은 이겁니다 — 정확성은 필요조건일 뿐, 증명가능성이 통제의 조건입니다.

AI 회계의 진짜 관문은 정확성이 아니라, '왜 그렇게 했는지'를 감사에서 재구성할 수 있느냐입니다.

2026, 규칙이 만들어지기 시작했다 — 누가 무엇을 요구하나

▍이 기구들의 이름을 알아둘 필요가 있습니다

AI 회계의 빈 규칙 공간이 2026년부터 채워지고 있습니다. 재무·회계 담당자라면 다음 다섯 곳의 이름과 역할은 알아두는 게 좋습니다.

• COSO — 미국의 내부통제 표준을 만드는 민간 기구입니다. COSO가 만든 내부통제 프레임워크(2013)가 SOX 상장사 내부통제(ICFR)의 사실상 표준이라, 회계에서 '내부통제'를 말하면 대개 이 틀을 뜻합니다. 그 COSO가 2026년 '생성형 AI에 대한 효과적 내부통제' 지침을 내놨습니다. 요구의 핵심은 하나입니다 — 프롬프트·입력·출력·출처·모델과 설정 버전·신뢰도 점수·사람 검토 증거를 잡아, AI가 무엇에 근거해 그 결과를 냈고 통제가 설계대로 작동했는지를 재구성할 수 있게 하라. 그리고 뼈아픈 경고를 덧붙입니다 — "대부분의 AI 배포는 이걸 기본으로 캡처하지 않는다. 그 결과 '작동하지만 작동함을 증명하지 못하는 통제'가 생기고, 이는 결과가 맞았든 아니든 SOX상 결함이다."
• NIST — 미국 국립표준기술연구소입니다. AI 위험관리 프레임워크(AI RMF)를 만들어 Govern·Map·Measure·Manage 네 기능으로 AI 위험을 다루게 합니다. 강제는 아니지만 사실상 글로벌 기준선이 됐습니다.
• EU AI Act 14조 — 유럽연합의 포괄적 AI 규제법 중 '사람 감독(human oversight)' 조항입니다. 고위험 AI는 사람이 이해하고, 개입하고, 멈출 수 있게 설계돼야 합니다. 모든 결정을 사전에 검토하라는 뜻이 아니라, 감독이 가능하도록 시스템을 짜라는 요구입니다.
• PCAOB — 미국 상장회사의 감사를 규율하고 감사 기준을 만드는 감독기구입니다. 2026년 중반까지 AI 감사를 규율하는 구속력 있는 기준은 없지만, 산하 기술혁신연합이 'agentic AI auditing(에이전트형 AI 감사)'을 미래 과제로 처음 언급했습니다. 규칙은 오는 중입니다.
• 한국 금융위원회(FSC) — 국내에서 금융분야 AI 가이드라인을 운영하며 같은 방향을 가리킵니다.

방향은 하나로 모입니다. 자율 실행이 아니라, 모든 판단이 추적되고 사람이 감독하는 '통제된 배포'입니다.

비행기는 추락해도 블랙박스로 원인을 재구성합니다. 사고보다 무서운 건 원인을 모르는 사고입니다. AI가 만든 분개도 마찬가지입니다 — 틀린 분개보다 무서운 건, 왜 그렇게 했는지 재구성할 블랙박스가 없는 분개입니다.

감사 가능한 AI 회계의 다섯 가지 통제

▍이게 이 글의 핵심입니다 — 나중에 못 붙이는, 처음부터 있어야 할 것

COSO 지침과 SOX 내부통제를 회계 실무 언어로 옮기면 다섯 가지 통제로 정리됩니다. 각각을 '무엇인가 → 왜 필요한가 → 구체적으로 무엇을 남기나 → 없으면 어떻게 되나' 순으로 봅니다.

▍① 근거 캡처 — 모든 분개가 '무엇을 보고' 만들어졌는지 남긴다

AI가 분개 하나를 만들 때, 그 판단의 재료를 통째로 기록해야 합니다. 어떤 프롬프트와 입력을 받았는지, 어떤 원천 증빙(세금계산서 이미지, 은행 거래내역, 계약서)을 참조했는지, 어떤 모델과 버전이, 얼마의 신뢰도로 결론을 냈는지입니다.

왜 필요한가. 감사에서 "왜 이 거래를 외주가공비로, 왜 이 금액으로 잡았나"를 물으면, 답은 결과 숫자가 아니라 그 뒤의 근거에서 나옵니다.

구체적으로. 예를 들어 "① 이 세금계산서 PDF와 거래처 마스터를 입력으로, ② v3.2 모델이, ③ 신뢰도 0.92로 '외주가공비(외주비)'로 분류, ④ 참조한 규칙은 거래처 업종 코드"까지가 한 줄 분개 뒤에 붙어 있어야 합니다.

없으면. 장부엔 결과만 남고 근거는 사라집니다. COSO의 표현대로, 통제가 실제로 잘 작동했더라도 그걸 증명할 수 없으면 SOX상 결함입니다.

▍② 사람 검토·승인의 증거 — '누가 봤다'가 기록으로 남는다

AI가 만든 것을 사람이 검토했다면, 그 검토 자체가 증거로 남아야 합니다. 누가, 언제, 무엇을, 승인했는지 혹은 수정·반려했는지입니다.

왜 필요한가. 통제는 '사람이 개입했다'는 사실만으로는 부족하고, 그 개입이 있었음을 나중에 보여줄 수 있어야 통제로 인정됩니다.

구체적으로. 추정이 들어가는 분개(대손·감가·발생주의)에는 검토자 식별자와 타임스탬프, 그리고 '수락/수정/반려'와 그 사유가 붙습니다. 검토 없이 자동으로 흘러간 항목과, 사람이 확인한 항목이 구분돼야 합니다.

없으면. 전부 자동으로 흘러간 장부가 '검토된 것처럼' 보입니다. 감사인은 이를 통제 없음으로 봅니다.

▍③ human-in-the-loop 설계 — 어떤 판단은 실행 전에 멈춘다

모든 걸 사람이 볼 수는 없습니다. 그래서 '어떤 유형의 분개는 실행 전에 반드시 사람 승인을 거친다'는 규칙을 시스템에 심어야 합니다. EU AI Act 14조가 요구하는 세 가지 능력 — 이해하고, 개입하고, 멈추는 것 — 이 여기서 구현됩니다.

왜 필요한가. 2026년의 기준은 자율적으로 다 하는 에이전트가 아니라, 사람 감독이 붙은 에이전트입니다. 규제도, 감사도 이 방향입니다.

구체적으로. 반복적이고 규칙이 분명한 분개(은행·카드 대사)는 자동으로 흐르게 두되, 추정·판단·고액·이상치가 걸린 분개는 실행 전 승인 게이트에서 멈춥니다. 무엇을 자동으로 두고 무엇을 멈출지의 경계선 자체가 하나의 통제입니다.

없으면. 판단이 필요한 분개까지 자동으로 전기되어, 사후에 되돌리고 설명하는 비용이 훨씬 커집니다.

▍④ 권한·직무 분리 — AI에게도 '할 수 있는 것'의 경계가 있다

누가(사람이든 에이전트든) 무엇을 할 수 있는지가 분리돼 있어야 합니다. 내부통제의 오랜 원칙인 직무 분리(segregation of duties)가 AI 에이전트에도 그대로 적용됩니다.

왜 필요한가. 한 주체가 분개를 만들고 스스로 승인까지 하면 통제가 무너집니다. 이건 AI라고 예외가 아닙니다.

구체적으로. 에이전트에는 '분개 제안' 권한만 주고, 전기(확정)는 별도 권한을 가진 사람 또는 별도 통제를 거치게 합니다. 누가 어떤 계정·금액대에 손댈 수 있는지도 역할로 분리합니다.

없으면. AI가 통제를 우회하는 통로가 됩니다 — 사람이 하면 막혔을 일이 '자동화'라는 이름으로 통과됩니다.

▍⑤ 드리프트 모니터링과 사후 재구성 — 언제든 전체 경로를 복원한다

모델은 시간이 지나며 조용히 달라집니다(drift). 그래서 이상·무단 사용·성능 변화를 상시 감시하고, 사후에 특정 분개의 전체 이력 — 무엇을 입력받아, 무엇을 생성했고, 누가 검토했고, 어떤 예외가 났으며, 왜 그 결과를 수락·수정·반려했는지 — 를 복원할 수 있어야 합니다.

왜 필요한가. COSO가 요구하는 최종 상태가 바로 이 '재구성 가능성'입니다. 감리나 분기 검토에서 임의의 분개를 뽑아 전 과정을 되짚을 수 있어야 합니다.

구체적으로. 모델 버전이 바뀌면 그 시점이 로그에 남고, 특정 기간의 분류 분포가 튀면 알림이 뜨며, 감사 요청 시 한 건의 분개에 대해 위 ①~④가 하나의 타임라인으로 재생됩니다.

없으면. '지금은 잘 돌아가는 것 같은데 왜 그런지는 아무도 모르는' 상태가 됩니다. COSO의 정의상 이것이 바로 증명 불가능한 통제, 곧 결함입니다.

그래서 이건 기능이 아니라 설계의 문제다

▍감사 추적은 나중에 못 붙입니다

이 다섯 가지의 공통점은, 대시보드 위에 얹는 버튼이 아니라는 겁니다. 코어 데이터 모델과 워크플로우가 처음부터 이걸 전제로 설계돼야 나옵니다. 기록용으로 지어진 시스템에 AI를 얹으면 감사 추적은 사후에 덧대는 숙제가 되고, 대개 ①~⑤ 중 일부가 비어 있습니다. 붙이는 방식과 처음부터 짓는 방식의 차이는 AI ERP 현황에서 다뤘는데, 신뢰의 관점에서 그 차이가 가장 크게 벌어지는 곳이 바로 이 감사가능성입니다.

회계팀·감사팀이 지금 준비할 것

▍정책부터, 그다음 도구입니다

거버넌스를 갖춘 21%에 드는 게 먼저입니다. 어떤 AI 판단에 사람이 개입하고 무엇을 기록할지를 도구 도입 전에 정합니다. 감사팀은 'AI 통제를 어떻게 테스트할 것인가'를 새로 익혀야 합니다. 그리고 도구를 고를 때는 위 다섯 가지가 코어에서 지원되는지를 봅니다 — 로그가 남는지, 검토 이력이 붙는지, 승인 게이트를 설정할 수 있는지, 권한이 분리되는지, 사후 재구성이 되는지. 나중에 붙일 수 있는 게 아니기 때문입니다.

자주 받는 질문

Q. AI 회계의 가장 큰 리스크는 환각(틀린 숫자) 아닌가요?

A. 정확성보다 통제 실패가 더 큰 리스크입니다. AI가 맞는 분개를 해도, 왜 그 계정·금액으로 인식했는지를 감사에서 재구성하지 못하면 SOX·내부통제 기준상 그 숫자는 신뢰할 수 없는 것으로 분류됩니다. 환각은 정확성 문제, 감사가능성은 통제 문제입니다.

Q. COSO·NIST·EU AI Act는 각각 무엇인가요?

A. COSO는 미국의 내부통제 표준을 만드는 기구로, 그 프레임워크가 SOX 내부통제의 사실상 표준입니다. NIST는 미국 국립표준기술연구소로 AI 위험관리 프레임워크를 만들었습니다. EU AI Act 14조는 고위험 AI에 사람 감독(이해·개입·중단)을 요구하는 유럽의 규제 조항입니다. 셋 다 2026년 기준 AI 통제의 방향을 제시합니다.

Q. AI가 만든 분개도 감사를 받나요?

A. 받습니다. COSO의 2026년 생성형 AI 내부통제 지침은 AI가 영향을 준 결정에 대해 프롬프트·입력·출력·모델 버전·신뢰도·사람 검토 증거를 잡아 재구성 가능하게 하라고 요구합니다. 이를 못 갖추면 SOX상 통제 결함이 됩니다.

Q. 완전 자율 AI 회계는 지금 가능한가요?

A. 2026년 기준으로는 권장되지 않습니다. EU AI Act와 실무 흐름 모두 '사람 감독이 붙은 에이전트'를 기준으로 합니다. 반복·규칙형 업무는 자동으로 두되, 추정·판단이 들어가는 분개는 사람 승인 게이트를 거치는 설계가 현재의 안전한 지점입니다.

Q. 우리 회사는 무엇부터 시작해야 하나요?

A. 거버넌스 정책과 human-in-the-loop 정의부터입니다. 어떤 판단을 사람이 승인하고 무엇을 기록할지 정한 뒤, 그 요건을 코어에서 지원하는 도구를 고릅니다. 순서를 뒤집으면 감사에서 설명 못 하는 자동화가 쌓입니다.

감사에서 중요한 건 AI가 맞았느냐가 아니라, 왜 그렇게 했는지를 보여줄 수 있느냐입니다. 환각을 줄이는 것보다 어려운 건, 모든 판단에 블랙박스를 다는 일입니다. 그리고 그 블랙박스는 나중에 붙일 수 없습니다 — 처음부터 코어에 있어야 합니다.