컴플라이언스와 감독에서의 인공지능

PDF판 읽기 (5 쪽)

거래 모니터링과 금융범죄

컴플라이언스는 인공지능에 가장 유망하면서도 가장 민감한 분야 중 하나입니다. 전통적인 거래 모니터링 시스템은 대량의 경보를 생성하지만, 그 대부분은 수작업 검토 후 근거 없는 것으로 판명됩니다. 머신러닝 모델은 경보를 실제 위험일 가능성에 따라 순위를 매기고, 여러 계좌에 걸친 패턴을 탐지하며, 뉴스 보도와 같은 비정형 정보를 분석할 수 있습니다. 싱가포르 통화청(Monetary Authority of Singapore, MAS)은 은행들이 자금세탁방지 시스템과 사기 탐지에 이러한 모델을 흔히 사용하고 있다고 관찰했습니다. 규제상의 위험은 양방향으로 존재합니다. 실제 경보를 억제하는 모델은 은행을 제H편에서 검토하는 자금세탁방지 규정 위반에 노출시킵니다. 결과를 설명하지 못하는 모델은 감독당국이나 법원 앞에서 방어하기 어렵습니다. MAS는 규제 위험을 인공지능의 주요 위험 중 하나로 꼽으면서, 자금세탁방지 업무를 지원하는 데 사용되는 모델의 낮은 성능을 그 예로 들고 있습니다.¹

이러한 모델이 의존하는 데이터 또한 달라졌습니다. 2024년 4월 1일부터 6개 주요 상업은행은 여러 위험 신호를 보이는 고객에 관한 정보를 COSMIC을 통해 공유할 수 있게 되었습니다. COSMIC은 MAS가 2023년 금융서비스시장(개정)법(Financial Services and Markets (Amendment) Act 2023)에 따라 이들 은행과 함께 출범시킨 디지털 플랫폼입니다. 초기에는 법인의 남용, 무역금융의 남용, 확산금융에 중점을 두고 있습니다.² 이러한 플랫폼은 분석 모델이 활용할 수 있는 구조화된 신호의 원천입니다. 그 법적 체계와 자금세탁 방지에서의 의의는 제H편에서 다룹니다.

제3자 모델과 집중

대부분의 금융기관은 소수의 글로벌 제공업체로부터 생성형 모델을 구매합니다. MAS는 여기서 비롯되는 세 가지 위험을 확인했습니다. 사전학습 데이터에서 비롯되는 알려지지 않은 편향, 개인정보보호 문제, 그리고 많은 기관이 동일한 기반 모델에 의존하는 데 따른 집중 위험입니다. 은행들은 보완적 테스트, 비상계획, 그리고 성능 보증, 개인정보보호, 감사권, 제공업체가 기존 서비스에 인공지능을 도입할 때의 통지를 규정하는 계약 개정으로 대응했습니다.³

최종 가이드라인은 원칙을 확정합니다. 금융기관은 제3자 제공업체에 견고한 위험관리 관행을 채택하도록 강제하지 못할 수도 있습니다. 그럼에도 금융기관은 자신의 조직 내에서 제3자 AI가 어떻게 사용되는지, 그리고 고객과 기타 이해관계자에게 미칠 수 있는 영향에 대해 여전히 책임을 집니다.⁴ 제E편 제I장에서 검토하는 아웃소싱 및 기술위험관리에 관한 규정도 함께 적용됩니다.

사고, 모니터링 및 비상대응

가이드라인은 AI 사고를 기반 시스템이나 모델의 고장, 오작동 또는 낮은 성능과 관련된 사고로 정의합니다. MAS는 이에 대한 별도의 보고 제도를 두지 않기로 결정했습니다. 금융기관은 근본 원인이 무엇이든 기존의 기술위험 및 업무연속성 요건에 따라 사고를 계속 보고해야 합니다. 위험 중대성이 높은 활용 사례에는 비상계획이 요구됩니다. 강화학습 시스템처럼 스스로 자동 업데이트되는 모델은 더욱 엄격한 모니터링이 필요합니다. 그 동작이 사람의 관여 없이 운영 중에 변화할 수 있기 때문입니다.⁵

에이전트형 시스템의 경우 모니터링은 추론 과정, 수행된 행위, 사용된 도구를 포함하여 워크플로 전반의 정보 흐름과 의사결정 경로에까지 미쳐야 합니다. 이러한 모니터링을 통해 금융기관은 에이전트 체인 전반에 걸친 개별 행위를 재구성하고 장애의 원인을 찾아낼 수 있습니다. MAS는 또한 도구와 시스템에 대한 접근 범위를 위험 중대성의 추가적 차원으로 삼을 수 있다고 제안했습니다. 광범위한 권한을 가진 에이전트는 데이터 침해 위험을 가중시킬 수 있기 때문입니다.⁶

감독당국 자신의 데이터 활용

MAS는 최고데이터책임자 직위를 신설한 이래 자체 업무에 데이터 분석을 적용해 왔습니다. FEAT 원칙이 발표되었을 때 이 직위는 데이비드 하둔(David Hardoon)이 맡고 있었습니다. 감독관들은 규제 보고서를 처리하고, 의심거래보고를 선별하며, 시장남용 패턴을 탐지하는 데 분석 도구를 사용합니다.⁷ 그러나 이러한 도구로 감독 관계 자체가 바뀌지는 않습니다. 도구는 감독당국이 주의를 기울일 만한 기관과 거래를 선별하도록 도울 뿐이며, 평가는 제E편 제I장에서 설명하는 법률에 따라 행사되는 사람의 판단으로 남습니다.

주

1. MAS, Information Paper, 2024년 12월, para 2.1: 의사결정나무 기반 ML 모델은 “commonly used in anti-money laundering (AML) systems to detect suspicious transactions, and in fraud detection systems” – MAS, Information Paper, 2024년 12월, para 2.2: “Regulatory risks, e.g., poor performance of AI used to support AML efforts could lead to non-compliance with regulations.” ↩
2. MAS, “COSMIC” (mas.gov.sg, 최종 접속일 2026년 11월): 2024년 4월 1일 출범; 참여 은행 DBS, OCBC, UOB, SCB, Citibank 및 HSBC; 법적 근거는 Financial Services and Markets (Amendment) Act 2023 및 Financial Services and Markets (Information Sharing Scheme for Prescribed Financial Institutions) Regulations 2024; 세 가지 위험 영역. ↩
3. MAS, Information Paper, 2024년 12월, para 7.2.1: 제3자 AI로 인한 위험에는 “unknown biases from pre-training data, data protection concerns, as well as concentration risks due to increased interdependencies”가 포함됨 – MAS, Information Paper, 2024년 12월, para 7.2.2(a)–(d): 보완적 테스트, 비상계획, “performance guarantees, data protection, the right to audit, and notification when AI is introduced”에 관한 조항을 둔 법적 계약, 그리고 인식 제고 노력. ↩
4. MAS, Response to Feedback, 2026년 10월 7일, paras 9.3–9.4: 금융기관은 “remains accountable for how third-party AI is used within its organisation”; “the onus is on the FI to ensure that risks arising from its use of third-party AI are appropriately managed”. ↩
5. MAS, Response to Feedback, 2026년 10월 7일, para 10.69: “AI incidents”의 정의; “MAS does not intend to introduce AI-specific incident reporting requirements at this juncture” – MAS, Response to Feedback, 2026년 10월 7일, paras 10.67 및 10.70. ↩
6. MAS, Response to Feedback, 2026년 10월 7일, para 12.8 – MAS, Response to Feedback, 2026년 10월 7일, para 7.7: 금융기관은 “the extent of access to tools and systems granted as an additional dimension for AI risk materiality assessments of agentic AI”를 고려할 수 있음. ↩
7. 감독 및 의심거래보고 분석에서 MAS의 데이터 분석과 머신러닝 활용에 관하여는 2018/19년 이후의 MAS 연차보고서와 감독기술에 관한 MAS 관계자들의 연설 참조. ↩

일반 정보 제공만을 목적으로 합니다. 이 글은 법률 또는 세무 자문이 아니며, 개별 사안에 대한 자문을 대신하지 않고, 변호사와 의뢰인 사이의 관계를 성립시키지 않습니다. 10월 2026 기준의 법적 상황을 반영합니다.