AI 거버넌스, 더 늦추면 안 되는 이유

AI는 금융을 비롯한 다양한 산업에서 혁신을 가속화하고 있습니다. 하지만 그 이면에는 데이터 편향, 환각(Hallucination), 개인정보 유출 등 새로운 리스크가 빠르게 증가하고 있죠. SAS는 지난 9월 17일 ‘금융기관을 위한 AI 거버넌스 및 미래 혁신 전략 세미나’를 개최하고 AI 기본법 시행을 앞둔 현 시점에서 금융기관이 어떤 준비를 갖춰야할 지에 대한 핵심 내용을 전달드렸습니다.

이번 행사에 연사로 방한한 스티븐 토나 SAS 모델 및 AI 거버넌스 총괄 책임자는 “AI는 미래를 바꾸고 있지만 동시에 위험을 키우고 있다”라고 전하며, 단순한 기술 도입을 넘어 AI 모델 리스크 관리와 거버넌스 구축이 필수라고 강조했습니다.

스티븐 토나(Stephen Tonna) 모델 및 AI 거버넌스 총괄 책임자​
SAS 리스크·사기 방지 및 컴플라이언스 부문​

금융기관이 취해야 할 AI 거버넌스를 위한 핵심 조치

AI 기본법 시행을 앞둔 국내 금융기관은 다음과 같은 준비가 필요합니다:

모델 인벤토리를 신용리스크 모델뿐만 아니라 생성형 AI와 LLM까지 확장

모델 드리프트환각·제일브레이킹(Jail Breaking) 시도를 실시간 감지하는 지속적 모니터링 체계 구현

규제 준수를 즉시 입증할 수 있는 강력한 증거 수집 및 문서화 프로세스 구축

컴플라이언스리스크·데이터·AI 부서를 아우르는 부서통합형 거버넌스 팀 구성

AI 거버넌스를 위해서는 AI 모델에 대한 철저한 관리가 무엇보다 중요합니다. 모델 도입 이전에는 적합성을 철저히 확인하고, 운영 단계에서는 지속적인 모니터링을 실시하는 동시에 데이터에서 의사결정까지 전 과정의 추적 가능성을 확보해야 하며, 필요 시 규제기관에 증거를 제출할 수 있도록 준비해야 합니다. 이러한 관리 체계는 국내 AI 기본법은 물론 국제적 기준에도 부합해야 합니다.

실시간 대응과 프라이버시 중심 설계

AI 리스크 관리의 핵심은 실시간 대응입니다. 고객의 비대면 문의 사항에 대해 지연없이 즉각 응대할 수 있는 시스템을 갖춰야 합니다. 또한 데이터 유출과 개인정보 노출이 가장 심각한 리스크가 될 수 있습니다. 데이터 접근 권한 제한, 토큰화/암호화, 프롬프트 필터링, 개인정보 제거 등 기술적 장치가 필요하며, 데이터유출방지(DLP) 솔루션, 이상 탐지, 시크릿 스캐닝, 프롬프트 레드팀 운영도 필수입니다.

AI 거버넌스는 단순히 규칙을 정하는 수준을 넘어, 각 AI 모델의 개발과 운영 과정, 승인 주체와 시점, 마지막 검증까지 모든 절차를 기록하고 강화된 통제를 적용하는 체계입니다. 특히 AI 모델의 투명성 확보와 부서 간 협업을 통한 통합 관리가 핵심입니다. 또한, 거버넌스 구축 과정에서 다양한 과제와 어려움이 존재하지만, 글로벌 전문 기업과 협력해 규제 준수와 책임 있는 관리 체계를 마련함으로써 AI로부터 최대한의 가치를 실현하는 것이 중요합니다.

SAS의 통합 플랫폼 전략

SAS는 금융권의 AI 리스크 대응을 위해 데이터 관리부터 모델 개발, 배포, 모니터링, 거버넌스를 통합적으로 지원하는 플랫폼을 제공합니다. ‘SAS 모델 리스크 관리(MRM)’, ‘SAS 모델 매니저(SAS Model Manager)’와 ‘SAS 인텔리전트 디시저닝(SAS Intelligent Decisioning)’ 등이 모두 SAS Viya 단일 플랫폼에서 구동됩니다. 이러한 제품들의 다양한 기능을 통해, 모델 등록과 승인, 버전 관리, 실시간 대응 등 체계적인 관리가 가능하고, AI 에이전트 설계 및 확장도 지원합니다. 무엇보다 높은 신뢰성과 설명성으로 AI 거버넌스 확보를 위한 최적의 환경을 제공합니다.

금융기관이 AI 거버넌스를 위해 지금 무엇을 준비해야 하는지 보다 자세한 내용이 궁금하시면 스티븐 토나 SAS 모델 및 AI 거버넌스 총괄 책임자의 인터뷰 기사를 통해 확인하시기 바랍니다.

[인터뷰] 스티븐 토나 SAS 아시아태평양 AI 총괄 “AI 리스크 대응 지금 준비하지 않으면 늦는다”