제목 : 금융보안원, 금융 AI의 안전망을 설계하다
◇「금융 AI 모델 보안성 검증체계」마련, `25년부터 본격적으로 검증 실시
◇「금융보안 AI 워킹그룹」출범, `25년「AI Safety Framework」개발 추진
□ 금융보안원은 AI로 인한 디지털 환경 및 업무 패러다임 변화에 발맞춰 금융회사가 안전하게 AI를 활용할 수 있도록, AI 전담 조직인 AI혁신실을 필두로 올해 보안성 검증체계와 이해도 지표를 개발하는 등 정책적ㆍ기술적 지원 업무를 수행하였다.
□ 금융보안원은 급변하는 AI 환경에 대해 선제적으로 대비하기 위해 3년 동안 지속적으로 인력 및 조직을 확대*해왔다.
* ‘22년 AI활용지원 TF → ‘23년 AI데이터팀 → ’24년 AI혁신실
□ 특히 올해 금융보안원은 금융분야 AI 관련 가이드라인, 검증체계, 지표 등을 개발하며 활발하게 기술적 지원 업무를 수행하였다.
ㅇ 작년 4월에 작성·배포한 ｢금융분야 AI 보안 가이드라인｣에 대한 후속 연구로 AI 관련 책임과 역할 정립을 위한 AI 거버넌스 관련 연구를 진행하였으며,
ㅇ AI 신뢰성 확보를 위해 「금융 AI 보안성 검증체계」를 마련하여 보안위험 요소를 사전 식별 및 해결하도록 지원하고, 주요 금융회사를 대상으로 시범 검증을 실시하였다.
ㅇ 또한, 금융회사가 금융보안 관련 업무에 활용할 AI 모델의 성능을 비교하여 최적의 모델을 선정할 수 있도록 금융보안 이해도 지표(FSKU: Financial Security Knowledge Understanding)를 개발하였다.
□ 나아가 금융당국 및 금융회사와의 협업을 통해 제도적 기반 마련을 위한 정책적 지원 업무를 수행하였다.
ㅇ 금융위 주관의 「금융권 AI 협의회」에 구성원으로 참여하여 금융당국과 금융회사 간 가교 역할을 하였고, 23개 금융회사·학계·법조계와 함께 금융보안 AI 워킹그룹을 출범시켜 안전한 AI 활용 방안을 위한 AI Safety Framework를 논의하였다. 또한, 5개 은행이 참여한 소그룹을 통해 FDS 연합학습 추진 관련 논의를 활발히 진행하였다.
□ 아울러, 세계적인 AI 분야 국제학회 「ACM ICAIF 2024」에서 주최한 국제 금융 AI 대회(FinanceRAG)에서 2위 수상 및 초청 발표를 수행하고, 빅데이터 국제학회 「IEEE BigComp」 및 데이터과학 국제학회 「ACM CIKM」에 SCI 논문 2편을 게재하고 최우수 논문을 수상하는 등 다양한 성과를 달성하며 AI혁신실의 전문성을 입증하였다.
□ 한편, AI 모델 성능 경진대회와 생성형 AI 활용 아이디어 공모전으로 구성된 「AIxData Challenge」를 개최하여 AI를 활용한 신사업 아이디어 발굴에도 적극적으로 나섰다.
※ [별첨2] 경진대회 및 공모전 부문별 1위 수상작 참조
□ ‘25년에는 「금융 AI 보안성 검증체계」를 활용하여 금융회사 AI 서비스에 대한 제3자 검증을 수행하고, ｢금융분야 AI 보안 가이드라인｣을 개정할 계획이다.
ㅇ 또한, FDS 연합학습·합성데이터 등 다양한 AI 프라이버시 강화기술(PET)을 연구하고, 「금융권 생성형 AI 활용 지원방안(‘24.12.)」에 따라 사전 기능테스트(PoC) 환경을 구축·제공하며 보안대책 수립 및 이행을 지원할 예정이다.
□ 금융보안원 김철웅 원장은 “AI 기술의 발전 속도가 매우 빠르고, 금융권의 활용 범위도 크게 확대되고 있는 상황에서, 금융권의 안전하고 신뢰성 있는 AI 기술 활용을 위해서는 ① 핵심 기술의 확보, ② 사전적 보안 검증, ③ 적극적인 정보 공유와 협력이 중요하다.”면서,
ㅇ "금융보안원은 앞으로도 금융권 AI 플랫폼을 적극 지원하며 금융회사가 안전하게 AI를 활용할 수 있도록 지속적으로 노력할 것”이라고 밝혔다. 끝.