제목 : 금융보안원, 금융권의 안전한 AI 활용 환경 조성을 위한 보안성 평가 본격 실시
- 혁신금융서비스 보안대책 평가 및 AI 모델 보안성 검증 본격 실시
- AI 신기술인 연합학습 기법 활용, 공동 AI 모델 개발 추진
□ 금융보안원(원장 박상원)은 AI 기술 활용을 위해 혁신금융서비스 지정을 받은 금융회사의 보안대책을 신속하게 평가하고 모의 공격 기반의 AI 모델 보안성 검증을 수행하는 등 금융권의 AI 기술 활용이 안전하고 빠르게 안착하도록 적극 지원할 계획
ㅇ 또한, AI 신기술인 연합학습을 활용 금융사기 거래를 효과적으로 탐지하도록 금융권 공동의 AI 모델 개발도 추진 예정
□ 금융권의 생성형 AI 활용 증가에 따라 혁신적 변화가 기대되는 반면, 보안 취약점으로 인한 정보 유출과 오남용, AI의 편향된 학습에 따른 결과 등에 대한 우려도 함께 제기되고 있음
* 최근 미국 금융안정감독위원회(FSOC)의 연례보고서(‘24.12.)에서 생성형 AI의 금융분야 활용 과정에서 사이버공격 발생 가능성, 데이터 편향으로 인한 의사결정 왜곡 등의 위험성이 있음을 지적
□ 금융보안원은 이러한 우려를 불식하고 혁신적 금융환경을 지원할 수 있도록 AI 보안 분야에 대한 전문적 역량을 쌓아왔으며, 이를 통해 다양한 정책적ㆍ기술적 지원 업무를 수행하고 있음
ㅇ 올해는 증가하는 금융권 AI 활용에 발맞춰 금융보안원의 전문성을 토대로 다음과 같은 업무를 중점 수행할 예정
① 생성형 AI 활용을 위해 혁신금융서비스 지정*을 받은 금융회사의 보안대책을 평가하여, 망분리 예외가 적용된 구간에서도 안전하게 AI가 활용될 수 있도록 지원
* ‘25.2월 기준 32개 금융회사의 49개 서비스 접수
② 금융회사가 사용하는 AI 모델을 대상으로 모의 공격(예: 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도)을 수행하여 취약점을 찾아내는 AI 모델 보안성 검증을 통해, 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원
* 보다 높은 수준의 AI 안전성과 신뢰성을 확보하고자 하는 금융회사가 자율적으로 수행하는 점검으로 현재 8개 금융회사에서 9개 서비스에 대한 점검을 요청
③ AI 신기술인 연합학습 기법을 통해 금융사기 거래를 탐지하는 금융권 공동 AI 모델 개발을 추진하여, 금융사기 거래 대응을 개별 금융회사 차원에서 금융권 공동 체계로 확장
④ 이외에도 금융회사들이 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공, 금융분야 AI 가이드라인 개정 지원 등 다양한 측면에서 금융권 AI 활용을 지원할 예정
※ 각 사업에 대한 상세내용은 [별첨] 참조
□ 금융보안원 박상원 원장은 “AI 기술의 성공적인 도입과 활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 진정한 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다.”라며,
ㅇ “금융보안원은 올해 적극적인 투자와 조직 확대 등을 통해 전문인력을 양성하고 기술력을 강화하는 등 금융 분야의 성공적인 AI 혁신을 차질 없이 지원해 나갈 것”이라고 밝힘. 끝.