제목 : 금융보안원, 「2026년 금융권 AI 활용 및 안전성·신뢰성 강화 세미나」 개최
- 미토스 등 프론티어 AI에 의한 사이버보안 위협 대응 논의
- 금융AI 안전성·신뢰성 프레임워크(안) 공개 및 시범평가 예정
□ 금융보안원(원장 박상원)은 금융투자협회 불스홀에서 금융회사 및 유관기관 CISO/CIO 등 임직원 260명이 참석한 가운데 「2026년 금융권 AI 활용 및 안전성・신뢰성 강화 세미나」를 개최
ㅇ 이번 세미나는 금융권의 AI 활용이 빠르게 확대되는 가운데, 금융회사의 AI 도입・운영 과정에서 고려해야 할 안전성・신뢰성 확보 및 위험관리 방향을 공유하기 위해 마련
ㅇ 특히, 클로드 미토스(mythos) 등 초고성능 프론티어 AI가 촉발하는 사이버 위협 증가에 대한 금융권의 대응방안도 논의
□ 금융보안원은 금융권 AI 확산과 초고성능 AI 보안 위협에 대응하기 위해 금융AI 안전성·신뢰성 프레임워크, AI 에이전트 보안 기준 등을 발표하고 금융회사 시범평가를 통해 실효성을 제고할 예정
|
|
[ 세미나 개요 ] |
|
||||||||||||||||||||||
|
|
|
|||||||||||||||||||||||
|
(행 사 명) 2026년 금융권 AI 활용 및 안전성·신뢰성 강화 세미나 (일시·장소) ‘26.5.13.(수) 14:00 ~ 17:00 / 금융투자협회 3층 불스홀 (참 석 자) 금융회사 및 유관기관 CIO/CISO 등 임직원
|
||||||||||||||||||||||||
□ 이번 세미나에서는 금융회사의 최신 AI 활용 및 위험관리 사례, 미토스 보안위협 대응 전략, 감독당국의 AI 관련 정책방향 등 깊이 있는 주제들을 발표
ㅇ 네이버 클라우드는 AX Journey*를 소개하고 에너지와 경제 산업 부분의 AI 플랫폼 구축 사례, AX 핵심 성공 요인 등을 공유
* 기업들의 AI를 도구로 쓰는 단계를 넘어, AI와 공존하는 구조로 진화하는 과정
ㅇ 삼성생명은 생성형 AI의 안전한 활용을 위한 관리체계를 구축하고, 가드레일 설정 및 임직원 교육 등 주요 보안 통제방안을 제시
- 아울러, 마이크로세그멘테이션, 제로트로스트 기반 업무 체계 전환 등 미토스 위협에 대비한 삼성생명의 핵심전략도 소개
ㅇ 카카오뱅크는 AI 거버넌스, 자체 AI 레드팀 및 제3자 모의해킹, 가드레일 개발, AI 취약점 공동 대응체계, 버그바운티 등 안전한 AI를 위한 그간의 노력을 설명
- 특히, 공격용 AI가 방어로직 분석, 취약점 발견, 공격벡터 생성 등을 자동으로 수행하는 ‘미토스형 위협’에 대응한 AI기반 보안 침해대응 환경 구축 등 실무적 고민도 공유
ㅇ 금융감독원은 금융 AI 위험관리 프레임워크를 중심으로 AI 활용 과정에서 발생하는 주요 리스크 및 관리체계 구축 방향을 제시
□ 특히 금융보안원은 국내·외 AI 안전성·신뢰성 평가 체계를 분석하고 국내 금융권에 적합한 평가 프레임워크 초안을 제시하는 한편,
ㅇ 금년 하반기 중 금융회사 신청을 받아 금융회사를 대상으로 AI 안전성ㆍ신뢰성에 대한 시범평가를 실시한다고 발표
금융 AI 안전성ㆍ신뢰성 평가기준(안) 요약
|
Ⅰ. 금융 AI 신뢰성 |
Ⅱ. 금융 AI 안전성 |
||
|
1. 모델 성능 관리 |
성능 지표 설정 및 점검 |
5. AI 특화 보안위협 |
위협 식별ㆍ분류 및 위험수준 산정 |
|
기준치 이탈 파악체계 |
우선순위 결정 및 전과정 |
||
|
환각 현상 완화 기준 |
|||
|
인적 감독 및 통제체계 |
6. AI 특화공격 탐지대응 |
입력 범위 검토 및 필터링 |
|
|
성능 저하 시 대응 절차 |
|||
|
적대적 공격방어 및 훈련 |
|||
|
심각한 성능 저하 시 수동처리 |
|||
|
지속 모니터링 |
|||
|
모델 성능 유지 및 개선 |
|||
|
2. 데이터 품질 |
데이터 정확성ㆍ완전성ㆍ운영단계 품질 |
7. AI 자산 보호관리 |
쿼리 제한ㆍ내부정보 유출방지 |
|
데이터 표준 정합성 및 이상치 |
모델 인벤토리 관리 |
||
|
데이터 유형별 검증 및 오류 처리 절차 |
오픈소스 보안 |
||
|
3. 공정성ㆍ |
데이터 편향 사전점검 및 정기 분석 |
8. 외부 모델ㆍ데이터 검증 |
외부 모델 검증 |
|
라벨링 편향 관리 |
외부 데이터 검증 |
||
|
모델 편향성 평가 |
공급망 보안 |
||
|
운영 중 공정성ㆍ편향성 주기적 점검 |
9. 기존 보안관리 확장적용 |
AI 특화 통제 조치 |
|
|
4. 설명가능성 |
AI 활용 고지 및 의사결정 과정 추적 |
데이터 국외이전 금지 |
|
|
결정 영향 확인 및 안내 |
AI 특화 보안교육 |
||
|
이의제기 및 청구 절차 |
10. 보안 검증 및 운영관리 |
운영 이관 전 검증 |
|
|
규제 대응 현황 |
|||
ㅇ 특히, 참석자들은 AI 기술의 성공적 활용을 위해서는 안전성과 신뢰성이 담보되어야 한다는 점과 이를 객관적으로 평가할 수 있는 체계가 필요하다는 점에 깊이 공감하면서,
ㅇ 이를 위해서는 금융당국, 금융회사, 금융보안원 등 유관기관 및 AI 관련기업 간 긴밀한 협력이 필요하다는 점을 강조하였음
□ 금융보안원 박상원 원장은 “AI는 금융산업의 혁신을 가속화하는 핵심 기술이지만, 금융분야에서 안정적으로 활용되기 위해서는 보안성, 안전성, 신뢰성이 함께 확보되어야 한다”고 강조하고,
ㅇ “금융보안원 AI 조직의 확대‧개편을 통해 AI에 의한 사이버 공격 및 방어 연구 강화, AI 보안 인재 양성 등을 적극 추진하여 금융권의 선제적 AI 보안리스크 대응을 지원하겠다.”고 밝힘. 끝.
[첨부] 2026년 금융권 AI 활용 및 안전성·신뢰성 강화 세미나 사진