최종편집일2026.09.04 (금)
과학기술정보통신부(부총리 겸 장관 배경훈)와 한국인터넷진흥원(원장 이상중)이 AI 서비스의 보안 위협에 효과적으로 대응하고 현장의 보안 점검 역량을 강화하기 위해 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’를 발간했다.
◆AI 확산에 따른 신종 보안 위협 증가
최근 AI 기술이 다양한 산업과 서비스에 빠르게 확산되면서 생산성과 혁신을 견인하고 있으나, 프롬프트 인젝션, 권한 오남용, 데이터 유출 등 새로운 유형의 보안 위협도 함께 증가하고 있다.
특히 AI 보안 위협은 기존 정보보호 체계만으로는 충분히 검증하고 대응하기 어려운 특성을 지니고 있어, 실제 공격자 관점에서 보안 취약점을 식별하고 대응 방안을 마련하는 AI 레드팀의 중요성이 높아지고 있다.
AI 레드팀은 AI 모델에 의도적으로 문제가 되는 행동을 유도해 취약점과 위험을 발견하는 팀을 뜻한다.
이번에 발간된 2종의 가이드는 AI 환경에서 발생 가능한 주요 보안 위협과 사례를 체계적으로 정리하고, 실제 현장에서 활용할 수 있는 점검 및 대응 방안과 레드팀 운영 방안을 제시하는 데 중점을 두었다.
◆‘AI 보안 위협 대응 매뉴얼’, 8개 도메인별 시나리오 수록
‘AI 보안 위협 대응 매뉴얼’은 ▲AI 보안위협 분류 및 진단 ▲산업별 위협 시나리오 ▲AI 보안 위협별 대응 방안 등을 담고 있으며, AI에 특화된 보안 위협과 실무 중심의 대응 방안을 제공한다.
AI 보안위협은 데이터 위협, 모델 위협, 에이전트 위협, 공급망 위협, 고성능 모델 위협 등으로 분류됐으며, 산업별 시나리오는 금융‧의료‧공공행정‧교육‧제조에너지‧통신‧법률‧IT 등 8개 도메인을 대상으로 마련됐다.
특히 C-레벨급 경영진에게는 AI 보안 위협의 유형과 사례를 제시하고, AI 보안 실무자 및 IT 운영자 등 실무자에게는 AI 보안 위협을 어떻게 진단하고 대응할 것인지에 대한 구체적인 기준과 방안을 제시한다.
◆레드티밍 가이드, 국제표준 기반 운영 기준서
‘AI 보안 레드티밍 가이드’는 AI 보안 레드팀을 운영하고자 하는 실무진을 위한 가이드로, 여러 산업을 아우르는 AI 레드팀 운영 방법론을 체계적으로 정리한 정부 발간 AI 보안 레드팀 운영 기준서다.
가이드는 ▲레드팀 기획 및 구성 ▲레드티밍 준비 ▲레드티밍 이행 ▲결과 보고까지 AI 보안 레드팀 운영의 전 과정을 안내하며, 레드티밍 체크리스트와 점검 도구, 레드팀 인력 직무기술서 등을 추가해 실용성을 높였다.
이번 가이드는 민간 기업의 AI 보안 담당 실무자들의 의견을 폭넓게 수렴하고 레드티밍 전문기업 관계자의 의견을 비롯해 현장의 수요를 반영해 마련됐으며, 학계 전문가의 자문을 통해 현장 활용성과 전문성을 높였다.
아울러 AI 레드티밍 국제표준안(ISO/IEC 42119-7)을 기반으로 구성해 국제적으로 통용되는 기준에 부합하도록 했다.
◆“AI 환경 변화에 선제적으로 대응”
임정규 과기정통부 정보보호네트워크정책관은 “AI 기술의 확산과 함께 보안 위협도 빠르게 진화하고 있다”며 “이번 가이드가 AI 서비스의 보안 수준을 높이고 현장에서 활용할 수 있는 실질적인 기준이 되기를 기대한다”고 밝혔다.
이어 “앞으로도 AI 보안 레드팀 사업을 통해 공격 시나리오와 적용 도메인을 지속적으로 확대‧발굴하고, 최신 AI 기술과 동향을 반영해 가이드와 검증 체계를 고도화하여 AI 환경 변화에 선제적으로 대응해 나가겠다”고 덧붙였다.
한편 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’는 (과기정통부) 및 (한국인터넷진흥원) 홈페이지를 통해 무료로 내려받아 활용할 수 있다.
[메디컬월드뉴스]
[8월제약사이모저모①]한국다이이찌산쿄, 셀트리온, 동아제약, 엔클로니 등 소식
[8월 7일 병원계 이모저모①]고려대, 고대구로, 중앙대광명, 인천자생한방병원 등 소식
[8월 제약사이모저모⑤]삼성바이오에피스, 비원메디신스, 제테마, 머크 등 소식
