“AI 시대, 보안 위험, ‘인공지능 보안 안내서’, 개발·서비스·이용자 113개 기준 제시”

article_right_top

과학기술정보통신부와 한국인터넷진흥원이 인공지능 모델과 서비스를 외부 공격으로부터 보호하기 위한 ‘인공지능(AI) 보안 안내서’를 발표했다. 인공지능 활용이 일상과 산업 전 영역으로 확산되는 가운데, 신뢰성과 윤리 중심의 기존 가이드만으로는 대응이 불가능한 현실적인 사이버 위협에 대응하기 위한 첫 종합 보안 기준이 마련된 셈이다.

그동안 정부는 생성물 신뢰성, 윤리적 판단, 책임 있는 활용 등 AI 개발·운영의 가치 중심 논의를 이어왔으나, 해킹·오염 데이터 투입·API 탈취 등 직접적인 공격을 차단하기 위한 보안 기준은 공백으로 지적돼 왔다. 이번 안내서는 산·학·연 전문가 협력과 국내·외 정책 사례 분석, 업계 의견을 반영해 완성됐으며, 보안 3대 요소인 기밀성·무결성·가용성을 기반으로 ▲개발자 ▲서비스 제공자 ▲이용자 관점에서 총 113개 세부 기준을 제시했다.

가장 큰 특징은 AI 생애주기 전 과정에 적용된 보안 요구사항이다. 개발 단계에서는 데이터 암호화, 모델 위험 관리, 실시간 점검 등 ‘보안 내재화(Secure by Coding)’가 핵심으로 반영되었고, 서비스 제공 단계에서는 API 보안, 이상 행위 탐지, 백업 시스템 구축 등 복원력 중심의 대응 체계가 포함되었다. 이용자 측면에서는 중요 정보 입력 금지, 악용 행위 금지 등 구체적 보안 수칙이 제시됐다. 또한 이번 기준은 미국 NIST, OWASP 등 국제 규범을 참고해 국내외 AI 모델 모두 적용 가능한 수준으로 정립했으며, 향후 신종 위협 반영을 위한 지속적인 업데이트 계획도 제시됐다.

과기정통부 임정규 정보보호네트워크정책관은 “이번 인공지능 보안 안내서는 고도화되는 사이버 위협 속에서 인공지능을 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것”이라고 기대하면서, “인공지능에 대한 새로운 보안 위협을 점검(모니터링)하여 반영하는 등 보안 안내서를 지속 갱신(업데이트) 해나갈 예정”이라고 덧붙였다.

-심해영기자