개정 개인정보보호법이 지난 9월 11일부로 본격적인 시행에 들어가면서 기업체가 짊어져야 할 데이터 관리 책임이 대폭 무거워졌다.
중대하거나 반복해서 발생하는 개인정보 유출 사고에 대한 과징금 부과 상한선이 대폭 인상된 것은 물론, 경영진과 개인정보보호책임자(CPO)의 법적 책무까지 명확히 규정됐다. 특히 최근 기업 현장에서 생성형 인공지능(AI) 도입이 급격히 늘어남에 따라, AI 서비스 활용 과정에서 오가는 민감한 정보들을 어떻게 안전하게 보호할 것인가가 핵심 과제로 부상했다.
이 같은 상황에서 AI 정보보안 전문기업 에이아이딥(AIDEEP)이 생성형 AI 환경에서 발생하는 대표적인 4대 보안 위협 요인을 분석하고 종합적인 대안을 내놓았다.
LLM(대형언어모델) 및 RAG(검색증강생성) 기술에 기반한 AI 시스템은 기존의 전통적인 정보보호 체계로는 막아내기 힘든 독자적인 취약점을 안고 있다. 에이아이딥이 제시한 4대 핵심 위협은 △무권한 자의 기밀 정보 조회 △질문·첨부파일·답변을 통한 개인 및 민감정보 노출 △조작된 프롬프트를 활용한 보안망 무력화 △사고 발생 시 원인 규명의 어려움 등이다.
실제로 접근 권한이 없는 내부 보안 문서가 AI 검색 기능을 거쳐 외부나 타인에게 노출되거나, 이용자가 입력한 질문과 첨부 문서, AI의 생성 결과물을 통해 중요 정보가 외부로 흘러나가는 사례가 빈번하다. 아울러 악의적으로 교란된 프롬프트 주입(Prompt Injection) 공격으로 시스템 제어권을 탈취하려는 시도가 지속되고 있으며, 답변 생성 과정이 복잡해 사고 발생 시 정확한 경로 파악에 한계가 존재한다.
민성현 에이아이딥 AI 기술 컨설팅팀장은 AI 보안 구축 시 단지 최종 출력물만 검증하는 방식으로는 한계가 명확하다고 지적했다. 질문 내용과 첨부 문서, 참조 데이터베이스, 사용자별 접근 권한, 운용 이력 등 AI가 처리하는 전 과정을 통합적으로 관리해야만 실효성을 거둘 수 있다는 설명이다.
이러한 위협 요소에 대응하기 위해 에이아이딥은 생성형 AI 전용 통합 보안 플랫폼인 ‘딥젠가드(DeepGenGuard)’를 선보였다. 이 솔루션은 데이터 입력 단계부터 최종 출력에 이르기까지 전 과정을 실시간으로 보호하는 양방향 안전망을 제공한다.
딥젠가드는 프롬프트와 첨부 파일, 생성된 답변 내에 포함된 개인정보 및 민감 데이터를 자동으로 식별해 마스킹 처리와 비식별화, 출력 차단 기능을 수행한다. 또한 입력되는 질문의 의도를 실시간으로 해석해 프롬프트 주입 등 악의적인 우회 공격이 AI 모델에 도달하기 전 단계에서 선제 차단한다. 역활 기반 접근 제어(RBAC)와 보안 등급 체계를 적용해 Vector DB 접근 권한을 세분화함으로써, 정당한 권한을 부여받은 문서만 AI 검색과 답변 생성에 활용되도록 통제한다.
데이터 신뢰성 확보를 위한 기능도 갖췄다. 데이터 오염(Data Poisoning) 행위를 탐지해 격리 조치하며, 소프트웨어 자재명세서(SBOM) 기반으로 AI 모델과 학습 데이터의 출처 및 변경 이력을 체계적으로 관리한다. 질의, 검색, 답변, 출력 등 전 과정의 보안 로그를 추적 기록하고, 이상 징후 탐지 현황을 통합 대시보드로 가시화한다.
이 같은 전주기 보안 체계는 개정 법률이 요구하는 안전성 확보 조치 기준과 부합한다. 개인정보보호위원회의 과징금 투자 감경제도 안내서에 따르면, 체계적인 접근 권한 관리, 접속 기록 보관 및 이상 행위 탐지, SBOM 확보·관리 등은 법적 최소 기준을 상회하는 추가적 안전조치 우수 사례로 명시되어 있다.
민 팀장은 AI 활용 범위가 넓어질수록 검증된 데이터와 정통성 있는 구성 요소만 운영 환경에 투입하는 체계가 필수적이라고 강조하며, 딥젠가드를 통해 기업과 기관이 보안 리스크 없이 AI의 생산성을 누릴 수 있도록 적극 지원할 것이라고 밝혔다.
한편 케이사인의 자회사인 에이아이딥은 2013년 설립 이후 간편인증 및 모바일 보안 솔루션, 블록체인 기반 분산인증, 대용량 데이터베이스 보안 등 다채로운 보안 기술을 개발해 온 전문기업이다. 금융, 공공, 기업, 교육 기관 등을 대상으로 맞춤형 IT 보안 인프라를 구축하며 기술력을 인정받고 있다. 모회사인 케이사인 역시 1999년 설립 이래 PKI, 데이터 암호화, 통합 인증 분야에서 독보적인 역량을 축적해 온 정보보안 전문기업으로, 최근 AI 보안 및 양자내성암호(PQC) 등 미래형 보안 분야로 사업 영역을 확장해 나가고 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
