인간이 질문하면 기계가 답을 내놓던 생성형 인공지능의 시대를 지나, 이제는 스스로 목표를 설정하고 작업을 수행하는 '에이전틱 AI(Agentic AI)'가 전면에 등장하고 있다.
인간이 일일이 지시하지 않아도 시스템이 스스로 도구를 선택해 결과를 도출하는 자율성의 시대가 열린 것이다. 이는 창작과 기획의 문법을 근본적으로 뒤바꾸고 있다.
이제 디자이너와 기획자는 인공지능에게 단순히 그림을 그려달라고 요구하는 작업자를 넘어, 자율적으로 움직이는 기계의 권한을 설계하고 통제하는 시스템 설계자(Architect)의 역할에 직면했다.
스스로 움직이는 기계, 커지는 보안의 빈틈
에이전틱 AI가 가져다주는 극단적인 효율성 이면에는 필연적으로 새로운 보안 취약점이 자리 잡고 있다. 인공지능이 인간의 개입 없이 외부 시스템에 접속해 코드를 실행하거나 데이터를 조작할 수 있다는 것은, 자칫 오작동이나 해킹이 발생했을 때 그 피해가 인간의 통제 속도를 넘어 걷잡을 수 없이 확산될 수 있음을 의미한다.
이러한 위협에 대응하기 위해 한국인터넷진흥원(KISA)은 2026년 5월, 120억 원 규모의 지원 사업을 발표하며 '제로 트러스트(Zero Trust)' 기반의 대응 체계 구축에 나섰다.
마이크로소프트와 시스코 등 글로벌 빅테크 기업들 역시 자사의 보안 솔루션에 기계 에이전트의 접근 권한을 쪼개고 지속적으로 검증하는 체계를 속속 도입하고 있다. 기계의 자율성이 커질수록, 역설적으로 이를 제어하기 위한 엄격한 권한 설계가 산업의 최우선 과제로 떠오른 것이다.
권한 통제의 핵심, '시한부 출입증'과 '맞춤형 열쇠'
이러한 흐름 속에서 디자이너가 갖춰야 할 핵심 기술은 단일 결과물을 뽑아내는 능력이 아니라, 시스템의 안전한 경계를 설정하는 감각이다. 여기서 기준이 되는 것이 '아무도 믿지 않고 모든 접근을 실시간으로 검증한다'는 제로 트러스트 원칙이다.
글로벌 보안 체계는 이를 실무에 적용하기 위해 'JIT(Just-In-Time)'와 'JEA(Just-Enough-Access)'라는 엄격한 잣대를 도입하고 있다.
이것은 복잡한 기술 용어가 아니라, 일종의 '시한부 출입증'과 '맞춤형 열쇠'에 가깝다. 디자이너는 자신이 부리는 인공지능 에이전트가 회사의 핵심 데이터에 접근할 때, 작업이 '필요한 그 순간에만(JIT)' 문을 열어주고 전체 서버가 아닌 딱 '필요한 폴더만 열어볼 수 있는 최소한의 권한(JEA)'을 부여해야 한다. 기계에게 24시간 열려 있는 만능열쇠를 쥐여주는 순간 치명적인 보안의 구멍이 발생하기 때문이다.
더불어 기획 초기 단계부터 이러한 권한 통제를 설계 도면에 포함하는 '시큐어 바이 디자인(Secure by Design)' 접근이 요구된다.
인공지능이 부여받은 권한을 넘어 비정상적인 행동을 하지 못하도록 시스템 내부에 안전 울타리를 다중으로 치는 능력이 2026년 창작 생태계의 필수 역량으로 자리 잡았다.
자율성을 완성하는 투명한 추적과 인간의 감시
에이전틱 AI가 실무에 깊숙이 들어올수록 가장 든든한 최후의 방어선은 결국 투명한 감사(Audit) 체계와 인간의 감시(Human Oversight)다.
기계가 혼자서 어떤 데이터를 참조하고 무슨 근거로 특정 결정을 내렸는지, 그 모든 과정을 낱낱이 역추적할 수 있는 '작업 일지'가 시스템 내부에 꼼꼼히 기록되어야만 비로소 신뢰를 담보할 수 있다.
기계가 수만 개의 데이터를 분석해 최적의 디자인 시안을 도출하더라도, 최종 승인 버튼을 누르고 윤리적 오류를 검증하는 책임은 온전히 인간 디자이너의 몫으로 남는다.
결국 에이전틱 AI는 인간 디자이너를 대체하는 위협이 아니다. 오히려 단순 작업과 1차적인 의사결정을 자동화하고, 인간은 전체의 방향을 설정하며 기계를 감독하는 지휘관으로 그 역할을 격상시킨다.
기계의 자율성이 극대화되는 기술 과잉의 시대, 디자이너의 진정한 생존 경쟁력은 '얼마나 매끈한 결과물을 만들어내느냐'가 아니라 '내 밑에서 일하는 인공지능 에이전트를 얼마나 정교하게 통제하고 추적할 수 있느냐'에 달려 있다.
[전문 용어 사전]
▪️에이전틱 AI (Agentic AI): 인간의 지시를 기다리지 않고 스스로 목표를 설정해 도구를 선택하고 연산하며 실행까지 완수하는 자율형 인공지능.
▪️제로 트러스트 (Zero Trust): 내부와 외부를 막론하고 어떠한 접근도 신뢰하지 않으며, 모든 권한과 접속을 지속적으로 검증하는 보안 원칙.
▪️JIT / JEA: 특정 작업이 '필요한 순간에만(Just-In-Time)', '필요한 최소한의 권한만(Just-Enough-Access)' 부여하여 시스템 접근을 통제하는 관리 방식.
▪️감사 (Audit): AI 에이전트가 수행한 작업 로그와 의사결정 과정을 모두 기록하여, 문제 발생 시 원인을 역추적하고 검증할 수 있도록 하는 추적 체계.
[핵심 참고 자료]
Microsoft Security 공식 문서: 자율 에이전트 AI 시스템 보호 가이드
한국인터넷진흥원(KISA): 인공지능(AI) 보안 안내서
){kind=small}
){kind=small}
){kind=small}
){kind=small}
