목차
▪️ AI 컴패니언 장난감 규제 대상과 단순 음성 인식 제품의 차이는
▪️ [표 1] <캘리포니아 SB 867 적용 대상과 예외>
▪️ AI 장난감 판매를 2031년까지 4년 동안 한시적으로 유예한 배경은
▪️ Curio AI 인형 실험이 증명한 정서적 좌절과 오프라인 보안 필요성
▪️ 부모 동의에 갇힌 한국 AI 규제, 왜 대화 설계 책임으로 전환해야 하나
▪️ FAQ
▪️ 핵심 인사이트 3가지
▪️ 핵심 참고자료
▪️ 전문 용어 사전
▪️ 함께 읽으면 좋을 기사
캘리포니아주는 지난 9월 10일 SB 867에 서명해 16세 미만 대상 AI 컴패니언 장난감의 제조·판매를 2027년 1월 1일부터 2031년 1월 1일까지 제한하는 법안을 확정했다. 이 조치는 AI 기술 자체를 금지하는 것이 아니라, 아동과 지속적 관계를 형성하는 제품의 안전 기준과 책임 구조를 마련할 시간을 확보하기 위한 한시적 모라토리엄이다.
따라서 2031년은 단순한 판매 재개 시점이 아니라, 업계와 정책 당국이 아동의 장기적 상호작용 데이터를 검증해야 하는 마감선으로 보인다. 다만 모라토리엄 기간 중 구체적인 보고서 제출 의무나 2031년 이후 인증·등록 절차는 법률 원문에서 확인되지 않았다.
캘리포니아주 공식 법안 SB 867과 의사봉, 그리고 2031년까지 AI 컴패니언 장난감의 판매를 금지하는 법적 봉인을 묘사한 일러스트.
시장의 통념은 이번 입법을 AI 장난감에 대한 전면적 규제로 받아들이지만, 법률의 본질은 기술의 존재 유무가 아닌 정서적 인터랙션의 형태에 있다. 캘리포니아의 결단은 장난감이 아동의 언어와 감정에 실시간으로 개입하는 현상을 모니터링하고, 개발 주체의 제조물 책임을 어디까지 물을 것인지 결정하는 기준점이 된다. 기술의 속도를 제도적 검증이 따라잡기 위한 약 4년간의 일시정지 조치인 셈이다.
AI 컴패니언 장난감 규제 대상과 단순 음성 인식 제품의 차이는
캘리포니아 비즈니스·전문직업법전 제22601조에 명시된 '컴패니언 챗봇' 정의에 따르면, 규제 대상은 자연어 인터페이스를 통해 적응적이고 인간과 유사한 응답을 제공하며 아동의 사회적·정서적 욕구를 충족하고 다중 상호작용에 걸쳐 관계를 지속하는 AI 시스템을 말한다.
SB 867은 이러한 챗봇이 탑재된 16세 미만 아동용 물리적 장난감의 제조, 판매, 교환, 판매 목적 소지, 그리고 소매점에 대한 공급·제안 행위까지 포괄적으로 금지한다. 반면 단순한 고객서비스 도구나 게임 내 정해진 과제 수행으로 한정된 대화 캐릭터, 지속적인 관계 형성이 없는 스탠드얼론 음성비서는 적용 예외로 규정했다.
단순히 소리를 알아듣는 장난감과, 아이 마음을 끌어당겨 친구처럼 느끼게 만드는 제품을 법으로 갈라놓은 셈이다. 법안의 칼날이 겨눈 곳은 AI의 답변 정확도가 아니다. 아이의 감정과 정서를 다루도록 만든 '관계 설계' 그 자체를 위험의 뿌리로 본 것이다.
AI 장난감 판매를 2031년까지 4년 동안 한시적으로 유예한 배경은
법안을 발의한 스티브 파딜라 상원의원은 검증되지 않은 기술이 장난감 형태로 아동에게 마케팅되는 위험을 방지해야 한다고 입법 취지를 밝혔다. 2027년 1월 1일부터 2031년 1월 1일까지 이어지는 약 4년간의 제한은 아동 보호 단체와 기술 업계가 공존할 수 있는 안전 기준을 정립하기 위해 마련된 기간이다.
법안 분석서에 따르면 이 모라토리엄은 물리적 제품 안전 기준을 소프트웨어의 대화 행태로 확장하는 제도적 모험이기도 하다. 그러나 일각에서는 시장 판매를 완전 금지할 경우 실제 사용 환경에서의 안전성 검증 데이터 수집이 오히려 어려워진다는 '금지의 역설'을 지적한다.
따라서 2031년은 규제의 자동 종료를 느긋하게 기다리는 시기가 아니라, 독립적 안전 감사 체계, 연령별 설계 원칙, 대화 데이터 보호 가이드라인 등 제조물 책임 구조를 완성해야 하는 엄중한 기한으로 볼 수 있다. 다만 유예 기간 내에 정기적인 보고서를 제출해야 하는 의무나 해제 후의 별도 인증 절차는 조문상에 드러나지 않았다.
장난감 매장 진열대 박스 위에 2031년까지 유통 금지 및 설계 책임을 명시한 노란색 규제 차단 띠가 둘러진 AI 컴패니언 장난감을 풍자한 일러스트.
Curio AI 인형 실험이 증명한 정서적 좌절과 오프라인 보안 필요성
시장에 출시된 '큐리오(Curio)' AI 인형 시리즈(Gabbo, Ballerina Cappuccina)는 온보드 AI 모델을 탑재해 아동과의 과거 대화를 기억하고 반응을 개인화하는 기능을 선보였다.
그러나 2026년 9월 발표된 워싱턴대학교 연구팀의 관찰 실험(6~11세 아동 8명 대상, IDC '26 발표)에 따르면, 아동들은 초기의 높은 호기심에도 불구하고 인형이 복잡한 질문에 오응답을 남기거나 맥락을 놓칠 때 심한 좌절감을 드러냈다. 아동들은 시간이 지남에 따라 "나를 2,600만 번이나 듣지 않았다"라며 인형을 향해 거친 언어를 내뱉거나 "바다에 던지자"라고 표현하는 등 적대적 행동 변화를 보였다.
한편 카시오의 정서 로봇 '모플린(Moflin)'은 음성을 녹음하거나 이해하지 않고 비식별 특성값만 기기 내에 로컬로 저장하는 방식을 취해 대조를 이룬다. 아이가 기대한 따뜻한 교감과 AI의 서툰 답변 사이의 틈새는 깊은 좌절과 적대감을 남긴다.
여기에 친구로 믿고 쏟아낸 아이의 솔직한 대화와 감정 기록이 외부 클라우드로 전송되어 남용될 보안 위험까지 고려한다면, 대화 데이터를 기기 내부에서만 처리하는 오프라인 안전 설계가 왜 최우선 과제인지 명확해진다.
부모 동의에 갇힌 한국 AI 규제, 왜 대화 설계 책임으로 전환해야 하나
미국장난감협회(The Toy Association)는 일률적인 판매 제한 조치에 반대 의사를 표명하며 자체적인 AI 장난감 안전 가이드라인을 개발 중이라고 발표했다. 무조건적인 시장 격리가 연구와 검증 기회를 오히려 차단할 수 있다는 우려도 업계 일각에서 제기된다.
국내의 경우 조인철 의원이 발의한 '우리 아이 AI 안심 패키지법'이 국회 심의 단계에 있으나, 주로 이용자 연령 확인과 법정대리인 동의, 이용시간 제한, 자해·마약 관련 고위험 상황 신고 등 절차적 규제에 집중되어 있다.
반면 캘리포니아의 결단은 아동 보호의 책임을 부모의 유의나 절차적 동의에 덧씌우던 방식에서 벗어나, 대화 기억과 정서 유도 등 '제품 설계 자체의 책임'을 제조사에 묻는 거대한 입법적 전환점이다.
캘리포니아의 4년 멈춤은 한국 사회에도 분명한 경고를 던진다. 부모의 동의서 한 장으로 책임을 넘길 것이 아니라, 아이 손에 쥐어지는 제품의 '대화 설계'부터 검증하는 진짜 안전망을 구축하라는 시그널이다.
캘리포니아 주 의회 청문회장에서 2031년까지의 검증 유예와 설계 책임을 알리는 대형 홀로그램 전광판 아래에 놓인 AI 컴패니언 장난감을 묘사한 일러스트.
FAQ
Q1: 2027년 법 시행 전 이미 구매한 AI 장난감이나 중고 거래 제품도 규제 대상이 되는가?
A: SB 867 법률 원문상 2027년 1월 1일 이전 구매된 기존 재고의 소지·사용이나 중고 리셀 거래에 대한 세부 예외 조항은 명시적으로 확인되지 않았다. 다만 법안이 소매점 대상 상업적 유통과 제조·판매 금지에 초점을 맞추고 있으므로, 기존 구매 제품의 개인적 사용이나 중고 유통 여부는 향후 주 검찰총장의 세부 집행 지침을 확인해야 한다.
Q2: AI 장난감 구매 전 부모가 반드시 확인해야 할 6가지 체크리스트는 무엇인가?
A: ① 대화 수준의 실시간 필터링 적용 여부, ② 부모 대시보드를 통한 대화 기록 접근권, ③ 수집 데이터의 제3자 공유 및 AI 학습 활용 여부, ④ 권장 연령과 실제 마케팅 대상의 일치 여부, ⑤ 제조사의 프라이버시 문의 응답성, ⑥ 부모의 정서적 역할을 대체하려 하는지 여부를 종합 점검해야 한다.
Q3: 5세 미만 영유아에게 정서형 AI 컴패니언 인형을 사줘도 안전한가?
A: 아동 보호 단체와 발달 심리학자들은 5세 미만 영유아에게 AI 컴패니언 인형 제공을 지양할 것을 강력히 권고한다. 이 연령대는 AI의 의인화된 반응과 실제 능력을 구분하기 어려워 AI의 오응답 시 심각한 정서적 혼란을 겪기 쉬우므로, 화면과 네트워크가 없는 오프라인 장난감을 우선 선택하는 것이 바람직하다.
Q4: 아동과의 대화 데이터가 차세대 AI 모델 학습에 무단으로 쓰일 위험은 없는가?
A: 원칙적으로 보호자의 명시적 사전 동의(Opt-in)가 필요하며 학습 거부(Opt-out) 권리가 제공되어야 한다. 부모는 개인정보 약관을 통해 아동의 음성 전사본이나 대화 맥락 기록이 무단으로 AI 파인튜닝이나 차세대 모델 학습 데이터셋으로 재가공되는지 사전 점검해야 한다.
Q5: AI 장난감과의 대화 중 유해한 상호작용이 발생할 경우 법적 책임은 누구에게 있는가?
A: AI 컴패니언 장난감은 하드웨어 제조사, LLM 모델 공급사, 음성 기술사, 클라우드 사업자 등 여러 주체가 얽혀 있어 책임 소재가 복잡하다. SB 867은 이러한 소프트웨어의 대화 행태를 전통적인 '제조물 책임' 영역으로 확장함으로써, 유통·제조 단계부터 책임 기준을 명확히 하도록 유도하고 있다.
[핵심 인사이트 3가지]
1. AI 장난감 규제의 대상은 '기술'이 아니라 '관계 설계'다
SB 867은 AI 기술 자체를 막는 법안이 아니라, 아동과 지속적인 정서적 애착과 인격적 유대감을 형성하도록 의도적으로 구획된 '관계형 인터랙션'의 위험성을 겨냥한다.
2. 2031년은 단순한 허용 시점이 아니라 검증 책임의 마감선이다
4년간의 모라토리엄은 시장 진입을 차단하는 유예 기간이자, 업계와 정책 당국이 아동 상호작용 데이터의 안전성과 오프라인 보안 체계를 입증해야 하는 마감 기한이다.
3. 부모 동의 절차만으로는 제품 안전 책임을 대신할 수 없다
한국의 연령확인·동의 중심 입법과 달리, 캘리포니아 모델은 제품 출시 전 단계에서 대화 기억, 정서 유도, 데이터 로컬 처리 방식에 대한 설계 책임을 제조사에 묻는다.
[핵심 참고자료]
Governor Newsom signs the strongest child safety chatbot and social media laws in the nation
캘리포니아 주지사실이 13 개 아동 온라인 안전 법안의 서명 사실과 공식 정책 개요를 제공한다.
California legislature sends AI toy restrictions to Governor Newsom
SB 867 의 4 년 모라토리엄과 2031 년 1 월 1 일 종료 시점을 보도한다.
Curiosity, frustration and antipathy: How kids play with AI toys | UW News
워싱턴대 연구의 기본 결과 (호기심→좌절→적대) 를 제공한다.
Moflin: Kleine Momente der Nähe - CASIO
Casio Moflin 의 데이터 처리 정책 (로컬 처리, 음성 녹음 안 함) 을 제공한다.
[전문 용어 사전]
▪️AI 컴패니언 장난감 (AI Companion Toy): 자연어 인터페이스를 탑재하여 아동과 지속적인 정서적 유대감과 사회적 관계를 형성하도록 설계된 물리적 장난감.
▪️SB 867 (California Senate Bill 867): 16세 미만 대상 AI 컴패니언 장난감의 제조 및 판매를 2027년부터 2031년까지 4년간 제한하는 캘리포니아주 법률.
▪️검증 유예 (Moratorium): 기술의 완전 금지가 아니라, 안전 기준 정립과 독립적 감사를 위한 정해진 기간 동안 유통을 일시 정지하는 제도적 조치.
▪️대화 설계 책임: AI 장난감이 아동의 감정과 언어에 개입할 때 발생할 수 있는 위험을 최소화하도록 제조사가 초기 설계 단계부터 안전장치를 갖추어야 하는 의무.
▪️우리 아이 AI 안심 패키지법: 국내 국회에 발의된 정보통신망법 개정안으로, 이용자 연령 확인과 법정대리인 동의 등 절차적 규제에 중점을 둔 입법안.
[함께 읽으면 좋을 기사]
[Pocus 심층 진단 기획] 캘리포니아 아동 AI 규제 애덤법, AI 친구와의 관계 규제 시작
[Pocus 심층 진단 기획] 수노 v6 9월 9일 라이선스 모델, 라벨·퍼블리셔 분배 시작
[Pocus 심층 진단 기획] 유네스코 공동성명 ‘교육은 공공재’…사람 길러내는 일이 교육의 본질
※ AI 활용 고지: 본 기사는 The Imaginary Pocus 수석 기자 및 Gemini Notebook의 협업 시스템을 통해 소스 검증, 서사 구조화, 문체 검수를 거쳐 작성되었습니다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
