최근 스페인 정부는 소셜미디어 플랫폼 X(구 트위터), 메타(페이스북·인스타그램), 틱톡을 대상으로 인공지능(AI)으로 생성된 아동 성착취물 및 성적 딥페이크 이미지의 유통과 확산에 관련한 형사 수사 절차에 착수했다고 발표했다.
이번 조치는 청소년을 겨냥한 ‘가짜 나체 이미지(딥페이크·누디피케이션)’의 피해가 급증하고 있다는 문제의식에 기반하고 있다.
스페인 총리 페드로 산체스는 이 수사가 “아동 및 청소년의 권리와 정신 건강을 보호하는 것은 국가의 책무”라고 강조하며, 기술 플랫폼들이 불법적이고 유해한 콘텐츠가 유통되는 상황에서 면책되는 것을 종식시켜야 한다고 설명했다.
이번 조치는 3개 부처의 기술 보고서를 바탕으로 추진된 것으로 밝혀졌다.
스페인 정부의 결정을 간단히 요약하자면, “AI로 만든 성착취 이미지가 급속도로 퍼지고 있는 이 시대에, 플랫폼도 그에 대한 책임을 져야 한다”는 것이다. 이는 단순한 범죄 처벌을 넘어, 플랫폼의 역할과 책임의 중요성을 강조한다.
AI가 생성하는 아동 성착취물은 기존의 불법 촬영 및 유포보다 더 큰 위험을 내포한다.
특히, 이러한 이미지들은 빠르게 대량으로 생성될 수 있으며 악성 알고리즘의 도움으로 추적이 더욱 어려워진다.
AI는 실제 존재하는 이미지를 수정하여 가짜 이미지로 전환시키고, 미성년자의 얼굴을 합성하여 2차 피해를 발생시킬 수 있다. 최근 스페인에서도 특히 청소년, 특히 소녀들이 이러한 피해를 겪고 있음을 입증하는 사례들이 증가하고 있다.
이번 수사가 주목하는 점은 단순히 “누가 범죄를 저질렀는가”를 넘어서, 플랫폼이 (1) 이러한 유해 콘텐츠 생성과 유포를 방지하기 위한 기술적 조치를 충분히 마련했는지, (2) 신고 및 차단 시스템이 실제로 작동하고 있는지, (3) 미성년자를 보호하기 위한 의무를 다하고 있는지로 수사의 초점이 이동하고 있다는 것이다.
특히, 소셜미디어 플랫폼 X에서 운영되는 AI 챗봇 그록(Grok)이 성적 딥페이크 이미지 생성 문제로 국제적인 주목을 받고 있다는 점도 흥미롭다.
틱톡은 해당 콘텐츠에 대한 엄격한 금지를 선언하며 미성년자 보호를 위한 기술 투자 의지를 강조했다. 반면, X와 메타는 보도 시점 기준으로 즉각적인 공식 입장을 내놓지 않았다.
스페인 정부의 이번 조치는 유럽 전반에서 진행되고 있는 ‘플랫폼 책임 강화’ 흐름과 일치한다. EU의 디지털 서비스 법(DSA) 등은 플랫폼에 불법 및 유해 콘텐츠 대응 의무를 더욱 명확히 하고 있으며, 스페인에서도 16세 미만의 청소년 소셜미디어 이용 제한 같은 안전장치 논의가 병행되고 있다.
향후에는 단순한 단속 활동에서 벗어나 플랫폼이 의무적으로 갖추어야 할 안전장치의 기준이 더욱 높아질 것으로 보인다. 유럽에서 이러한 기준이 강화된다면, 국제 플랫폼들은 국가별로 상이한 대응을 하기 어려워질 것이다.
이 결과로 △AI 생성물의 워터마크 및 출처 표시, △미성년자 보호를 위한 기본적인 설정(비공개 및 메시지 제한 등), △딥페이크 탐지 및 차단 기능, △신고 후 삭제 시간 제한 등의 조치가 “권고”가 아닌 “필수 요건”으로 전환될 가능성이 크다.
스페인 정부의 이번 조치는 아동과 청소년, 그리고 그들의 안전을 위한 중요한 첫걸음으로, 앞으로의 대응이 어떻게 진행될지 지켜보는 것이 중요할 것으로 보인다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
