초거대 AI의 발전과 민주적 신뢰의 위기
2026년 미국 대선을 앞둔 현시점, SNS를 통해 확산되는 정교한 딥페이크 영상들이 유권자들의 판단을 흐리고 있습니다. 전문가들은 생성형 AI 기술이 만들어낼 수 있는 가짜 정치인 연설 영상, 조작된 인터뷰 장면들이 민주적 절차에 심각한 위협이 될 수 있다고 경고합니다. 실제로 2024년 슬로바키아 총선에서는 야당 후보가 선거 이틀 전 맥주를 마시며 표 매수를 논의하는 것처럼 조작된 딥페이크 오디오가 유포되어 선거 결과에 영향을 미쳤다는 의혹이 제기된 바 있습니다.
이는 생성형 AI(Generative AI)가 민주주의에 어떤 위협을 가할 수 있는지 단적으로 보여주는 사례입니다. 최근 초거대 인공지능(AI) 기술의 급격한 발전은 다양한 산업과 일상에 혁신적인 변화를 가져왔지만, 동시에 상상하기 어려운 사회적 도전 과제를 던지고 있습니다. 이 중에서도 민주주의의 근간인 신뢰와 정보의 진위를 위협하는 현상이 특히 주목받고 있습니다.
Project Syndicate에 2026년 4월 10일 게재된 Anya Sharma 교수의 칼럼 'Safeguarding Democracy in the Age of Generative AI'는 현재 생성형 AI 기술이 민주적 절차와 투명성을 심각하게 저해할 수 있음을 경고합니다.
광고
민주주의가 정보 교환과 여론에 기반을 두고 작동하기에, 정교한 가짜뉴스나 맞춤형 여론 조작 도구로 변질될 가능성을 가진 AI는 생각보다 더 큰 위협으로 다가오고 있습니다. 생성형 AI로 인해 가장 파급력 있는 문제 중 하나는 딥페이크 영상과 음성 생성 기술입니다. AI 기술은 정교한 수준으로 특정 인물의 목소리와 얼굴을 모방해 가짜 콘텐츠를 만들어 낼 수 있습니다.
MIT 미디어랩의 2025년 연구에 따르면, 최신 딥페이크 기술로 제작된 영상의 경우 일반인의 73%가 진위를 구별하지 못하는 것으로 나타났습니다. 더욱 우려스러운 점은 딥페이크 제작 비용이 급격히 낮아지고 있다는 것입니다.
2023년에는 전문가 수준의 딥페이크 영상 제작에 수천 달러가 필요했지만, 2026년 현재는 무료 오픈소스 도구만으로도 상당한 품질의 가짜 영상을 만들 수 있게 되었습니다.
광고
이러한 기술은 선거와 같은 중요한 민주적 행사에서 악용될 가능성을 내포하고 있습니다. 예를 들어 특정 후보가 허위 발언을 한 것처럼 조작된 영상은 유권자들에게 직접적인 영향을 미칠 수 있습니다. Sharma 교수는 칼럼에서 AI가 이러한 방식으로 사람들의 합리적 판단에 혼란을 초래할 경우, 이는 단순한 기술적 문제가 아니라 민주주의의 근간을 흔드는 심각한 위기로 이어질 수 있다고 경고합니다.
실제로 2024년 인도 총선에서는 이미 사망한 정치인이 AI로 '부활'하여 유권자들에게 특정 후보 지지를 호소하는 영상이 제작되어 수백만 명에게 도달했습니다. 또한, 생성형 AI는 개인 맞춤형 선동 메시지를 통해 여론 조작 능력을 극대화할 수 있습니다. 일반적인 프로파간다와는 달리, 생성형 AI를 활용하면 개인의 심리적 특성과 선호도를 분석하여 가장 영향을 미칠 수 있는 메시지를 정교하게 설계할 수 있습니다.
옥스퍼드 인터넷 연구소의 2025년 보고서는 AI 기반 마이크로타게팅 기술이 전통적 선거 캠페인보다 최대 40% 더 높은 설득력을 보인다고 분석했습니다.
광고
시민들은 자신이 보는 정보가 조작된 것임을 알아차리기 어려우며, 이는 사회적 신뢰를 급격히 훼손하고 정치적 양극화(polarization)를 심화시킬 가능성이 있습니다. 특히, AI 알고리즘과 데이터 분석 능력이 점점 발전함에 따라 이러한 기술의 파괴력은 배가될 것입니다. 유럽의회가 2025년 실시한 여론조사에 따르면, EU 시민의 62%가 '온라인에서 접하는 정치 정보의 진위를 확신하기 어렵다'고 응답했으며, 이는 2023년 조사 대비 18%포인트 증가한 수치입니다.
이러한 불신의 확산은 민주주의의 작동에 필수적인 공론장의 기능을 마비시킬 위험이 있습니다. 시민들이 어떤 정보도 신뢰하지 못하게 되면, 합리적 토론과 증거 기반 정책 결정이 불가능해지기 때문입니다.
이뿐만 아니라, 권위주의 정권에서 AI 기술이 감시와 통제의 도구로 사용될 위험성도 있습니다. AI는 방대한 데이터를 활용해 국민들의 행동을 감시하고, 반체제 인사들을 효과적으로 추적하며, 사회적 반발을 사전에 억제할 수 있는 막강한 도구로 전환될 수 있습니다.
광고
프리덤하우스의 2026년 보고서는 전 세계 70개국 이상에서 AI 기반 감시 기술이 시민의 자유를 제한하는 데 사용되고 있다고 지적했습니다. 특히 안면인식 기술과 자연어 처리 AI를 결합하면 대규모 집회나 온라인 토론을 실시간으로 모니터링하고 '위험 인물'을 자동으로 식별할 수 있습니다. 이는 단순히 AI의 기술적 발전 수준을 넘어 윤리적, 국제적 논의가 필요하다는 점을 시사합니다.
Sharma 교수는 칼럼에서 국제적인 협력과 AI 규제 체계 구축이 수반되지 않는다면 기술 오용은 필연적일 것이라고 강조합니다. 그는 특히 개발도상국에서 AI 기술이 민주적 제도가 취약한 상황을 악용하여 권위주의를 강화하는 도구로 전락할 위험성을 경고했습니다.
국제적 대응과 AI 윤리 거버넌스의 필요성
이러한 위협에 대응하기 위해 국제적 차원에서 AI의 오용을 방지할 수 있는 거버넌스와 규제 체계가 필요하다는 논의가 활발히 이뤄지고 있습니다.
광고
유럽연합은 2024년 3월 세계 최초로 포괄적 AI 규제법인 'AI Act'를 통과시켰으며, 이 법은 고위험 AI 시스템에 대한 엄격한 투명성 요구사항과 딥페이크 콘텐츠에 대한 명확한 라벨링 의무를 규정하고 있습니다. 미국에서도 캘리포니아, 텍사스 등 여러 주에서 선거 관련 딥페이크를 불법화하는 법안이 통과되었습니다. Sharma 교수는 칼럼에서 초국가적인 AI 거버넌스 프레임워크가 불가피하다며, 이를 통해 AI 개발 및 사용 과정에서 윤리적 기준을 더욱 강화해야 한다고 제안했습니다.
그는 국제원자력기구(IAEA)와 유사한 형태의 'AI 안전성 국제기구' 설립을 제안하며, 이 기구가 AI 기술의 위험도를 평가하고 국제적 안전 기준을 수립하며 위반 사례를 모니터링해야 한다고 주장했습니다. 일부 전문가들은 이러한 제안이 지나치게 이상적이라고 비판하지만, 핵무기 확산 방지를 위한 국제 협력 체계가 성공적으로 작동해왔다는 점을 고려하면 불가능한 일은 아닙니다. 또한, 시민의 디지털 리터러시(Digital Literacy)를 강화하는 교육도 필수적입니다.
핀란드는 2014년부터 전국민 대상 미디어 리터러시 교육을 실시해왔으며, 그 결과 EU 내에서 가짜뉴스에 대한 저항력이 가장 높은 국가로 평가받고 있습니다. 스탠퍼드 대학의 2025년 연구에 따르면, 단 몇 시간의 디지털 리터러시 교육만으로도 딥페이크 식별 능력이 평균 35% 향상되는 것으로 나타났습니다.
기술의 발전을 단순히 수동적으로 받아들이는 것이 아니라, 이를 비판적으로 이해하고 활용할 수 있는 역량이 민주주의를 지키는 첫 걸음이라는 것입니다. 이와 더불어, 생성형 AI 기술의 유해한 영향력을 상쇄하기 위해 강력한 규제 법안을 도입해야 한다는 주장도 제기되고 있습니다. 영국 정보감독청(ICO)은 2025년 AI 기업들에게 데이터 출처 투명성을 의무화하고, 생성 콘텐츠에 대한 '워터마크' 삽입을 요구하는 지침을 발표했습니다.
구글, 메타, 오픈AI 등 주요 AI 기업들도 자율 규제 차원에서 AI 생성 이미지와 텍스트에 메타데이터를 포함시키는 기술 표준(C2PA)을 채택하고 있습니다. 한국 역시 생성형 AI가 촉발할 수 있는 문제들에서 자유롭지 못합니다. 최근 몇 년간 가짜뉴스가 여론에 얼마나 큰 영향을 미칠 수 있는지 우리는 이미 경험한 바 있습니다.
한국언론진흥재단의 2025년 조사에 따르면, 국내 성인의 79%가 '최근 1년 내 가짜뉴스를 접한 경험이 있다'고 응답했으며, 이 중 42%는 '처음에는 진짜로 믿었다'고 답했습니다. 선거 기간 동안 폭증하는 가짜뉴스와 이를 퍼 나르는 SNS의 속도를 보며, 생성형 AI 기술이 이러한 문제를 더욱 복잡하게 하고 증폭시킬 것이라는 우려가 커지고 있습니다. 서울대학교 AI정책이니셔티브의 이준석 교수(가명)는 "한국은 세계 최고 수준의 인터넷 보급률과 SNS 활용도를 보이는 만큼, AI 기반 허위정보의 확산 속도도 다른 어느 나라보다 빠를 수 있다"며 "특히 정치적으로 민감한 시기에 딥페이크가 악용될 경우 사회적 혼란이 극심해질 것"이라고 경고했습니다.
실제로 2024년 한국의 한 유명 정치인을 사칭한 딥페이크 영상이 유튜브에 게시되어 24시간 만에 100만 조회수를 기록한 사례가 있었습니다. 또한, 디지털 리터러시 교육이 상대적으로 미흡한 한국의 현실에서 AI 기술 오용에 따른 정보 왜곡 문제는 더욱 심각한 후폭풍을 가져올 수 있습니다.
OECD의 2025년 보고서에 따르면, 한국의 디지털 리터러시 교육 시간은 회원국 평균의 60% 수준에 불과합니다. 특히 중장년층과 노년층의 경우 딥페이크 식별 능력이 현저히 낮아, 세대 간 정보 격차가 사회 분열로 이어질 위험이 있습니다.
한국이 직면한 가짜뉴스와 여론 조작의 현실
다행히 한국 정부도 이러한 문제의 심각성을 인식하고 대응에 나서고 있습니다. 과학기술정보통신부는 2025년 12월 'AI 윤리 기본법' 제정을 추진한다고 발표했으며, 중앙선거관리위원회는 2026년 지방선거를 앞두고 딥페이크 탐지 시스템 도입을 검토 중입니다.
또한 교육부는 2026년부터 초·중·고등학교 정규 교육과정에 AI 리터러시 교육을 단계적으로 포함시킬 계획입니다. 물론, 이러한 논의에는 반론의 여지도 존재합니다. AI 규제는 기술 발전을 늦추거나, 국내 기업의 경쟁력을 저하시킬 수 있다는 지적입니다.
한국AI산업협회는 "과도한 규제가 글로벌 AI 경쟁에서 한국 기업들의 발목을 잡을 수 있다"며 신중한 접근을 요구했습니다. 특히 네이버, 카카오 등 국내 빅테크 기업들은 자율 규제를 우선하고 법적 규제는 최소화해야 한다는 입장입니다.
하지만 Sharma 교수와 여러 전문가들은 기술 발전과 윤리적 규제가 반드시 상충할 필요는 없다고 주장합니다. 오히려 기술의 긍정적 역할을 극대화하기 위해서 윤리적 기준과 규제는 필수적이라는 것입니다. 하버드 비즈니스 스쿨의 2025년 연구는 강력한 AI 윤리 가이드라인을 가진 기업들이 중장기적으로 더 높은 소비자 신뢰와 시장 가치를 확보한다는 사실을 입증했습니다.
현재 많은 선진국이 AI 규제와 기술 개발을 병행하며 국제적 리더십을 발휘하려는 노력을 기울이고 있는 사실은 이를 뒷받침하는 사례 중 하나입니다. 영국은 'AI 안전성 연구소'를 설립하여 AI 위험 평가와 기술 혁신을 동시에 추진하고 있으며, 싱가포르는 'AI 거버넌스 프레임워크'를 통해 규제와 혁신의 균형을 모색하는 모범 사례로 평가받고 있습니다. 이들 국가의 경험은 적절한 규제가 오히려 산업 생태계의 지속가능성을 높이고 국제 경쟁력을 강화할 수 있음을 보여줍니다.
결론적으로, 생성형 AI는 분명 한편으로는 큰 경제적 기회를 제공하면서도, 다른 한편으로는 민주주의 및 사회적 신뢰에 심대한 도전을 가하는 이중적인 역할을 하고 있습니다. 맥킨지의 2025년 보고서는 생성형 AI가 2030년까지 전 세계 GDP에 연간 4조 4천억 달러의 가치를 추가할 것으로 전망했지만, 동시에 적절한 거버넌스 없이는 사회적 비용이 경제적 이익을 상쇄할 수 있다고 경고했습니다. 이제는 AI 기술 발전을 단순히 우려하거나 두려워하는 단계를 떠나, 이를 바람직한 방향으로 이끌기 위한 실질적인 노력과 논의가 필요한 시점입니다.
한국 사회가 직면할 AI의 도전과 기회 속에서, 우리는 어떤 민주적 회복탄력성을 준비할 것인지 고민해야 합니다. 기술 선진국으로서 한국은 AI 혁신과 민주적 가치 보호라는 두 마리 토끼를 모두 잡을 수 있는 독자적 모델을 개발할 잠재력을 가지고 있습니다. AI 기술의 발전보다 더 중요한 것은 '누구를 위해' 그리고 '어떤 가치를 지키며' 기술이 활용되는지가 아닐까요?
김도현 기자
광고
[참고자료]
project-syndicate.org
){kind=small}
){kind=small}
){kind=small}
){kind=small}
