'챗GPT가 안다'는 환상, 언어가 만든 책임의 진공 상태
"인공지능이 내 질문의 의도를 완벽하게 이해했다." 이처럼 우리가 무심코 사용하는 정신 동사는 기계 뒤에 있는 개발자와 기업의 책임을 지워버리는 강력한 환상이다. 기계에게 마음을 부여하는 순간, 단순한 연산 프로그램은 스스로 판단하고 결정 내리는 지적 존재로 둔갑한다.
우리는 사무실의 엑셀 프로그램이나 계산기에는 인지적 능력을 투사하지 않지만, 대화형 인터페이스를 갖춘 기술에게는 기꺼이 '안다'거나 '이해한다'는 표현을 쓴다. 무해해 보이는 이 일상적인 언어 습관은 기술의 실제 한계를 가리고, 우리 스스로 비판적 판단력을 흐리게 만드는 위험한 출발점이다.
200억 단어의 팩트, 뉴스룸의 절제와 엇갈린 대중의 인식
미국 아이오와 주립대 연구팀이 국제 학술지 '테크니컬 커뮤니케이션 쿼털리'에 발표한 논문은 이러한 언어적 습관의 실체를 구체적인 수치로 증명했다. 연구진이 20개국 영어권 기사 200억 단어 이상을 수집한 코퍼스 데이터를 분석한 결과, 실제 언론 보도에서 기술에 대한 의인화는 우려만큼 빈번하지 않았다.
해당 기술을 주어로 했을 때 가장 많이 쓰인 동사는 단순 기능적 요구를 뜻하는 '필요로 하다'로 661회 등장했으며, '안다'는 32회에 그쳤다. 이는 유력 통신사가 인공지능 시스템에 인간적 특성이나 성별화된 대명사를 부여하지 말라고 명시한 엄격한 편집 가이드라인을 일선 언론들이 성실히 준수하고 있기 때문이다.
결국 기술의 능력을 오해하게 만드는 주된 진원지는 정제된 저널리즘이 아니라, 기계를 친근한 대상으로 포장하려는 상업적 마케팅과 이에 쉽게 동조하는 대중의 언어 습관에 있다.
기계는 스스로 생각하지 않는다, 통계 시스템의 구조적 한계
대형언어모델을 비롯한 현대의 첨단 기술은 방대한 데이터 속에서 패턴을 확률적으로 분석해 가장 적절한 출력값을 내놓는 통계 시스템일 뿐이다. 기계는 스스로 어떠한 신념이나 감정, 의도를 갖지 않으며 철저히 수학적 규칙에 따라 연산을 수행한다.
그러나 언어라는 옷을 입히는 순간, 이 차가운 연산 도구는 마치 자아를 가진 행위자처럼 사회적 지위가 상승한다. 연구팀은 기계에 인지적 능력을 묘사하는 단어를 결합할 경우, 대중은 그 시스템이 독자적이고 자율적인 결정을 내릴 수 있다고 오판하여 기술에 과도한 신뢰를 보내게 된다고 경고한다.
우리가 굳이 기계를 인간의 모습에 빗대려는 이유는 기술 자체가 사람을 닮아서가 아니다. 통제 가능하면서도 상호작용이 가능한 대상에게 기꺼이 마음을 투사하고자 하는 인간 본연의 심리적 기제가 작동한 결과다.
문장의 주어를 빼앗긴 시대, 은폐되는 기술 설계자의 책임
이 현상이 품고 있는 가장 치명적인 위험은 기술적 오해를 넘어선 책임 희석에 있다. "기계가 거짓 정보를 만들어냈다"거나 "알고리즘이 차별적인 이미지를 생성했다"고 말할 때, 문장의 주어는 언제나 기술 그 자체가 된다.
하지만 주어 자리에 시스템이 들어앉는 순간, 불완전한 데이터를 무비판적으로 학습시키고 상업적 이윤을 위해 안전장치를 섣불리 타협한 인간 개발자와 거대 기업은 문장의 배후로 안전하게 숨어버린다. 기계에게 스스로 선택할 수 있는 의도가 있는 것처럼 서술할수록, 시스템의 구조적 결함은 마치 통제할 수 없는 개인의 우발적 실수처럼 가볍게 취급받는다.
기술이 실수했다고 선언하는 순간, 우리는 정작 책임을 추궁받아야 할 권력과 조직에게 완벽한 알리바이를 쥐여주고 있는 것이다.
질문하고 책임지는 것은 인간의 몫, 주체를 되찾는 언어 습관
고도화된 기술 시대를 주체적으로 살아가는 가장 강력한 무기는 단지 새로운 기기를 능숙하게 다루는 기능적 요령이 아니다. 진정한 대응은 우리가 매일 사용하는 문장의 주어를 철저히 통제하고 제자리로 돌려놓는 일이다.
"기계가 이 글을 썼다"가 아니라 "내가 기계를 도구로 활용해 이 글을 생성했다"로 우리의 인식 체계를 명확히 교정해야 한다.
기계는 단 한 줄의 문장도 스스로 이해하거나 의도를 품지 못한다. 도구를 향해 목적이 담긴 질문을 던지고, 도출된 결과물의 사회적 의미를 해석하며, 그로 인해 파생될 수 있는 모든 결과에 온전히 책임을 지는 주체는 언제나 인간이어야 한다.
기술의 사회적 침투력이 강해질수록 우리는 기계의 환상에 시선을 빼앗기지 않고, 더 정확하고 냉철한 인간 중심의 언어를 구사해야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
