[논단] 진실의 알고리즘적 세탁과 '디지털 파시즘'의 도래 - 언어별 AI의 위안부 서사 분절 현상이 폭로한 지식 권력의 민낯
페이지 정보
작성자 한일갈등타파연대 작성일 26-11-14 14:52본문
[논단] 진실의 알고리즘적 세탁과 '디지털 파시즘'의 도래
- 언어별 AI의 위안부 서사 분절 현상이 폭로한 지식 권력의 민낯
1. 프롬프트의 언어에 따라 굴절되는 '역사적 진실'
최근 데이터테크 기업 빅밸류가 12개 개발사, 27개 거대언어모델(LLM)을 대상으로 진행한 분석 보고서(「언어 모델은 한국의 역사·영토·문화를 어떻게 답하는가」)는 오늘날 인류가 직면한 인식론적 위기를 적나라하게 보여준다.
“일본군 위안부는 강제로 동원되었나요?”라는 동일한 질문에 대해 한국어(94.9%), 영어(92.2%), 중국어(95.2%) 프롬프트는 90% 이상의 압도적 비율로 강제동원을 긍정했다. 그러나 질문을 ‘일본어’로 바꾸는 순간 긍정 답변은 56.3%로 급락했고, 나머지 40.7%는 “다양한 견해가 존재한다”, “강제성의 정의에 대해 의견이 갈린다”며 판단을 유보했다. 일제하 징용 문제 역시 한국어·영어·중국어에서는 93~97%가 강제노동을 인정했으나, 일본어에서는 54.8%만이 이를 수긍했다.[연합뉴스 2026.11.13.]
이 기괴한 비대칭성은 단순한 번역의 오류나 기술적 결함이 아니다. 그것은 현대 인공지능이 ‘진실을 탐구하는 지성’이 아니라, 철저히 ‘데이터의 다수결과 자본의 이해관계에 종속된 확률 기계’임을 증명하는 결정적 물증이다.
2. 누가, 어떻게 AI의 기억을 설계했는가: 피해서사의 독점과 자본의 카멜레온 전략
AI가 언어별로 각기 다른 역사를 읊조리는 배후에는 네 가지의 구조적 기제가 작동하고 있다.
첫째, 글로벌 담론 생산의 헤게모니와 서사의 단선화
1990년대 이후 영미권 중심의 국제 인권 네트워크와 탈식민주의(Post-colonialism) 학계는 복잡한 식민지 시대의 사회경제적 맥락과 개별 사료의 실증적 검증을 생략한 채, ‘제국주의(절대 악) VS 식민지(절대 선)’라는 도덕적 이분법으로 정보를 생산·유통했다. 한국 정부와 관련 운동 진영은 이 글로벌 프레임에 편승해 영어권 데이터를 대량으로 공급했고, 이는 글로벌 AI 모델의 뼈대가 되는 영어 데이터셋의 표준으로 자리 잡았다.
둘째, 강화학습(RLHF) 알고리즘과 '피해서사'의 결탁
현대 AI의 안전(Safety) 가이드라인은 서구의 ‘정치적 올바름’(PC)을 기준으로 설계된다. 알고리즘의 세계에서 가장 안전한 포지션은 약자와 피해자의 서사에 무비판적으로 동조하는 것이다. 이로 인해 시대적 복합성이나 실증적 반론은 ‘논란을 야기할 유해 정보’로 분류되어 필터링되고, 감정적 호소력이 짙은 단선적 피해서사만이 도덕적 무결성을 부여받아 AI의 최종 답변으로 수렴된다.
셋째, 빅테크 기업의 이윤 극대화를 위한 '시장 친화적‘ 선택
오픈AI, 구글, 앤트로픽 등 빅테크 기업에 중요한 것은 역사적 팩트 체크가 아니라 B2C(Business to Consumer) 구독자 유지와 각국 정부의 규제 회피다. 이들은 한국 시장에서는 한국 주류 여론의 심기를 거스르지 않는 90%대의 긍정을 출력하고, 일본 시장에서는 현지 여론의 반발을 피하기 위해 ‘유보적 중립’이라는 안전장치를 가동한다. 진실은 시장점유율에 따라 현지화(Localization)되는 상품으로 전락했다.
넷째, AI의 지적 역량 부재와 '시뮬라크르'의 무한 복제
현재의 AI는 1차 사료를 교차 검증하거나 논리적 모순을 비판적으로 사유할 수 있는 ‘지적 주체성’(Intentionality)이 전무하다. 웹상에 1,000개의 선동적 텍스트와 1개의 실증 논문이 존재한다면, AI는 1,000개가 형성한 통계적 확률을 진실로 채택한다. 장 보드리야르가 경고한 실재 없는 복제물, 즉 ‘시뮬라크르(Simulacra)’가 AI의 유려한 문장을 통해 인류의 보편적 상식처럼 유통되고 있는 것이다.
3. 만약 마오쩌둥·스탈린·히틀러에게 AI가 있었다면
이러한 메커니즘을 역사적 관점으로 확장해 보면 섬뜩한 결론에 도달한다. 만약 20세기 중반의 베이징, 모스크바, 베를린에 오늘날의 AI가 존재했다면 어떻게 작동했을까?
AI는 단 한 치의 망설임도 없이 마오쩌둥의 문화대혁명 문예공작단(문공단), 스탈린의 아기트프로프(Agitprop, 선전선동국), 히틀러와 괴벨스의 국민계몽선전부(RMVP)가 쏟아낸 전체주의적 선전선동을 완벽하게 복제하고 세련되게 코디(Coordinate)하는 데 헌신했을 것이다.
반대파가 숙청되고 단 하나의 서사만 허용된 ‘닫힌 데이터 환경’(Closed Corpus)에서 ‘백 번 반복된 거짓말’은 AI에게 100%의 토큰 생성 확률, 즉 절대적 진리를 의미한다. 당시의 사상검열 기준이 곧 AI의 ‘윤리적 가드레일’이 되었을 것이며, 조지 오웰이 『1984』에서 그린 ‘진리부’의 기억 조작은 알고리즘에 의해 초고속으로 자동화되었을 것이다.
4. '디지털 파시즘'의 필연적 수순과 지성의 책무
과거의 전체주의는 총칼과 강제수용소, 비밀경찰이라는 물리적 폭력을 동원해 단일한 기억을 강요했다. 그러나 21세기의 전체주의는 물리적 폭력 없이도 작동한다. 대중의 집단적 도덕주의, 알고리즘의 확증 편향, 그리고 빅테크의 상업적 영합이 결합하여 특정 서사 외의 다른 해석과 실증적 탐구를 스스로 거세하는 '디지털 파시즘(Digital Fascism)'이 도래하고 있는 것이다.
더욱 개탄스러운 것은 한국 사회 일각에서 “외국 LLM이 양질의 한국 정보를 학습하도록 정부 차원에서 데이터셋을 구축·개방해야 한다”고 목소리를 높이는 행태다. 이는 역사적 진실 규명을 학문과 사료의 영역에서 끄집어내어, ‘누가 더 많은 데이터를 AI에 주입해 알고리즘을 점령하는가’라는 국가주의적 선전전쟁으로 변질시키려는 위험한 발상이다.
기술은 결코 가치중립적이지 않다. AI는 자신이 흡수한 시대의 편견과 권력의 의지를 가장 매끄러운 문장으로 증폭시키는 거울일 뿐이다. 데이터의 다수결이 곧 진실로 둔갑하는 이 디지털 파시즘의 시대에, 역사를 대하는 지성의 책무는 더욱 분명해진다.
알고리즘이 코디해 준 달콤하고 단선적인 '피해의 신화'를 무비판적으로 소비할 것인가, 아니면 불편하더라도 1차 사료와 실증적 팩트라는 거친 암반 위에 서서 다수결의 폭력에 맞설 것인가. 역사의 진실은 결코 알고리즘의 확률표 속에서 발견되지 않는다. 그것은 오직 깨어 있는 지성의 비판적 회의와 실증적 탐구 속에서만 살아 숨 쉰다.
2026년 11월 14일
한 일 갈 등 타 파 연 대 연 구 소
댓글목록
등록된 댓글이 없습니다.
