AI와 민주주의의 관계를 묻는 질문이 틀렸다. “AI가 민주주의를 강화하는가, 파괴하는가"가 아니라 “AI는 어떻게 동시에 두 가지를 하는가"가 맞는 질문이다. 이 이슈는 기술 문제가 아니다. 도구의 이중성을 어떻게 제도화할 것인가라는 거버넌스의 근본 문제다.

2026년, 이스라엘-이란 무력 충돌이 격화되던 시기였다. 이스라엘 총리의 실제 발언 영상이 소셜미디어에 확산됐지만 “AI 생성물"로 신고됐고, 일부 플랫폼에서 삭제됐다. 진짜 영상이 가짜로 기각된 것이다.

연구자들은 이 현상을 ‘거짓말쟁이의 배당금(Liar’s Dividend)‘이라고 부른다. 뷔르츠부르크대학교가 2026년 발표한 연구에 따르면, 딥페이크가 충분히 보편화되면 당사자들은 진짜 증거를 AI 합성물이라고 주장하며 책임을 회피할 수 있게 된다. 가짜가 진짜처럼 보이는 것보다, 진짜가 가짜로 기각되는 것이 더 위험하다.

뫼비우스의 띠를 손에 쥔 사람을 상상해보라. 앞면만 잡으려 해도 결국 뒷면이 따라온다. AI와 민주주의의 관계가 그렇다. 참여를 넓히는 면과 공론장을 파괴하는 면이 하나로 연결돼 있어, 어느 면도 독립적으로 붙잡을 수 없다.

AI가 여는 민주주의

OECD는 2025년 발표한 보고서에서 AI 퍼실리테이션이 숙의 민주주의를 실질적으로 강화한 사례를 기록했다. 칠레 상원은 스탠퍼드 숙의 민주주의 센터와 협력해 500명의 시민이 의료·연금 개혁을 논의하는 온라인 과정에 AI를 도입했다. AI는 발언 시간을 균등하게 배분하고, 소수 의견을 분류해 합의안에 반영했다. 다수의 목소리에 묻히는 경향이 있던 소수 의견이 정책 결론에 반영된 첫 사례 중 하나였다.

카네기국제평화기금은 2026년 1월 발표한 ‘민주주의와 AI의 교차점 매핑’ 보고서에서 AI가 정부 서비스 효율화, 투표 접근성 향상, 시민 의제 분석 등에서 민주적 기능을 확대하고 있다고 분석했다. 기술 자체는 중립적이지 않지만, 활용 방식에 따라 공론장의 질을 높일 수 있다는 것이다.

그런데 이 장밋빛 그림에는 좀처럼 드러나지 않는 이면이 있다.

AI가 닫는 민주주의 — 세 가지 경로

2023년 슬로바키아 총선 사흘 전, 진보당 후보 미할 시메치카의 목소리를 흉내 낸 딥페이크 오디오가 퍼졌다. 기자와 선거 조작을 논의하는 내용이었다. 팩트체크 기관들이 조작임을 확인하는 데 48시간이 걸렸다. 선거는 그보다 먼저 치러졌다. 브레넌 센터는 이를 AI가 선거에 직접 개입한 최초의 대규모 사례로 기록했다.

2026년에는 이 패턴이 일상화됐다. 미국, 영국, 브라질, 방글라데시 등 주요 선거가 예정된 국가들에서 AI 도구를 활용한 허위정보, 마이크로타겟팅, 감성 조작 광고가 이미 확산 중이다. 영국 앨런 튜링 연구소는 2025년 보고서에서 AI 기반 선거 개입이 이미 현실의 문제라는 결론을 내렸다.

두 번째 경로는 알고리즘 편향이다. 마이크로타겟팅은 개인의 심리적 취약점을 파고들어 분노와 공포를 증폭시킨다. 공론장이 파편화되고, 에코챔버가 강화된다. 민주주의는 다양한 의견의 충돌과 통합을 전제로 작동하는데, AI 기반 플랫폼은 구조적으로 충돌 대신 확증을 제공한다.

세 번째이자 가장 교묘한 경로가 거짓말쟁이의 배당금이다. 딥페이크가 일반화되면 모든 영상이 의심의 대상이 된다. 실제 증거를 AI 합성물이라고 주장하며 책임을 피하는 길이 열린다. 진실 자체의 신뢰성이 흔들린다.

거버넌스의 딜레마 — 뫼비우스는 어느 면도 자를 수 없다

『민주주의 저널(Journal of Democracy)』은 2026년 논문에서 이 상황을 명확하게 규정했다. AI가 민주주의에 미치는 영향이 강화와 훼손을 동시에 진행하기 때문에, 규제를 ‘제한 vs 진흥’의 단순 이분법으로 설계할 수 없다는 것이다. 한 면을 막으면 반드시 다른 면도 막힌다.

EU는 가장 앞선 대응에 나섰다. ‘민주주의 방패(Democracy Shield)‘를 통해 AI의 선거 개입 책임을 디지털서비스법(DSA)에 연계했고, 디지털 콘텐츠의 생성 출처를 표시하는 C2PA(Content Credentials) 표준 도입을 Meta·Google·OpenAI와 협의 중이다. 그러나 각국의 대응은 여전히 파편적이다. 선거법과 AI법과 디지털서비스법 사이에 관할 공백이 존재하고, 대응 속도는 AI 생성 속도보다 구조적으로 느리다.

️ 정책 및 사회적 시사점

한국에도 2026년 선거 주기가 있다. 현행 공직선거법은 딥페이크 선거 콘텐츠를 금지하고 있지만, AI 생성 허위정보와 마이크로타겟팅에 대한 규제 공백은 여전하다. 단순한 ‘금지 조항’ 추가로는 부족하다. 거버넌스 설계의 핵심은 ‘허용-금지’ 이분법 대신 ‘용도별 책임 배분’ 프레임이다. 딥페이크 식별 기술 공개, 선관위-플랫폼 간 신속 신고 채널, 디지털 미디어 리터러시 교육이 함께 움직여야 한다.

정책이 어느 한 면만 규제하면 반드시 다른 면이 열린다. 뫼비우스의 띠를 자르면 두 개가 되지 않는다. 더 복잡한 형태로 이어진다.

어느 면 위에 서 있는지는 스스로 선택할 수 있다

구텐베르크의 인쇄기는 종교개혁과 선동 팸플릿 전쟁을 동시에 낳았다. 도구의 이중성은 새롭지 않다. 인류는 수백 년에 걸쳐 인쇄기를 민주적으로 소화하는 제도를 만들었다. 언론 자유와 허위정보 금지가 공존하는 법률 체계, 저널리즘 윤리, 독자의 비판적 리터러시가 그 결과물이다.

AI는 같은 소화 과정을 요구하지만 속도가 다르다. 수백 년이 아니라 수년 안에 제도가 따라잡지 못하면, 민주주의는 도구의 이중성을 감당하지 못할 수 있다.

이스라엘 총리의 진짜 영상이 가짜로 기각되던 그 순간, 민주주의가 직면한 문제는 가짜를 식별하는 것이 아니었다. 진짜를 지키는 것이었다.

뫼비우스의 띠는 자를 수 없다. 하지만 어느 면 위에 서 있는지는 스스로 선택할 수 있다.

생각해볼 질문

소셜미디어에서 정치인의 발언 영상을 봤을 때, 당신은 그것이 진짜라는 것을 어떻게 확인하는가? 그 확인 방법이 실제로 작동한다고 생각하는가. AI가 진짜와 가짜의 경계를 흐린다면, 우리는 정치적 정보를 어디서 어떻게 얻어야 할까.

만약 AI 선거 개입이 지금보다 10배 심해진다면, 당신은 투표 결정 방식을 어떻게 바꾸겠는가? 정보의 출처를 더 엄격하게 따지게 될까, 아니면 아예 정보 소비를 줄이게 될까.

주목해야 할 것들

미래 신호: C2PA 출처 표준의 확산 속도가 핵심 지표다. Meta·Google·OpenAI가 자발적으로 도입한 이 표준이 법적 의무화로 이어지면, AI 생성 콘텐츠 식별 생태계의 전환점이 될 수 있다. 반대로 확산이 지지부진하면 거짓말쟁이의 배당금은 더욱 커진다.

⚖️ 분기점: EU 민주주의 방패가 DSA와 실제로 연계되는 시점이 중요하다. 법적 구속력을 가진 첫 사례가 나오면 글로벌 규제 표준이 형성되고, 한국을 포함한 각국의 후속 입법이 가속화될 것이다. 그 전까지는 플랫폼 자율 규제에 의존하는 공백 기간이 지속된다.

연결 이슈: 이 이슈는 AI 일자리 충격, AI 안전 평가 신뢰성 이슈와 구조적으로 연결된다. AI의 사회적 영향이 기술보다 제도와 신뢰의 문제임을 보여주는 일관된 패턴이다. 세 이슈를 함께 보면 AI 거버넌스의 공통 취약점이 드러난다.

모니터링 포인트: 2026년 미국 중간선거가 핵심 실험장이다. AI 생성 선거 콘텐츠가 실제 투표 행동에 미치는 영향을 측정하는 첫 대규모 데이터가 나올 것이다. 선거 후 연구 결과는 AI-민주주의 거버넌스 논의의 방향을 결정할 가능성이 높다.