AI 안전 거버넌스 인프라에는 보이지 않는 취약점이 있다. 오늘 민주주의 정권이 “시민 보호"를 위해 설계한 준법 레이어가, 내일의 권위주의 정권에는 합법적 외피를 두른 통제 도구가 된다는 역설이다. 이것은 이론적 경고가 아니다. 2026년 미국과 중국에서 동시에 그 원형이 포착됐다.

방화문이 반대 방향으로 잠기다 — 역설이 공식화된 날

2026년 2월 27일, 하나의 역설이 공식화됐다. 트럼프 대통령이 AI 기업 Anthropic을 “공급망 안보 위협"으로 지정하고 연방기관의 Claude 사용을 금지한 바로 그날, 미군은 같은 회사의 AI로 이란 목표물 약 1,000건을 선정했다. 워싱턴 포스트가 보도한 이 사실은 AI 거버넌스의 핵심 역설을 압축한다.

안전 기준을 고수했더니 퇴출됐다. 포기했더니 살아남았다. 민주주의 정부가 “시민 보호"를 위해 설계한 AI 준법 레이어(compliance layer)가 이미 정치 압박의 레버로 기능하고 있음을 보여주는 장면이었다.

방화문은 화재로부터 사람을 지키기 위해 설치된다. 그러나 같은 문이 다음 건물주의 손에서 사람을 가두는 잠금장치가 될 수 있다. AI 거버넌스 인프라가 지금 그 기로에 서 있다.

안전을 지켰더니 퇴출됐다 — 계약이 된 준법 레이어

Anthropic은 자사 AI 모델 Claude에 두 가지 안전 원칙을 명시해왔다: 대중 감시 금지, 자율 무기 금지. 국방부와의 계약 협상에서도 이 원칙을 유지하려 했다. 국방부는 “모든 합법적 목적"에 AI 사용을 허용하는 무제한 조항을 요구했다.

협상이 결렬되자 트럼프 행정부는 Anthropic을 “공급망 위협"으로 지정했다. 이 명칭은 통상 외국 기업에 적용하는 것으로, 미국 기업에 공식 적용된 전례가 없었다. Anthropic은 “전례 없고 법적 근거가 없는 조치"라며 소송을 제기했다. 그러나 경쟁사 OpenAI는 수 시간 만에 국방부와 확장 계약을 체결했다. 계약 문구는 Anthropic이 거부한 바로 그것이었다: “국방부는 모든 합법적 목적으로 AI 시스템을 사용할 수 있다.”

클렘슨대 철학과 마이클 그레고리 교수는 이 구조를 “AI 안전의 재정의"라 불렀다. 공공 보호에서 국가 통제 가능성으로의 전환. 안전 기준을 유지하는 기업은 계약을 잃고, 포기한 기업이 그 자리를 채우는 죄수의 딜레마가 정부 인센티브에 의해 작동한다.

중국은 ‘안전’이라는 언어로 이념을 부호화했다

이 역전 구조를 가장 체계적으로 실천하는 국가는 중국이다. 노골적인 억압 대신 ‘안전의 재정의’를 통해 통제를 구현한다는 점에서 미국 사례보다 한층 정교하다.

2023년 중국 사이버공간관리국은 생성AI 서비스 규정을 시행했다. 공개 서비스를 제공하는 모든 AI 모델은 “핵심 사회주의 가치관"을 반영해야 하고, 알고리즘 공개 등록제에 등록해야 한다. 2025년 9월 발표된 AI 안전 거버넌스 프레임워크 2.0은 한 걸음 더 나아갔다. ‘AI가 위협이 되는 상황’의 범주에 “이념적 안전(ideological safety)“을 명시 포함했다. 사회 안정, 공공 안전과 동렬에 이념 안전이 놓였다.

이 언어는 민주주의 사회의 AI 투명성 규제와 동일한 문법을 쓴다. 등록제, 안전 검토, 위험 분류. 그러나 기능은 정반대다. 민주주의 사회에서 안전 규제가 기업을 시민으로부터 보호하는 것이라면, 중국에서는 당과 국가를 이견으로부터 보호하는 것이다.

중국은 여기서 멈추지 않는다. 2025년 한 해 동안 국제표준화기구(ISO)와 국제전기기술위원회(IEC)에 AI 관련 표준안을 505건 제출했다. 국제 AI 거버넌스 규범의 형성 과정에 중국식 정의를 심어 넣으려는 시도다. ‘AI 안전’의 국제 표준이 어떤 언어로 쓰이느냐는 단순한 기술 문제가 아니다. 방화문의 설계 도면이 누구의 손에서 그려지느냐의 문제다.

역사는 이미 한 번 이 경고를 보냈다 — 슈타지에서 한국 AI 기본법까지

이 구조는 전혀 새롭지 않다. 동독 슈타지(Stasi)는 “사회 안보"를 명분으로 구축됐다. 600만 명의 파일, 111킬로미터에 달하는 기록문서. 당초 슈타지는 외부 위협으로부터 사회를 지키기 위한 인프라로 설계됐다. 편지 개봉과 재봉인, 전화 도청, 가택 도청. 점진적으로 구축된 안보 인프라가 반대 방향으로 잠히기까지는 오래 걸리지 않았다.

오늘날의 AI 준법 인프라와 슈타지는 다르다. 디지털이고, 전 세계 기업과 연동되어 있으며, 처리 속도와 규모가 비교할 수 없이 크다. 그래서 더 위험할 수 있다. 슈타지는 600만 명을 추적했다. AI 준법 레이어는 조건이 갖춰지면 수억 명을 대상으로 작동할 수 있다.

한국은 2026년 1월 AI 기본법을 시행했다. 세계에서 가장 이른 편에 속하는 종합 AI 거버넌스 입법이다. 그런데 이 법의 설계 속에 ‘승계 위험(succession risk)‘이 얼마나 고려됐는가. 현 정권에서 민주적 취지로 구축한 AI 인프라가 5년 후 정권교체 시에도 같은 방향으로 작동할 것이라는 보장이 어디에 있는가.

클렘슨대 그레고리 교수의 분석대로, 안전 프레임워크는 일단 정치적으로 오염되면 자정 능력을 잃는다. AI 기본법의 하위 법령에서 AI 감독 기구의 독립성과 기준 변경 절차가 어떻게 설계되느냐가 이 문제의 답을 결정한다.

️ 설계 단계에서 ‘다음 정권’을 상정해야 한다

정부·입법자는 AI 준법 인프라를 설계할 때 현재 정권의 의도만이 아니라, 다른 정치적 방향의 정권이 이 인프라를 쥐었을 때 어떤 일이 벌어지는지를 먼저 시뮬레이션해야 한다. 기준 변경 시 의회·사법 검토 의무화, AI 감독 기구의 법적 독립성 강화가 시작점이다.시민사회는 AI 거버넌스 논의에서 “지금 이 기준을 다른 정치적 환경의 정권이 반대 방향으로 쓴다면?“이라는 질문을 의제에 올려야 한다. 정치적 경계심이 아니라 제도 설계의 기본 원칙이다.잠금쇠는 양방향이다 — 설계가 남긴 것

방화문의 잠금쇠는 양방향으로 돌아간다. 처음 설치한 사람의 의도는 중요하지 않다. 문이 어느 방향으로 잠기느냐는 그 문을 쥔 사람이 결정한다.

2026년의 AI 거버넌스 경주는 속도에 집착하고 있다. 누가 먼저 규제 프레임워크를 만드느냐, 누가 먼저 국제 표준을 선점하느냐. 그러나 프레임워크의 속도만큼 중요한 것이 있다. 그 프레임워크가 정치 환경이 바뀌어도 원래 방향을 유지할 수 있는 설계인가.

Anthropic이 잃어버린 것은 계약만이 아니었다. 동독 시민들이 마지막에야 깨달은 것처럼, 설계 단계에서의 선택이 시간이 지난 뒤 어떤 결과를 만드는지 — 그 교훈이 AI 거버넌스에서 다시 시험대에 올랐다.

생각해볼 질문

당신이 사용하는 AI 서비스의 안전 기준은 지금 어떤 정치적 환경에서 유지되고 있는가. 만약 그 기준을 만든 기업이 정부의 계약 압박에 굴복한다면, 당신의 데이터와 일상은 어떻게 달라질 수 있는가.

한국의 AI 기본법은 5년 후 어떤 정권이 어떤 방식으로 집행하게 될까. 지금 설계 단계에서 ‘다음 정권에 의한 오용 방지’를 얼마나 진지하게 다루고 있는가.

주목해야 할 것들

AI 안전 표준의 국제적 정의 경쟁: 중국이 ISO/IEC에 AI 표준안을 505건 제출했다. 국제 AI 거버넌스 규범이 어떤 언어로 확정되느냐에 따라, 민주주의 국가의 AI 준법 인프라도 그 정의 안에 들어오게 된다. EU의 AI Act와 중국의 ‘AI 안전’ 정의가 충돌하는 지점이 향후 5년간의 핵심 분기점이다.

⚖️ 분기점 — Anthropic 소송의 법적 선례: Anthropic이 트럼프 행정부를 상대로 제기한 소송의 판결은 “정부가 안전 기준 유지 기업을 계약 레버로 압박할 수 있는가"에 대한 법적 선례가 된다. 어느 방향으로 판결이 나오느냐가 미국 AI 거버넌스의 구조를 가른다.

연결 이슈 — AI 민주주의 딜레마: AI가 선거·숙의·정부 서비스에 동시에 영향을 미치는 구조와 이 이슈는 같은 뿌리에서 자란다. 준법 인프라의 오용 경로가 열리는 이 역설은 AI 민주주의 딜레마의 구조적 하부다.

모니터링 포인트 — 한국 AI 기본법 하위 법령: 2026년 하반기 시행 예정인 AI 기본법 하위 법령에서 AI 감독 기구의 독립성과 기준 변경 절차가 어떻게 규정되는지가 관건이다. 독립성 보장 조항이 약할수록 이 이슈의 현실화 가능성이 높아진다.