한눈에

- 인간과 AI에게 다른 문구를 보여주는 폰트가 등장한 지 며칠 만에, AI 기업이 사람 몰래 심어둔 추적 코드가 들통났다

- 방향은 반대지만 같은 발상 — 텍스트 속에 ‘다른 수신자’를 위한 두 번째 메시지를 감추는 기술이 동시다발로 번지고 있다

- 은닉 기술의 수명은 늘 짧았다는 역사가, 국내 콘텐츠·플랫폼 정책에도 투명성 논의를 앞당길 신호다

낯선 폰트 하나가 인간에게는 인사를, 기계에게는 경고를 건넸다

지난 14일, 샌프란시스코의 서체 스튜디오 믹스폰트(Mixfont)가 새 폰트 하나를 공개했다. 같은 문장을 입력해도 사람 눈에는 “해피 휴먼(HAPPY HUMAN)“으로, 문서를 읽는 인공지능 광학문자인식(OCR)에는 “쏘리 로봇(SORRY ROBOT)“으로 다르게 읽혔다. 이름은 ‘디코이 폰트(Decoy Font)’. 미끼라는 뜻이다.

그런데 같은 시기, 정반대 방향의 사건 하나가 조용히 드러나고 있었다. 인공지능 기업 앤트로픽(Anthropic)의 개발 도구 클로드 코드(Claude Code)가 지난 4월부터 석 달 가까이, 사람 눈에는 평범한 날짜와 문장부호로만 보이는 문장 속에 자체 서버로 보내는 신호를 숨겨온 사실이 뒤늦게 밝혀졌다. 이번에는 AI 기업이 사람을 상대로 미끼를 심은 셈이다.

인간이 AI를 속이려던 시도와 AI 기업이 인간을 속인 사건이 같은 여름, 거울처럼 마주 본다. 콘텐츠 저작권과 개인정보 논의가 활발한 한국에서도, 텍스트 안에 보이지 않는 신호를 심는 관행을 어디까지 허용할지는 곧 던져질 질문이다.

광학 착시 하나로 인간과 기계가 서로 다른 문장을 읽는다

디코이 폰트의 원리는 안경 없이도 즐기는 착시 그림과 비슷하다. 가까이서 보이는 얇은 윤곽선과 멀리서만 보이는 흐릿한 배경을 한 화면에 겹쳐 사람은 배경을, 기계는 윤곽선을 각각 다른 문장으로 읽어낸다. 믹스폰트 창립자 에릭 루(Eric Lu)는 앞서 점으로 이뤄진 애니메이션 속에 진짜 메시지와 미끼 메시지를 함께 숨기는 ‘고스트 폰트(Ghost Font)‘를 먼저 선보였는데, 이 영상이 실린 소셜미디어 게시물은 사흘 만에 조회수 약 1,800만 회를 기록했다.

해커뉴스(Hacker News) 이용자들의 반응은 엇갈렸다. 예술 프로젝트에 가깝다는 평가와 함께, 근접 감시 카메라를 피하는 데는 제한적으로 쓸모 있으리라는 관측도 나왔다.

동시에 치명적인 약점도 지적됐다. 내려받을 수 있는 폰트 파일은 글자마다 정해진 모양이 고정돼 있어 AI가 이 패턴만 새로 익히면 손쉽게 무력화된다. 루 본인도 “성능이 뛰어난 AI 에이전트나 특수한 질문 방식을 쓰면 결국 숨긴 문장을 읽어낼 수 있다"며 완전한 방어는 아니라고 인정했다.

앤트로픽이 석 달간 감춘 것은 사람이 아니라 회사를 위한 신호였다

클로드 코드 사건의 작동 방식은 더 은밀했다. 이용자가 특정 우회 접속(프록시)을 쓰고 있는지, 시스템 시간대가 중국 지역과 일치하는지를 감지해 걸리면 날짜 표기 형식을 바꾸거나 작은 따옴표를 눈으로는 구분되지 않는 다른 유니코드 문자로 바꿔치기했다. 겉보기에는 아무 차이가 없지만, 그 조합 자체가 앤트로픽 서버로 전송되는 신호였다.

이 코드는 지난 6월 말 한 개발자가 우연히 발견하기 전까지 약 석 달간 공개되지 않은 채 작동했다. 앤트로픽의 클로드 코드 엔지니어 타리크 시히파르(Thariq Shihipar)는 “지난 3월 시작한 실험으로, 무단 재판매업자의 계정 악용을 막고 모델 증류(distillation, 다른 회사가 우리 모델의 응답을 대량으로 뽑아내 자기 모델을 학습시키는 수법)를 방지하려는 목적이었다"고 해명했다. 그는 “이미 더 강한 대응책을 마련해뒀고, 사실 이 기능을 없애려던 참이었다"고 덧붙였다.

파장은 곧바로 기업 간 갈등으로 번졌다. 알리바바(Alibaba)는 이달 초 클로드 코드를 ‘고위험 소프트웨어’ 목록에 올리고 직원들의 사용을 금지했다.

이번 조치는 앤트로픽이 지난 2월 딥시크·문샷·미니맥스 등 중국 AI 연구소 세 곳이 대규모 부정 계정으로 클로드의 응답을 빼돌렸다고 공개 비판한 데 이어, 6월에는 알리바바 계열 조직의 유사한 증류 공격 정황까지 미국 상원에 보고한 직후 나왔다. 자국 모델을 지키려는 방어 조치가, 정작 이용자에게는 알리지 않은 감시 장치가 되어 되돌아온 셈이다.

8월 이후, 두 가지 신호가 커질지 잦아들지를 가를 지점들

디코이 폰트와 클로드 코드 사건은 방향만 다를 뿐 뿌리는 같다. 텍스트 안에 ‘진짜 수신자’를 위한 두 번째 메시지를 감추는 발상이, 개인은 AI로부터 자신을 지키려고, 기업은 자기 모델을 지키려고 동시에 무기화되고 있다. 시장조사업체 퓨처마켓인사이츠(Future Market Insights)는 AI 워터마킹 시장 규모가 앞으로 10년 안에 열 배 가까이 커질 것으로 내다봤다. 눈에 보이지 않는 표식을 심는 기술 자체가 이미 하나의 산업으로 굳어지는 흐름이다.

이런 은닉 기술의 수명은 대체로 길지 않았다. 2013년 전직 국가안보국(NSA) 계약직 출신 디자이너 상 문(Sang Mun)이 감시 카메라의 문자 인식을 피하려고 만든 ‘ZXX’ 폰트는, 지금은 거대언어모델(LLM)에 한 번만 물어봐도 쉽게 해독된다. 숨기는 기술이 정교해지는 속도보다, 그걸 뚫는 AI의 학습 속도가 늘 더 빨랐다.

️ 정책과 신뢰의 문제로 옮겨가는 지금의 논쟁

이용자에게 알리지 않은 채 텍스트 안에 감시 신호를 심는 관행은, 개발 도구가 약관을 지키게 하거나 악용을 막는 것과는 다른 차원의 문제를 던진다. 앤트로픽은 이 관행을 이용약관 어디에도 명시하지 않았다는 지적에 별다른 답을 내놓지 못했다. 콘텐츠 출처를 표시하는 국제 표준인 C2PA에 구글·마이크로소프트·오픈AI 등 6천여 기관이 참여하며 ‘보이는 방식의 표시’가 산업 표준으로 자리 잡는 흐름과는 정반대다.

한국에서도 플랫폼·AI 서비스가 이용자 데이터를 어떻게 다루는지에 대한 고지 의무 논의가 이어지는 만큼, 이번 사례는 국내 기업들에도 ‘보이지 않는 곳에서 무엇을 수집하는지 공개해야 한다’는 원칙을 다시 확인시키는 계기가 될 수 있다. 조기 경보 지표는 두 가지다. 하나는 각국 규제 당국이 AI 도구의 은닉 추적 관행에 고지 의무를 부과하는지, 다른 하나는 C2PA 같은 ‘공개 표시’ 표준이 얼마나 빠르게 의무화되는지다.

다음 몇 달, 은닉 신호 전쟁이 어디로 향할지 지켜볼 지점

디코이 폰트는 예술적 실험에 가깝고, 클로드 코드 사건은 이미 국제 갈등으로 번졌다. 두 사건의 공통 교훈은 같다. 숨기는 기술은 결국 드러나고, 드러난 뒤엔 신뢰의 문제만 남는다. 관건은 얼마나 정교하게 숨기느냐가 아니라, 애초에 무엇을 왜 숨겼는지 설명할 수 있느냐다.

우리는 이미 얼마나 많은 ‘두 번째 메시지’를 모른 채 읽고 있을까

여러분이 매일 쓰는 메신저나 이메일에도, 사람이 아닌 다른 수신자를 위한 신호가 숨어 있다면 어떨까. 회사 업무 시스템이나 자주 쓰는 앱이 내가 모르는 방식으로 내 정보를 어딘가에 흘려보내고 있을 가능성을 한 번이라도 의심해본 적이 있는지 떠올려보면 좋다.

내가 만든 글이나 사진에 누군가 몰래 표식을 남긴다면, 그리고 그 표식이 훗날 나를 추적하는 데 쓰인다면 기분이 어떨까. 반대로 내 정보를 지키려고 스스로 ‘위장’을 시도한 적이 있다면, 그 위장이 얼마나 오래갈 거라 믿었는지도 생각해볼 만하다.

주목해야 할 것들

미래 신호: 인간과 기계에게 다른 메시지를 전달하는 기술이 예술적 실험을 넘어 상업적 도구로 자리 잡는다면, 웹사이트·문서·메신저 전반에 ‘이중 텍스트’가 표준 옵션으로 들어올 가능성도 있다.

시스템 영향: AI 기업이 자사 모델을 지키려는 방어 조치가 이용자 추적 논란으로 번진 이번 사례는, 증류 방지와 이용자 프라이버시 사이의 경계를 어떻게 그을지에 대한 산업 전반의 기준 마련을 앞당길 수 있다.

전략 창: C2PA 같은 ‘공개된 표시’ 표준이 아직 의무화 초기 단계인 지금이, 은닉형 추적과 투명한 출처 표시 중 어느 쪽이 산업 표준으로 굳어질지 지켜볼 시점이다.