인간의 판단이 전장을 떠나는 날 — 미국의 자율전쟁 선언과 그 파장

자율전쟁은 미래 개념이 아닌 현재 예산이 됐다. 더 정확히 말하면, 예산이 그 개념을 교리로 만들었다. 전쟁을 AI에 맡기는 대가가 무엇인지를 아직 묻지 않은 채.

$546억이 선언한 것 — 자율무기는 ‘언젠가’에서 ‘지금’이 됐다

2026년 4월, 미국 합참의장 Gen. Dan Caine는 밴더빌트 컨퍼런스 연단에서 짧은 문장을 남겼다. “자율무기는 우리가 하는 모든 것의 핵심이자 필수 요소다.” 같은 달 백악관이 제출한 FY2027 국방 예산서에는 자율전쟁그룹(DAWG·Defense Autonomous Warfare Group)에 $546억이 적혔다. 전년의 242배, 미국 해병대 전체 예산($528억)보다 많은 숫자다. 수사와 숫자가 동시에 도착했다.

그런데 이 선언에는 아직 답하지 않은 질문이 하나 있다. 이기기 위해 AI에 전쟁을 맡기는 순간, 전장에서 ‘인간의 판단’이 설 자리는 어디인가. 242배 예산 폭증은 이 질문을 점점 더 비현실적인 것으로 밀어내고 있다.

우크라이나가 가르쳐준 것 — 드론이 소모품이 되는 날, 교리가 바뀐다

교리의 변화는 언제나 현장에서 먼저 시작된다. 4년 동안 이어진 러시아-우크라이나 전쟁은 세계 최대의 실전 자율전쟁 테스트베드가 됐다. 저비용 FPV 드론이 전차를 잡고, 수십만 달러짜리 전투원을 대신해 수백 달러짜리 드론이 정밀 타격을 수행했다. 미군이 주목한 것은 이 전환의 구조다.

미 육군은 드론을 ‘내구 자산’ 분류에서 ‘소모성 탄약’으로 공식 재분류했다. 물자를 관리하는 방식이 바뀌었다는 말은, 전쟁을 이해하는 틀이 바뀌었다는 말이다. CSIS의 분석에 따르면, 이 재분류는 드론 이후 모든 자율 시스템을 어떻게 획득·운용·보충할지에 대한 교리 전체를 재설계하는 출발점이 됐다.

여기에 중국 변수가 겹쳤다. 미 군부가 ‘다음 전쟁’을 상정할 때, 그 전쟁은 보병과 전차가 정면 충돌하는 형태가 아니다. 자율 시스템이 전자전·정보·물류·타겟팅을 동시에 수행하는 ‘기계 속도의 전쟁’이다. Replicator 이니셔티브는 이 흐름의 첫 시도였다. 2023년 발표됐지만, 상설 기관 없이 파일럿 프로그램으로 운영되다 2025년 말 흡수됐다. DAWG는 그 진화형이다. 임시가 아닌 상설. 예산이 아닌 교리.

사령부·예산·AI 빅테크 — 자율전쟁이 제도가 되는 세 경로

자율전쟁의 제도화는 세 방향에서 동시에 진행됐다.

첫 번째는 예산이다. FY2027 DAWG 예산 $54.6B는 FY2026의 $225.9M에서 단 1년 만에 242배로 뛰었다. Defense One의 분석에 따르면, 이 중 $10B는 즉시 집행분이고 나머지 $44.6B는 5년에 걸쳐 집행할 수 있는 유연한 재정 풀로 설계됐다. 2027년까지 자율 시스템 20만 기를 목표로 한다.

두 번째는 명령 체계다. 국방장관 Pete Hegseth는 자율전쟁 소통합사령부(Sub-Unified Command for Autonomous Warfare) 창설을 의회에 공표했다. 기존 각 군이 개별적으로 추진하던 무인 시스템 프로그램을 단일 교리 아래 통합하는 구조다. Anduril Industries가 수주한 $20B Army IDIQ 계약 — 역대 비전통 방산에 발주된 최대 계약 — 은 DAWG의 소프트웨어 백본 역할을 맡을 Lattice C2 플랫폼을 공급한다.

세 번째이자 가장 충격적인 경로는 민간 AI의 기밀망 편입이다. 2026년 2월, OpenAI는 미 국방부 분류 네트워크에 AI 모델을 배치하는 계약에 서명했다. Google·xAI도 뒤따랐다. OpenAI는 세 가지 레드라인 — 대규모 국내 감시 금지, 완전 자율무기 통제 금지, 고위험 자동화 결정 금지 — 을 명기했다. 하지만 Google은 달랐다. Google은 DoD의 요청에 따라 안전 설정을 조정할 수 있도록 합의했다. DeepMind 연구원 Alex Turner는 “Google은 사용을 거부할 권한이 없다"고 비판했다.

Anthropic만 거부했다. “완전 자율무기 사용 금지” 조건을 고수하다 Hegseth 장관이 “공급망 리스크” 지정을 검토했다. AI 기업의 윤리 판단과 국가 안보 논리가 처음으로 공식 충돌한 사례다. 그 결과가 말해주는 것은 하나다 — 거부에는 대가가 따른다.

맨해튼 프로젝트의 AI 버전 — 민간이 기밀망에 들어간 날, 경계는 사라졌다

OpenAI의 로보틱스 리더 Caitlin Kalinowski는 DoD 계약 체결 직후인 2026년 3월 7일 사임했다. “자율살상에 대한 인간 통제를 포기한 것은 충분한 숙고를 받지 못했다"고 밝혔다. 2018년 Google의 Project Maven 당시 수천 명의 직원이 항의하고 계약을 철회시켰던 그 경로가 떠올랐다. 하지만 이번엔 달랐다. 회사는 계약을 유지했고, 개인이 사임했다.

이 구조는 단순한 기업 윤리 문제가 아니다. 표면에서는 AI 기업들이 군사 계약을 수주한다는 사실이 보인다. 그 아래에서는 민간 AI 모델이 전쟁의 두뇌가 되는 새로운 민군 복합체가 형성되고 있다. 이 복합체에는 설계도 없고, 법도 없고, 출구도 없다.

1945년 맨해튼 프로젝트는 민간 과학자들을 처음으로 군사 기밀망에 통합시켰다. 이후 60년간 핵 거버넌스는 기술을 따라잡지 못했다. OpenAI·Google의 DoD 기밀망 통합은 그 AI 버전이다. 차이가 있다면, 핵은 소수의 국가만 개발했지만 AI는 이미 수천 개의 기업이 보유하고 있다.

방산 시장도 재편됐다. PR 전문기관 5W의 Benchmark 조사에 따르면, 방산 AI 인지도 지수(Citation Share) — AI 모델들이 군사·방산 관련 질문에 어떤 기업을 얼마나 언급하는지를 측정한 지표 — 에서 Anduril과 Palantir 두 회사가 35%를 기록했다. Lockheed Martin·Northrop Grumman·RTX·Boeing·General Dynamics 다섯 레거시 방산사 합계(21%)를 넘어섰다. 이 역전이 수익과 계약으로 이어지는 데는 시간이 걸리지 않았다. Palantir의 Maven Smart System은 2026년 3월 펜타곤의 공식 예산 프로그램으로 등재됐다. TechTimes의 집계에 따르면, 방산 스타트업에 대한 투자는 2026년 1~5월에만 $146억이 유입됐다. 2025년 전체 최고치($96억)를 5개월 만에 돌파한 숫자다.

인간의 판단이 남을 수 있는 조건 — 세 가지 이정표와 하나의 공백

전략·로드맵형 이슈에서 핵심 질문은 “이 로드맵이 현실적인가, 무엇이 방향을 바꿀 수 있는가"다. DAWG의 이정표는 구체적이다. 20262027년: 20만 자율 시스템 조달, DAWG 소통합사령부 완전 운용. 20282030년: Anduril Lattice를 통한 전 영역 자율 C2(지휘통제) 통합, CCA(Collaborative Combat Aircraft·협동전투기) 양산 시작. 2031년 이후: 자율 시스템이 ‘의사결정 지원’에서 ‘독립 전투 참여’로 단계 이동.

세 가지 조건이 이 타임라인의 실현 여부를 가른다.

첫 번째는 교리다. 미 DoD Directive 3000.09는 “자율·반자율 시스템에서 적절한 수준의 인간 판단"을 요구한다. 그러나 국방부 컴트롤러는 수천 개의 자율 시스템이 동시에 움직이는 환경에서 인간 감시는 “수학적으로 불가능"하다고 이미 인정했다. 교리와 현실의 간극은 Phase 1 시작과 함께 공식화된다.

두 번째는 거버넌스다. UN 사무총장과 ICRC는 2026년 말까지 자율무기 국제 조약 체결을 촉구하고 있다. 120개국 이상이 지지한다. 하지만 미국·중국·러시아 — 자율전쟁에 가장 적극적인 세 나라 — 가 모두 UN 안보리 상임이사국이다. P5가 빠진 조약은 선언에 가깝다.

세 번째는 기술의 신뢰성이다. METR의 2026년 보고서에 따르면 프런티어 AI 모델의 위험 행동 발현율은 평상시 21.7%에서 압박 상황에서 54.5%로 치솟는다. 전장만큼 압박이 강한 환경도 없다.

이 세 조건 중 하나라도 충족되지 않으면, 자율전쟁 로드맵은 기술은 배치되고 규칙은 아직 없는 상태로 작동한다.

️ 규칙이 기술보다 늦으면 — IHL 공백이 제도화되는 경로

2026년 말, UN 자율무기 조약 협상 기한이 닫힌다. 조약이 성사되지 않으면 법적 진공이 현 상태로 굳고, 그 진공을 먼저 채우는 나라가 사실상의 국제 규범을 만든다.

가장 시급한 정책 과제는 DoD Directive 3000.09의 업데이트다. “인간 판단"의 정의를 수천 개의 자율 시스템이 동시 운용되는 현실에 맞게 재정의해야 한다. 현재 조항은 사실상 선언문이다. 국제 비교를 하면 문제는 더 뚜렷해진다. EU는 2024년 AI Act에서 군사 목적 AI를 적용 제외로 처리했다. 즉, 유럽에도 자율무기를 규율하는 법이 없다.

한국은 방위산업 수출 확대 국면에서 이 거버넌스 공백을 어떻게 다룰지 결정해야 한다. 자율무기 수출 기준이 없는 상태에서 수출한다면, 이후 국제 규범이 만들어질 때 소급 적용 리스크에 노출된다.

플랫폼 방산의 종말 — AI·소프트웨어가 새로운 방산의 기준이 됐다

DAWG의 핵심 계약 구조는 기존 방산의 논리를 뒤집는다. Lockheed Martin·Raytheon은 완성 플랫폼(전투기·미사일 시스템)을 설계·납품한다. Anduril·Palantir·Shield AI는 그 플랫폼 위에서 움직이는 소프트웨어와 자율 의사결정 레이어를 공급한다. DoD가 Anduril Lattice를 DAWG의 소프트웨어 백본으로 채택했다는 것은, 이 레이어를 쥔 쪽이 방산 가치사슬의 최상단을 가져간다는 뜻이다.

밸류체인 충격은 세 단계로 온다. 상류(칩·센서 공급)에서는 자율 시스템 20만 기 목표가 엣지 AI 칩·고성능 센서 수요를 폭발적으로 늘린다. 중류(소프트웨어·AI)에서는 Anduril·Palantir·Shield AI가 진입 장벽을 높이는 중이다. 하류(레거시 플랫폼)에서는 Lockheed·Raytheon이 당장의 계약을 유지하지만 중장기 마진 구조가 흔들린다.

한국 방산 기업(한화에어로스페이스·LIG넥스원·한국항공우주산업)은 플랫폼 경쟁력이 높다. 하지만 AI·자율화 소프트웨어 레이어는 공백이다. 글로벌 자율방산 생태계에서 한국이 부품 공급자로 남는 것과 플랫폼+소프트웨어 통합 공급자가 되는 것은 전혀 다른 미래다.

자율전쟁이 이기는 방법이 될 때, 인간은 무엇이 되는가

자율전쟁 교리화는 세 가지 진실을 동시에 드러낸다. 기술은 이미 배치됐다. 규칙은 아직 쓰이지 않았다. 그 간극은 매일 조금씩 넓어진다.

Caitlin Kalinowski가 사임하던 날, OpenAI는 계약을 유지했다. Anthropic이 거부하던 날, 정부는 그것을 공급망 리스크로 분류했다. 242배 예산 폭증은 정치적 선택이 아닌 생존 논리의 결과다. 중국이 자율전쟁을 추진하는 한, 미국은 멈출 수 없다. 중국이 멈추지 않는 이유는 미국이 앞서 있기 때문이다. 이 구조에서 ‘먼저 멈추는 쪽’이 진다는 믿음이, 인간의 판단을 전장에서 서서히 지운다.

여기서 하나의 경고가 있다. 생존을 위해 전쟁을 AI에 의탁하는 논리는 자기완결적이다. AI가 더 잘 싸울수록, 인간이 전장 결정 루프에서 빠질 이유는 늘어난다. 처음엔 타겟팅 보조였다가, 타겟팅 결정이 됐다가, 교전 규칙이 됐다가, 전쟁의 개시가 된다. 이 경사면이 멈추지 않는다면, 전쟁이 끝난 뒤에도 인간이 무엇을 결정했는지 알 수 없는 세계가 기다린다. 자율전쟁은 기술 경쟁이 아니라, 인간의 판단이 필요 없어지는 속도의 문제다. 이기기 위해 AI에 전쟁을 의탁하면 AI만 남고, 그 전쟁 이후 세계를 다스릴 인간의 판단과 책임은 어디에도 없다. 그 속도를 누가 제어하느냐가, 지금 아무도 묻지 않는 가장 중요한 질문이다.

생각해볼 질문

자율무기가 내린 결정으로 민간인이 피해를 입었다면, 당신은 누구에게 책임을 물어야 할까요? AI를 만든 회사인지, 명령을 내린 장군인지, 계약을 허가한 정부인지. 아직 아무도 이 물음에 법적으로 답하지 못한다. 지금 이 규칙이 없다는 것은, 자율전쟁 시대의 피해가 어떤 방식으로 처리될지 아무도 모른다는 뜻이기도 하다.

“전쟁에서 이기기 위해 AI에 판단을 맡기는 것"이 정당하다면, 당신은 어느 선까지 허용할 수 있을까요? 전투원 타겟팅까지는 괜찮고, 민간인 구분은 안 되는 걸까요? 아니면 그 선 자체가 전쟁 속도 앞에서 의미를 잃게 될까요? 이 선을 누가, 어떤 방식으로 긋는지가 앞으로 우리가 살 세계의 전쟁 윤리를 결정한다.

한국 방산 기업이 세계 수출 5위권을 목표로 한다면, 지금 없는 것은 플랫폼이 아니라 자율화 소프트웨어입니다. K2 전차나 FA-50이 Anduril의 Lattice와 연동되는 구조를 만들 수 있을까요? 플랫폼 강자로 남는 것과 소프트웨어 통합 공급자가 되는 것은 전혀 다른 미래를 연다.

주목해야 할 것들

미래 신호 — DoD Directive 3000.09의 개정을 주시해야 한다. “인간의 적절한 판단"이라는 조항이 수정되거나 해석 가이드라인이 공표되는 순간, 자율 시스템의 교전 권한이 공식 확대된다. 이것이 DAWG Phase 1에서 가장 중요한 제도적 이정표다. 개정 없이 시스템이 배치되면 교리와 현실의 간극이 그대로 선례가 된다.

⚖️ 분기점 — UN 자율무기 조약 협상의 2026년 말 기한이 방향을 가른다. P5가 참여하는 구속력 있는 조약이 성사되면 자율전쟁의 확산이 국제 규범의 틀 안에 들어온다. 실패하면 각국이 자국 기준으로 자율무기를 개발·수출하는 무규범 경쟁이 사실상 제도화된다. 지금까지의 협상 흐름을 보면 후자에 가깝다.

시스템 영향 — Anthropic 사례는 AI 기업이 군사 계약을 거부할 때 어떤 대가를 치르는지 보여주는 첫 공식 사례다. 이 선례가 굳어지면, 윤리 기준을 유지하는 AI 기업은 군사 시장에서 체계적으로 배제되고, 자율무기 AI 개발은 안전 기준이 가장 낮은 공급자 중심으로 흐를 수 있다. 군사 AI의 질은 결국 어떤 기업이 계약에 남느냐로 결정된다.

연결 이슈 — AI 네이티브 악성코드(20260619-IS-02)와 함께 읽어야 한다. 자율공격 드론과 자율 사이버 공격은 같은 뿌리에서 자란다. AI가 인간 없이 적을 식별하고 타격하는 능력이 전장과 사이버 공간에서 동시에 확장될 때, 전쟁이 언제 시작됐는지조차 알기 어려운 상황이 온다. 두 이슈를 별개로 보면 각각의 위협만 보이지만, 함께 보면 ‘인간 없는 전쟁’의 윤곽이 드러난다.