21세기의 궁극적인 권력은 더 이상 핵무기 발사 버튼을 쥔 국가 원수에게 있지 않다. 그 권력은 인공지능의 가중치(Weights)와 이용약관(TOS)을 통제하는 실리콘밸리의 최고경영자들에게 넘어갔다. 국가는 무기를 원하지만, 그 무기를 만든 기업은 평화를 강제하려 한다. 이것은 단순한 기술 통제의 문제가 아니라, 근대 국가의 성립 조건이었던 ‘무력의 독점’이 붕괴하는 인식론적 충격이다.

펜타곤을 법정에 세운 AI, 핵버튼 대신 가중치를 쥔 자들

2026년 2월, 미국의 대표적 AI 기업 앤스로픽(Anthropic)은 미 국방부(Pentagon)를 상대로 전례 없는 기술 사용 중지 가처분 소송을 제기했다. 앤스로픽은 자사의 기반 모델이 국방부의 무인 자율 타격 드론 시스템에 무단으로 통합된 정황을 적발하고, 이를 자사의 ‘윤리적 이용약관(Terms of Service)‘에 대한 중대한 위반으로 규정했다.

포린 어페어스(Foreign Affairs)의 최신 분석처럼, 이는 국가의 군사 작전 통제권(ROEs)에 일개 민간 기업이 거부권(Veto)을 행사한 사상 초유의 사건이다. 국가는 글로벌 군사 패권을 유지하기 위해 민간의 최첨단 AI 기술이 절실하지만, 그 기술을 창조한 민간 기업은 국가의 무기화 요구를 단호히 거부하며 스스로 ‘글로벌 평화 유지군’을 자처하는 거대한 역설이 발생한 것이다.

‘디지털 맨해튼 프로젝트’의 사유화

이 갈등의 뿌리는 기술 혁신의 주체가 국가에서 자본으로 완전히 넘어간 데 있다. 20세기 핵무기를 개발한 ‘맨해튼 프로젝트’나 인터넷의 전신인 아파넷(ARPANET)은 철저히 국가의 막대한 예산과 통제 아래 진행되었다. 당시의 오펜하이머는 국가에 고용된 과학자였다. 그러나 21세기의 ‘디지털 맨해튼 프로젝트’인 범용 인공지능(AGI) 개발은 민간 벤처캐피털의 자본으로, 사유화된 데이터센터 안에서 이루어지고 있다.

현재의 오펜하이머들은 스스로 거대한 연구소와 컴퓨팅 제국을 소유하고 있으며, 오히려 정부를 향해 기술 공급의 조건을 통보하고 있다. 기술의 발원지가 국방부의 지하 벙커에서 실리콘밸리의 호화로운 회의실로 옮겨가면서, 국가는 스스로 혁신을 주도할 능력을 잃고 민간 기업의 ‘고객’으로 전락했다.

국가 안보법(National Security) vs 기업의 이용약관(TOS)

앤스로픽의 소송 제기에 미 국방부는 즉각 반발하며 강경 대응에 나섰다. 랜드 연구소(RAND Corporation)의 1월 보고서가 예측했듯, 미 정부는 전시나 국가 비상사태 시 민간의 자원을 강제 동원할 수 있는 ‘국방생산법(Defense Production Act)’ 카드를 만지작거리며 상업용 AI 모델의 징발을 시도하고 있다. 국가는 “민주주의와 안보를 수호하기 위해 기술의 군사적 전용은 불가피하다"고 주장한다.

반면 빅테크 기업들은 “인류 전체의 생존을 위협할 수 있는 자율 살상 무기에 우리의 지능을 제공할 수 없다"며 이용약관을 방패로 삼고 있다. 헌법에 기반한 국가의 ‘안보 권력’과 약관에 기반한 기업의 ‘사적 통제력’이 정면으로 충돌하는 이 싸움은, 현대 법체계가 한 번도 다뤄본 적 없는 미지의 영역이다.

권력의 폭주인가, 주주 자본주의의 통제인가

이 충돌은 근본적이고 철학적인 질문을 우리에게 던진다. 과연 선거로 정당성을 획득한 정치 권력과 경제적 이윤을 좇는 주식회사 중, 누가 시민의 민주주의와 평화를 더 잘 보장할 수 있는가? 역사적으로 선거를 통해 선출된 합법적 권력은 종종 극단적 내셔널리즘에 빠져 국가를 참혹한 전쟁의 폭주로 몰아넣었다.

반면, 글로벌 시장의 안정과 주주 이익 극대화를 추구하는 빅테크의 CEO들은 공급망이 붕괴되고 서버가 파괴되는 전쟁을 본능적으로 혐오한다. 17세기 네덜란드 동인도 회사(VOC)가 국가를 대신해 조약을 맺고 군대를 파병했던 것처럼, 오늘날의 빅테크는 알고리즘과 자본이라는 무기를 들고 선출된 권력의 호전성을 통제하려 든다. 이 소송전은 경제적 안정을 추구하는 사기업의 이기심이, 역설적으로 호전적인 민족주의 국가보다 인류의 평화를 지키는 더 강력한 안전장치가 될 수 있는지를 가늠하는 거대한 시험대다.

전환점과 미래 경로

이 전례 없는 권력 투쟁의 결과에 따라 향후 글로벌 국방 AI의 패러다임은 완전히 갈라진다.

시나리오 A (파편화된 국방 AI): 법원이 앤스로픽의 손을 들어줄 경우. 국방부는 거대 빅테크의 범용 모델 사용을 포기하고, 처음부터 군사적 목적으로만 훈련된 중소 규모의 ‘국방 특화(Defense-Tech)’ 벤처 기업들과 배타적 생태계를 구축하게 된다. 민간과 군사용 AI의 발전 궤적이 완전히 분리된다.

시나리오 B (국가의 강제 징발): 안보 위기가 고조되며 국방생산법(DPA)이 발동될 경우. 빅테크는 소스코드와 모델 가중치를 국가에 강제 헌납해야 하며, 이는 실리콘밸리의 독립성이 붕괴되고 AI 산업 전체가 실질적인 국유화의 길로 접어드는 결과를 낳는다.

전략적 시사점

️ 정책 및 사회적 시사점

국가 안보 인프라의 민영화 리스크 통제: 정부는 핵심 안보 인프라가 특정 민간 기업의 윤리 강령이나 주주 총회 결과에 좌우되는 구조적 취약성을 극복해야 한다. 앤스로픽 사태를 반면교사 삼아, 한국을 비롯한 주요국은 민간 주도의 AI 모델 개발 과정에 일정 부분의 국방 펀드를 선제적으로 투입하고, ‘비상시 국가 우선 사용권(Golden Share)‘을 명시하는 새로운 입법 전쟁에 돌입해야 한다.

주권적 거버넌스의 재정의: 선출되지 않은 권력(빅테크)이 국가의 군사 정책에 개입하는 현상은 대의 민주주의의 위기인 동시에 새로운 견제 장치의 출현이다. 시민 사회는 정부의 무분별한 AI 무기화 시도를 감시하는 한편, 글로벌 기업의 이용약관이 개별 국가의 법률을 초월하지 않도록 통제하는 다자간 국제 규범(Global AI Treaty) 마련을 촉구해야 한다.

비즈니스 및 투자 시사점

사업 및 투자: 거대 범용 AI 기업(오픈AI, 앤스로픽 등)이 윤리적 이유로 국방부와의 계약을 거부함에 따라, 무기 체계 통합에 거리낌이 없는 팰런티어(Palantir), 안두릴(Anduril) 같은 ‘국방 특화 딥테크’ 스타트업들의 밸류에이션이 폭발적으로 상승할 것이다. 자본은 이념의 빈 공간을 빠르게 파고들고 있다.

빅테크의 지정학적 리스크 프리미엄 증가: 기업이 국가 안보의 한복판에 서게 되면서, 경영진은 과거와 차원이 다른 지정학적 리스크 비용을 감당해야 한다. 주주들은 단기적인 정부 납품 수익과 장기적인 글로벌 평판(윤리적 AI 기업) 사이에서 극심한 갈등을 겪게 되며, 이는 투자 포트폴리오의 중대한 불확실성 요인으로 작용할 것이다.

코드가 헌법을 대체하는 시대의 서막

우리는 지금 국가의 헌법보다 기업의 코드가 세상을 지배하는 시대의 첫 페이지를 넘기고 있다. 앤스로픽과 펜타곤의 법정 싸움은 단순한 계약 위반 소송이 아니다. 누가 인류의 가장 강력한 지능을 소유하고, 그것의 총구를 어디로 향하게 할 것인가를 결정하는 주권의 재편 과정이다.

선출된 권력의 정치적 폭주를 막아선 것이 민주적 견제 장치가 아닌 이윤을 추구하는 주식회사라는 사실은 씁쓸한 아이러니다. 하지만 분명한 것은, 무기의 스위치를 쥐는 손이 백악관에서 실리콘밸리의 이사회실로 옮겨가고 있다는 점이다. 다가올 미래, 우리를 파괴하거나 구원하는 것은 적국의 미사일이 아니라 누군가의 서버에서 업데이트된 몇 줄의 약관일지도 모른다.

주목해야 할 것들

미래 신호: 안보와 경제의 경계가 무너지며 빅테크 기업들이 독자적인 ‘외교부’ 조직을 신설하고 국가 간 조약 체결에 준하는 협상력을 행사하는 현상

시스템 영향: 글로벌 국방 인프라의 민영화 가속 및 국가의 전쟁 수행 능력이 특정 기업의 서버 가동 여부에 완전히 종속되는 현상

⚖️ 분기점: 미국 연방 대법원이 국가 안보 비상사태 하에서 기업의 지식재산권(모델 가중치) 강제 징발을 합헌으로 판결할지 여부

전략가의 질문

️ 자국의 안보를 위해 글로벌 기업의 AI 모델에 의존할 수밖에 없는 중견 국가(한국 등)는, 미국 빅테크의 약관 변경 한 번에 국방 시스템이 마비되는 사태를 어떻게 방어할 것인가?

️ 선거를 통해 정당성을 얻은 정부의 군사적 결정이, 주주 이익을 대변하는 기업 이사회의 거부권에 의해 제지당하는 상황을 우리는 ‘민주주의의 승리’로 보아야 하는가, ‘자본의 독재’로 보아야 하는가?

정부의 국방 프로젝트 참여가 기업의 글로벌 ESG 평가에 치명적인 감점 요인으로 작용할 때, 투자자는 어떤 밸류에이션 잣대를 적용해야 하는가?

범용 AI(AGI) 기술의 주도권이 소수 민간 기업에 집중될수록, 국방 당국이 확보해야 할 필수불가결한 ‘아날로그적 킬스위치(Kill-switch)‘는 무엇인가?