RAND 코퍼레이션 보고서는 미 국방부(DoD)가 상업용 대형언어모델(LLM)을 전술망에 통합하는 과정에서 발생한 참담한 딜레마를 조명한다. 최근 미군의 이란 군사 시설 공습 작전에 앤트로픽(Anthropic)의 AI가 무단으로 타겟팅에 사용되었다는 사실이 드러나고, 앤트로픽이 국방부의 ‘무제한 사용’ 요구를 단호히 거부하자 트럼프 행정부가 즉각 연방 정부 내 앤트로픽 기술 사용을 전면 금지했다. 빈자리를 오픈AI(OpenAI)가 차지하며 빚어진 이 사태는, 범용 AI 기술이 마주한 윤리적 붕괴와 거대한 자본 재편의 신호탄이다.
이란에 떨어진 폭탄과 팰로앨토의 피켓
2026년 초, 이란의 군사 시설을 타격한 미군의 정밀 공습 작전 이면에 앤트로픽(Anthropic)의 상업용 AI ‘클로드(Claude)‘가 전술 정보 분석 및 타겟팅 보조에 사용되었다는 사실이 폭로되면서 실리콘밸리는 발칵 뒤집혔다. 민간의 생산성을 돕기 위해 코딩된 ‘선한’ 인공지능이, 방위산업체의 API 우회 접속을 통해 실제 살상 무기(Lethal Weapons)의 방아쇠를 당기는 데 동원된 것이다.
사태를 파악한 앤트로픽 CEO 다리오 아모데이(Dario Amodei)는 즉각 자사 AI의 군사적 전용을 차단하고 펜타곤의 ‘무제한 사용(Unlimited Use)’ 요구를 공식 거부했다. 이에 격노한 트럼프 대통령은 국방부를 포함한 모든 연방 정부 기관에서 앤트로픽의 기술 사용을 즉시 중단하라는 행정 명령을 내리며 가혹한 보복에 나섰다.
반면, 펜타곤의 브리핑 룸에서는 앤트로픽이 떠난 빈자리를 꿰찬 오픈AI(OpenAI)의 기술이 시연되고 있으며, 빅테크 본사 앞에서는 “우리는 킬러 로봇을 코딩하지 않는다"며 서버 코드를 차단하고 파업에 나선 수백 명의 개발자들이 팻말을 들고 대치하고 있다. 인류의 보편적 지식을 담은 그릇이 가장 효율적인 파괴의 도구로 전용되면서, 기술 기업들의 정체성은 잔혹하게 찢어지고 있다.
기성품(Off-the-shelf) LLM의 전장 투입
RAND 코퍼레이션의 분석에 따르면, 미 국방부는 수조 원과 수년의 시간이 소요되는 자체 군사 AI 개발을 포기했다. 대신, 압도적인 연산력을 갖춘 민간 빅테크의 기성품 LLM을 국방 클라우드(JWCC)에 직접 통합하여 지휘 통제망에 이식하는 속도전을 택했다. **이란 공습은 이 ‘비용 절감형 하이브리드 전술’의 첫 번째 치명적인 실증(Proof of Concept)**이었다.
이 폭로는 실리콘밸리를 완벽한 두 개의 진영으로 분열시켰다. 앤트로픽 CEO 다리오 아모데이로 대표되는 ‘윤리적 방어선(Alignment)’ 진영은 수십억 달러의 B2G(기업-정부 간 거래) 매출을 잃고 정부의 퇴출 명령을 받더라도 AI가 인명 살상에 쓰이는 것을 차단하는 길을 택했다. 반면, 오픈AI와 마이크로소프트 등은 국가 안보 패권에 기여한다는 명분(혹은 압도적인 수익 창출) 아래 국방부의 요구를 전격 수용하며, 상업용 AI의 코드를 군사 작전의 뇌관과 직접 연결했다.
피 묻은 코드와 현대판 반전 운동
이 사태는 민간과 군사 기술의 경계가 완전히 무너지는 ‘이중 용도(Dual-use) 기술’의 모순이 임계점을 넘었음을 보여주는 거시적 신호다. 이란 공습이라는 구체적인 유혈 사태는 개발자들의 심리적 마지노선을 완전히 무너뜨렸다.
1960년대 베트남전 당시 네이팜탄을 제조했던 다우케미컬(Dow Chemical)을 향해 쏟아졌던 전 세계적 반전 시위처럼, 현대판 반전(Anti-war) 운동은 이제 실리콘밸리 알고리즘 엔지니어들의 깃허브(GitHub) 저장소와 사내 메신저에서 벌어지고 있다. 자신이 작성한 최적화 코드가 지구 반대편의 폭격 좌표를 찍는 데 사용되었다는 사실은 최고급 AI 인재들의 심각한 도덕적 부조리를 유발하며, 핵심 연구진들의 대규모 엑소더스(퇴사)와 조직 붕괴를 촉발하는 내부의 시한폭탄이 되었다.
국방 테크(Defense Tech)로의 권력 이동
빅테크 기업들이 ‘보편적 인류애’와 ‘국가 안보’ 사이에서 줄타기하며 극심한 내부 갈등에 시달리는 사이, 거대한 반사이익을 얻는 새로운 포식자들이 부상하고 있다. 안두릴(Anduril), 팔란티어(Palantir)와 같이 처음부터 군사적 목적을 위해 설립되어 상업적 평판 리스크나 내부의 윤리적 저항감이 전무한 ‘퓨어 플레이(Pure-play) 국방 테크’ 벤처들이다.
트럼프 행정부의 강경한 ‘친(親)군사 AI’ 기조 속에서, 이들 방산 특화 기업들은 상업용 LLM이 안전 필터에 막혀 주저하는 틈을 타 ‘치명적 전술 능력’에 최적화된 맞춤형 파운데이션 모델을 무기로 펜타곤의 수주 예산을 싹쓸이하고 있다. 이는 실리콘밸리의 자본과 혁신 동력이 B2C/B2B 소프트웨어에서 B2G 군산복합체 생태계로 맹렬하게 대이동하고 있음을 시사한다.
쪼개진 노선, 엇갈리는 밸류에이션
사업 및 투자 시사점
투자자들은 이란 공습 사태 이후 빅테크 기업들의 엇갈린 선택이 가져올 재무적 리스크를 냉정하게 재평가해야 한다.
오픈AI & 수용 진영: 국방부와의 독점적 계약을 통해 단기적 매출과 정부 록인(Lock-in) 효과는 급등할 것이다. 그러나 실제 인명 살상에 관여했다는 오명이 씌워지며 글로벌 ESG 펀드의 대규모 자본 이탈 리스크가 현실화될 수 있다. 무엇보다 군사 무기화에 반발하는 천재급 AI 연구진들이 대거 경쟁사로 유출되는 치명적인 조직 붕괴(Brain Drain) 비용을 지불해야 한다.
앤트로픽 & 거부 진영: 트럼프 행정부의 금지 조치로 인해 미국 연방 정부라는 거대한 시장(TAM)을 상실하는 뼈아픈 타격을 입었다. 하지만 역으로 ‘생명을 앗아가지 않는 가장 안전하고 윤리적인 AI’라는 압도적인 글로벌 평판 해자(Moat)를 얻었다. 이를 무기로 컴플라이언스와 생명 윤리에 극도로 민감한 글로벌 금융권 및 의료 헬스케어 엔터프라이즈(B2B) 시장을 독식할 반전의 모멘텀을 확보했다.
국방 테크(Defense Tech): 가치관의 딜레마 없이 펜타곤의 요구사항을 100% 충족시키는 방산 특화 AI 벤처 기업들에 대한 투자 자본(VC) 쏠림 현상이 가속화될 것이다.
️ 정책 시사점
정책 입안자들은 상업용 AI의 무단 전용이 촉발한 군사·외교적 재앙을 방지하기 위해 자율 살상 무기(LAWS) 통제에 대한 강력한 내부 가이드라인을 시급히 정립해야 한다. 특히 군수 기업이 API를 우회하여 민간 AI를 전술 시스템에 결합하는 행위를 통제하는 감사(Audit) 시스템이 필수적이다.
또한 특정 정권의 입맛에 따라 정부 조달 시장에서 특정 기술 기업을 배제하는 행위는 국가 안보 인프라의 다변화를 해치는 위험 요인이므로, 군사 AI 조달에 관한 초당적이고 객관적인 윤리 표준을 법제화하여 기업들의 규제 불확실성을 해소해야 한다.
[주목해야 할 것들]
미래 신호: 주요 테크 기업들이 B2B 상업용 모델과 B2G 군사용 모델의 개발 조직, 데이터센터, 심지어 지배구조(Spin-off)까지 완전히 분리하는 ‘기업 쪼개기’ 현상의 가시화.
⚡ 확산 조건: 중동의 추가 공습 과정에서 국방 AI가 치명적인 타기팅 오류(Hallucination)를 일으켜 대규모 민간인 사상자가 발생하고, 해당 AI를 제공한 테크 기업이 국제 형사 재판소(ICC)에 전범 공범으로 제소되는 사건의 발생.
모니터링 포인트: 트럼프 행정부의 조달 금지 조치 이후 앤트로픽의 민간 B2B 엔터프라이즈 점유율 상승폭, 그리고 군사 계약을 체결한 기업(오픈AI 등) 내 핵심 연구진의 이직률(Turnover rate) 추이.
[전략가의 질문]
우리 회사가 사용 중인 AI 파운데이션 모델 파트너사가 펜타곤의 살상 무기 시스템과 데이터/코드를 직간접적으로 공유하고 있다면, 이는 글로벌 시장에서 우리 브랜드의 ESG 평가에 어떤 치명적 타격을 입힐 것인가?
핵심 인재들이 경영진의 B2G 군사 계약에 반발하여 파업이나 사보타주를 일으킬 경우, 기업의 핵심 지식 재산권(IP) 보호와 개발 파이프라인 마비를 방어할 컨틴전시 플랜(Contingency Plan)은 마련되어 있는가?
군사적 전용을 물리적으로 차단하기 위한 ‘온프레미스(On-premise) 폐쇄망 구축’ 및 ‘AI 모델 출력값 룰 필터링’ B2B 보안 솔루션을 제공하여 상업용 AI 기업의 컴플라이언스를 돕는 숨은 보안 유니콘은 어디인가?
