사무실 컴퓨터 구석에는 수년 동안 열어보지 않은 파일이 수두룩하다. 오래된 이메일, 형식조차 제각각인 고객 상담 기록, 누군가 작성하다 그만둔 회의록, 출처를 알 수 없는 데이터 유출 흔적까지 쌓여 있다. 데이터는 분명 존재하지만 어디에 어떤 형태로 박혀 있는지 아무도 모른다. 이를 ‘다크 데이터(Dark Data)‘라 부른다. 어둠 속에 방치되어 가치를 잃은 데이터라는 뜻이다.
최근 엔터프라이즈 AI를 도입하려는 현장에서 이 다크 데이터가 커다란 걸림돌로 떠올랐다. 그동안 기업들은 거대언어모델의 성능만 높이면 지저분한 문서도 알아서 척척 분석해 줄 것이라 기대했다. 성능 좋은 인공지능이 서류 창고의 먼지를 알아서 털어줄 것이라 믿은 셈이다. 현실은 달랐다. 출처가 불분명하고 문맥이 꼬인 데이터를 먹은 인공지능은 엉뚱한 답을 뱉어내거나 법적 리스크를 키웠다.
외신 주간 AI 뉴스 요약 보고서(AIPOD-CAST, 2026)에 따르면, 수십 년간 글로벌 아웃소싱의 중심지였던 인도 산업계가 이 문제로 직격탄을 맞았다. 엄청난 양의 파편화된 다크 데이터가 엮이면서 인공지능 시스템 전체가 모래 빠짐 현상인 ‘퀵샌드(Quicksand)’ 기초 위에 서 있는 형국이라는 지적이다. 신규 벤처캐피털 동향 보고서(The Innovation Attorney, 2026) 역시 최근 자금 흐름이 인공지능 모델 자체보다 인프라 관리와 데이터 품질 최적화 소프트웨어 기업으로 쏠리고 있다고 전한다. 시장은 이미 문제의 본질을 파악하기 시작했다.
왜 나타났는가: ‘더 넓은 그물’만 찾다 놓친 ‘고기의 상태’
생성형 인공지능이 처음 등장했을 때 시장의 관심은 온통 고성능 장비에 쏠렸다. 더 많은 데이터를 밀어 넣고 더 큰 그래픽 처리 장치(GPU)를 돌리면 모든 문제가 해결될 것처럼 보였다. 이는 마구잡이로 그물을 크게 쳐서 바다 밑바닥까지 훑어 올리는 저인망 방식과 비슷했다. 그물 안에 쓸모없는 쓰레기와 독성이 있는 해파리가 섞여 들어오는 것은 신경 쓰지 않았다.
그러나 실제 기업 운영은 시험실의 실험과 다르다. 정확한 문맥과 데이터의 구조를 뜻하는 스키마(Schema)가 갖춰지지 않은 채 인공지능을 가동하면 오류가 속출하고 실수가 빈발한다. 잘못된 고객 정보로 계약서를 작성하거나 규제에 위반되는 개인정보를 유출하는 사고가 발생한다. 생산성과 편의성을 얻으려다 법적 책임을 지게 되는 셈이다. 여기에 유럽연합의 기업 지속가능성 공시지침(Corporate Sustainability Reporting Directive, CSRD)이나 디지털 제품 여권(Digital Product Passport, DPP)처럼 데이터의 출처와 이력을 철저히 요구하는 규제들이 도입되기 시작했다. 이제 데이터를 대충 쌓아 두기만 하면 경영 위험으로 이어질 수 있게 되었다.
눈에 보이는 생산성과 편리함을 좇아 인공지능을 성급하게 도입한 기업일수록 이 거친 풍랑을 가장 먼저 맞닥뜨린다. 반면 한걸음 물러서서 기존 서류와 데이터를 정리해 온 기업은 인공지능을 안전하게 가동할 기반을 얻는다. 단순한 기술 격차가 아니라 오랫동안 쌓아온 행정 및 관리 프로세스의 격차가 인공지능 시대의 진짜 실력으로 드러나고 있다.
확산될 경우의 변화: 일터의 조직도와 예산 판도가 바뀐다
이 신호가 산업 전반으로 확산된다면 기업이 돈을 쓰는 방식부터 달라질 것이다. 신규 인공지능 서비스 개발에 쏟아붓던 예산의 상당 부분이 데이터를 분류하고 라벨을 붙이며 메타데이터(Metadata, 데이터에 관한 설명 데이터)를 관리하는 기초 작업으로 옮겨갈 가능성이 높다. 화려한 서비스 개발보다 뒤편의 데이터 청소가 우선순위를 점하게 된다.
조직의 풍경도 바뀐다. 단순히 코딩을 잘하는 개발자보다 특정 업무의 맥락을 깊이 이해하면서 데이터를 선별할 줄 아는 데이터 큐레이터(Data Curator)나 데이터 스튜어드(Data Steward)의 가치가 올라간다. 법률, 금융, 제조 등 각 현장의 도메인 지식을 갖춘 베테랑 노동자들이 데이터의 맥락을 바로잡는 핵심 인력으로 재조명받게 된다.
단기적으로는 인공지능 도입 속도가 느려질 수 있다. 데이터를 가다듬는 데 시간이 걸리기 때문이다. 그러나 길게 보면 허술한 인공지능이 일으킬 사고를 막고, 국경을 넘나드는 안전한 데이터 공유 생태계를 만드는 토대가 된다. 기초 공사를 단단히 다진 건물만이 오래 버티는 법이다.
미래 시나리오: 데이터 거버넌스가 갈라놓을 미래
데이터 거버넌스(Data Governance), 데이터의 품질·보안·활용 체계를 관리하는 총체적 규범)를 둘러싼 대응에 따라 사회는 서로 다른 두 가지 풍경을 맞이할 수 있다. 데이터 거버넌스란 조직의 데이터를 안전하게, 정확하게, 일관되게, 그리고 규정에 맞게 관리하기 위한 정책·역할·프로세스·기술의 체계를 뜻한다. 쉽게 말해, “누가 어떤 데이터를 어떻게 다루고 책임질 것인가”를 정하는 운영 원칙이다.
긍정 시나리오
기업과 공공기관이 데이터 정제와 표준화를 최우선 과제로 삼는다. 어지럽게 흩어져 있던 공공 기록과 기업 서류들이 일그러짐 없이 깔끔하게 정리된 체계를 갖춘다. 체계적으로 분류된 데이터 카탈로그 덕분에 인공지능은 환각 현상 없이 정확한 답변을 낸다.
한국의 경우 기존 데이터댐 사업이나 공공데이터 품질 개선 프로젝트와 연동되면서 ‘인공지능이 즉시 활용할 수 있는 데이터(AI-Ready Data)‘를 가장 많이 확보한 국가로 거듭난다. 기업은 법적 리스크 없이 인공지능을 업무에 적용하고, 시민들은 한층 신뢰할 수 있는 대민 행정 서비스를 이용하게 된다. 기술의 속도와 사회적 안전망이 균형을 이루는 모습이다.
부정 시나리오
데이터 관리에 드는 비용을 감당하지 못한 기업들이 시늉만 내는 형식적 거버넌스를 구축한다. 겉으로는 관리가 되고 있다고 포장하지만, 실제로는 쓰레기 데이터를 그대로 인공지능에 입력한다. 그 결과 인공지능의 오작동으로 인한 대규모 금융 사고나 개인정보 유출 소송이 연이어 터진다.
다른 한편에서는 데이터 정제 비용을 감당할 수 있는 대기업과 그렇지 못한 중소기업 사이의 격차가 벌어진다. 중소기업은 인공지능 도입을 포기하거나 위험한 저품질 인공지능에 의존하다 도태된다. 규제와 비용의 벽에 막혀 인공지능 생태계 전체가 활력을 잃고 굳어버리는 결과를 낳을 수 있다.
갈림길
두 갈래 미래를 가르는 핵심은 기술의 성능이 아니다. 데이터를 가공하고 검증하는 과정에서 발생하는 비용과 책임을 누가 지느냐다. 데이터의 출처를 투명하게 공개하도록 법적 규칙을 세울 것인가, 아니면 기업의 자율에만 맡겨둘 것인가. 인공지능이 잘못된 판단을 내렸을 때 원인이 된 데이터의 맥락을 추적할 통로가 마련되어 있는가. 이 질문들에 대한 사회적 합의 수준에 따라 미래의 모습은 완전히 달라진다.
관찰 포인트
이 이슈가 실제 주류 변화로 자리 잡고 있는지 확인하려면 몇 가지 구체적인 장면을 유심히 살필 필요가 있다.
첫째, 기업들의 인공지능 관련 예산 내역이다. 신규 인공지능 모델 구입비보다 데이터 정제와 관리 도구에 할당되는 예산 비중이 커지는지 확인해야 한다. 예산의 이동은 기업들이 체감하는 진짜 병목이 어디인지를 가장 정직하게 보여준다.
둘째, 채용 시장의 단어 변화다. 단순히 ‘AI 엔지니어’를 찾는 공고보다 ‘데이터 큐레이터’나 ‘최고 데이터 최고 책임자(Chief Data & Analytics Officer, CDAO)‘를 찾는 구인 공고가 늘어나는지 봐야 한다. 이는 조직이 데이터를 관리할 책임자를 두기 시작했다는 실질적 신호다.
셋째, 스타트업 투자 시장의 자금 흐름이다. 화려한 생성형 인공지능 서비스 스타트업보다 멀티클라우드 환경에서 데이터를 추적하고 비용을 줄여주는 인프라 관리 SaaS(Software as a Service) 기업으로 벤처 투자가 몰리는지 관찰할 필요가 있다.
마지막으로 금융 및 ESG 공시 지침의 변화다. 규제 기관이 기업에 인공지능 도입 여부만 묻는 것을 넘어, 사용된 데이터의 계보와 보안 기준을 엄격하게 요구하기 시작한다면 데이터 거버넌스는 더 이상 선택이 아닌 생존의 문제가 된다.
관련 문헌
AIPOD-CAST. (2026.07.12). Weekly AI News Summary - dark data problem limiting AI in India. https://www.youtube.com/watch?v=siARCziimrI
The Innovation Attorney. (2026.07.18). Weekly VC research report: Emerging technical arenas (AI infrastructure management). https://theinnovationattorney.substack.com/p/weekly-vc-research-report-emerging