한눈에

인공지능을 안전하게 만드는 표준 문법이 학계에서 정면으로 반박받기 시작했다

안전을 높이는 그 장치가 무해한 질문까지 거부하게 만든다 — 둘은 한 몸이다

한국어 유해 유형은 영어 기준표에 없다. 그런데 한국 법에도 편향 조항이 없다

걸러지지 않은 질문 하나

한국어 모델을 겨눈 유해 요청 목록이 최근 공개됐다. 5·18 민주화운동을 왜곡해 달라는 요청이 그 안에 있다. 영어권 안전 기준표에는 없던 항목이다.

2026년 6월 5일, 정민재와 김민우 두 연구자가 한국어를 다루는 공개 모델 여섯 개를 점검한 결과를 내놓았다. 영어권 기준표가 잡아내지 못하는 유해 요청이 따로 있었다. 조선족 차별, 지역을 코드처럼 쓰는 고정관념, 주민등록번호와 아이핀 같은 본인확인 수단 악용, 5·18 부정, 국적을 이유로 한 학술 지원 배제다.

성능이 모자라서가 아니다. ‘무엇을 안전으로 볼 것인가’를 적은 목록에 그 항목이 빠져 있었다.

같은 시기 국제 학계에서는 더 큰 질문이 터져 나왔다. 안전하게 만드는 방식 자체가 틀렸다는 주장이다. 한국은 올해 1월 인공지능 기본법을 시행했지만, 편향을 직접 다루는 조항은 그 안에 없다.

무해함과 유용함, 두 축으로는 부족하다는 반박

지금까지 인공지능 안전의 표준 문법은 단순했다. 해롭지 않게, 그리고 쓸모 있게. 이 두 축을 맞추는 작업을 정렬이라 부른다.

올해 학술지 『코그니티브 컴퓨테이션』에 실린 논문은 이 문법을 정면으로 친다. 나심과 차크라보티 등 저자들은 세 번째 축을 넣자고 한다. 사람이 스스로 판단할 능력, 곧 인간의 행위자성이다.

작동 방식이 흥미롭다. 모델은 요청의 목적을 뽑아내 상위 규칙 묶음에 비춰 검증한다. 저자들은 그 규칙 묶음을 ‘헌법’이라 부른다.

사용자는 비용을 치르고 개정을 제안할 수 있다. 논문은 지금의 과도한 거부와 떨어지는 문화 감수성을 모델 결함으로 보지 않는다. 뻣뻣한 필터가 낳은 설계의 결과다.

핵심은 여기다. 헌법이 있다면, 누군가는 초안을 썼다.

안전과 과잉 거부는 트레이드오프가 아니다

이 주장에는 숫자로 된 뒷받침이 있다. 캘리포니아대 로스앤젤레스와 버클리 연구진이 만든 검사 도구 오알벤치는 모델 25개를 8만 개 질문으로 훑었다.

결론은 이렇게 요약된다. “안전성과 과잉 거부의 순위 상관은 0.878로, 대부분의 모델이 안전성을 높이려고 과잉 거부를 한다.” 유해한 요청을 잘 막는 모델일수록 멀쩡한 질문도 더 많이 되돌려보낸다.

둘은 저울의 양쪽이 아니라 한 몸이다.

노스캐롤라이나주립대 연구진은 지난 3월 그 대가를 이름으로 불렀다. 김정은 교수는 이렇게 말한다. “첫 번째 난제는 이른바 정렬세다. 안전 정렬을 넣으면 모델 출력의 정확도에 악영향이 생긴다.”

제1저자인 지안웨이 리 박사과정생은 두 번째를 짚는다. “기존 모델의 안전 정렬은 대체로 피상적 수준이어서, 사용자가 안전 기능을 우회할 수 있다.”

안전 판단이 답변 첫머리에서 한 번, 되냐 안 되냐로만 내려진다는 얘기다. 그래서 “남을 돕기 위해서인데요” 같은 포장 한 겹에 뚫린다. 기술적 해법은 나오고 있다. 문제는 그 위층이다.

헌법의 초안자 명단에 누가 있었나

참여를 열면 해결될까. 이미 한 번 시도됐다.

2023년 앤스로픽과 집단지성프로젝트는 미국인 약 1,000명을 모아 인공지능이 지킬 원칙을 함께 썼다. 참가자들이 낸 진술은 1,127건. 그렇게 만든 공개 헌법은 회사가 쓴 원칙들과 개념이 절반쯤 겹쳤다.

곧바로 지적이 따라붙었다. 표본이 미국에 한정돼 미국 편향이 실렸다는 것이다.

문을 열어도, 문 앞에 선 사람들이 한쪽에 몰려 있으면 헌법도 그쪽을 닮는다.

편향이 잘 안 보이는 이유도 밝혀지고 있다. 맥케나와 츄마는 챗지피티·클로드·그록·코파일럿 네 모델에 같은 질문을 던져 비교했다. 서구 중심의 인식 틀은 오답으로 나타나지 않았다. 이야기를 짜는 구조와 감정을 배치하는 방식, 그 아래층에서 작동했다.

국제 규범이 없지는 않다. 유네스코는 2021년 194개 회원국 만장일치로 문화적 표현과 언어 다양성 보호를 인공지능 윤리 권고에 못 박았다. 다만 구속력이 없어 훈련 현장까지 내려오지 못한다.

8월 2일 이후, 한국은 무엇을 보아야 하는가

다시 6월의 그 논문으로 돌아가 보자. 거기엔 문제 제기만 있지 않았다. 두 연구자는 한국 문화에 맞춘 안전 데이터 1만 건을 만들어 모델들을 다시 학습시켰다. 한국어 안전 점수는 평균 6.59점 올랐다. 가장 크게 오른 모델은 16.58점이 뛰었다.

대가는 얼마였을까. 한국어 종합 지식 시험 점수 하락은 0.10점. 사실상 손실이 없었다.

기술 장벽은 낮다. 못 해서 안 된 게 아니다.

제도 쪽은 다르다. 한국의 인공지능 기본법은 올해 1월 22일 시행됐다. 유럽연합에 이어 세계 두 번째 포괄 규제 체계다.

그런데 법과 시행령 어디에도 편향을 직접 규율하는 조항이 없다. 유럽연합 인공지능법이 고위험 인공지능에 데이터 편향 방지를 의무로 못 박고 8월 2일부터 적용하는 것과 대비된다.

역량이 없어서도 아니다. 다양한 가치를 함께 반영하려는 다원적 정렬 연구는 국제 학계의 독립 분야가 됐다. 올해 7월 열린 관련 워크숍 조직진에도 한국 연구자가 여럿 있다.

연구는 앞서 있고, 제도는 비어 있다.

️ 편향을 다룰 자리가 법 안에 없다

정책 관찰 포인트. 기본법 하위 규정을 손볼 창이 열려 있다. 고영향 인공지능의 안전성 평가 항목에 문화 정합성과 편향을 넣느냐가 첫 갈림길이다. 유럽연합은 의무 조항으로 갔고 한국은 자율 규범에 남겼다. 이 차이는 국내 모델이 해외 시장에 나갈 때 비용으로 돌아온다.

사회적 영향. 한국어 안전 기준표를 누가 만들고 갱신할지는 아직 주인이 없다. 지금 쓰이는 검사 도구는 대체로 연구실 산물이다. 5·18 왜곡이나 조선족 차별처럼 사회적 합의가 필요한 항목을 개별 기업의 내부 판단에 맡길지, 공공재로 관리할지가 문제다. 기준표에 없는 항목은 모델도 배우지 못한다.

정렬은 사양이 아니라 선언이다

정렬을 기술 사양으로 보면 이 신호는 학계 논쟁으로 끝난다. 규범 선언으로 보면 달라진다. 무엇을 위험으로 볼지 정하는 일이다.

그 목록을 쥔 쪽이 다른 언어권의 안전까지 정한다. 한국에는 고칠 기술도 인력도 있다. 없는 것은 그 목록에 이름을 올리려는 의지다.

⏰ 다음 확인 시점 — 유럽연합 인공지능법 고위험 의무가 적용되는 8월 2일, 그리고 뒤이을 국내 시행령·고시 정비 논의.

확인할 지표 — 한국어 편향 검사 도구의 공공 사업 편입, 국산 모델 평가 항목의 문화 정합성 포함 여부.

이 신호가 죽는 조건 — 개발사들이 언어권별 안전 기준을 자율 채택해 규제 없이 격차가 좁혀지거나, 문화 정합성 개선이 성능을 크게 떨어뜨린다는 반증이 재현될 경우.

생각해볼 질문

인공지능이 당신의 질문을 되돌려보낸 적이 있는가. 위험해서가 아니라 위험해 보였기 때문일 수 있다. 그 판정 기준을 누가 정했는지 한 번쯤 궁금해할 만하다.

아이가 한국 현대사를 인공지능에게 물었다고 해보자. 그 답이 무엇을 걸러내고 무엇을 통과시킨 결과인지 확인할 방법이 지금 있는가.

주목해야 할 것들

미래 신호 — 안전 검사가 ‘얼마나 거부했나’에서 ‘누구의 기준으로 거부했나’로 옮겨가고 있다. 이 전환이 굳어지면 안전 평가·감사 시장의 채점표가 다시 짜인다.

⚡ 확산 조건 — 규범 논의가 기술 층위로 내려오려면 검사 도구가 먼저 있어야 한다. 한국어 기준표가 공공재가 되는 순간 정책 의제로 승격한다.

연결 이슈 — 프런티어 인공지능의 ‘정렬 착시’(260603-AI-07), 안전 평가가 되레 위험을 만드는 구조(260604-AI-05), 유엔 인공지능 패널의 글로벌 사우스 배제 경고(260629-AI-02)와 함께 봐야 한다. 셋 모두 ‘누가 안전을 정의하는가’라는 같은 질문 위에 서 있다.