미국 정부가 최고 성능 AI 모델을 출시 전에 미리 들여다보는 검사 제도를 구체화했어요. 오픈AI를 비롯한 프론티어 AI 기업이 새로운 최첨단 모델을 내놓기 전, 정부가 먼저 살펴보고 국가안보에 위협이 되거나 보안 사고를 일으킬 위험은 없는지 확인하겠다는 건데요. 말 그대로 AI도 세상에 나오기 전 ‘사전 검사’를 받게 되는 셈이죠. 😮
그런데 이번 규제에서 눈에 띄는 점이 하나 있습니다. 바로 오픈웨이트(Open-weight) 모델은 검사 대상에서 빠졌다는 것! 오픈웨이트란 쉽게 말해 AI 모델을 외부에 공개해 누구나 내려받아 활용하거나 수정할 수 있도록 한 방식인데요. 이번 사전 검사에서는 이런 오픈웨이트 모델이 제외됐습니다.
그런데 흥미로운 건 따로 있습니다. 미국 정부가 이와 별개로 중국산 오픈웨이트 모델에 대해서는 새로운 제재를 검토하고 있다는 것인데요. 한쪽에서는 오픈웨이트를 사전 검사 대상에서 제외하면서, 다른 한쪽에서는 중국산 오픈웨이트를 둘러싼 규제 논의가 시작된 셈이죠. 미국은 대체 오픈웨이트 AI를 어떻게 바라보고 있는 걸까요?
먼저 이번 사전 검사 제도부터 살펴볼게요. 지난 6월 트럼프 대통령은 행정명령을 통해 이전 바이든 정부가 폭넓게 다뤘던 AI 규제의 초점을 국가안보와 사이버보안 문제로 좁혔습니다. 최근 구체화된 제도 역시 이 틀 안에서 만들어졌는데요. 미국 상무부와 국가안보국(NSA)이 함께 AI의 모의 해킹 능력과 국가 인프라를 위협할 가능성 등을 평가하는 기준을 만들고, 이 기준을 넘어서는 최고 성능 AI를 출시 전에 살펴보겠다는 겁니다. 다만 NSA가 만드는 평가 기준 자체는 외부에 공개하지 않기로 했어요.
검사 대상은 핵심 데이터(가중치)를 공개하지 않는 최고 성능의 폐쇄형 모델입니다. 해당 모델을 만든 기업은 출시 전 최대 30일 동안 정부 평가팀이 모델을 미리 들여다볼 수 있도록 해야 하는데요. 이 기간에는 모델을 보안이 강화된 환경에 보관하고, 누가 언제 접근했는지도 기록으로 남깁니다. 심지어 회사 내부 직원의 접근까지 제한되고요. 꽤 강도 높은 검사처럼 보이지만, 정부가 AI 출시 여부를 직접 허가하는 제도는 아닙니다. 트럼프 대통령의 행정명령에는 정부가 새로운 사전 허가제나 인허가 제도를 만들 수 없다는 내용도 들어 있기 때문이에요. 즉, 이번 평가는 기업들이 자율적으로 참여하는 방식인 거죠.
그런데 오픈웨이트 모델은 이번 검사 대상에서 제외됐습니다. 아직 이번 제도가 겨냥하는 최고 성능 AI 수준에는 이르지 못했고, 가중치가 이미 공개돼 있어 사전 검사의 필요성이 상대적으로 적기 때문으로 보이는데요. 성능이 상대적으로 낮은 다른 AI 모델들도 검사 대상에서 빠졌고요. 특히 이번 결정은 젠슨 황 엔비디아 CEO 등이 워싱턴을 방문해 정부 관계자들을 만난 이후에 나왔어요.
자, 여기까지만 보면 “미국은 오픈웨이트 AI에는 규제를 덜 하려나 보다 🤔” 싶죠? 그런데 중국산 오픈웨이트로 넘어가면 이야기가 달라집니다. 미국 정부는 이와 별도로 중국 문샷 AI가 만든 Kimi K3 같은 주요 오픈웨이트 모델에 대한 제재를 검토하고 있거든요.
미국이 문제 삼는 건 이들 모델이 미국 AI 기업의 기술을 ‘증류(Distillation)’해 성능을 끌어올렸다는 점입니다. 증류란 다른 AI가 만들어낸 결과물을 학습해 그 성능을 따라가는 방식을 말해요. 미국 정부는 이를 단순한 기업 간 AI 경쟁이 아니라 국가안보와 지식재산권 침해 문제로 보고 있습니다. 오픈웨이트 자체는 사전 검사에서 제외했지만, 기술 유출이나 탈취 문제가 얽히면 이야기가 달라지는 거죠.
문제는 여기서 끝이 아닙니다. 😥 업계에서는 특정 중국 모델을 막기 위해 시작한 규제가 오픈웨이트 AI 기술 전반에 대한 규제로 확대될 수 있다고 우려하고 있는데요. 이에 엔비디아, 메타, 마이크로소프트, IBM, 팔란티어, 허깅페이스 등 70여 개 주요 기업이 정부에 규제 반대 서한을 보냈고, 오픈AI도 여기에 이름을 올렸습니다. 소규모 스타트업과 투자자 200여 곳이 모인 ‘리틀 테크 어소시에이션’ 역시 백악관과 상무부에 별도로 반대 의견을 전달했고요.
그런데 주요 AI 기업 중 앤트로픽은 이 반대 서한에 참여하지 않았습니다. 비판이 나오자 다리오 아모데이 앤트로픽 CEO가 직접 입장을 밝혔는데요. 오픈웨이트 모델을 전부 금지하자는 게 아니라, 중국과 같은 권위주의 국가로 첨단 반도체가 흘러 들어가는 것을 막고 무단 기술 탈취를 방지하는 ‘표적화된 안전장치’가 필요하다는 설명입니다. 오픈웨이트 전체를 막기보다는 실제 안보 위협이 발생할 수 있는 부분을 겨냥해야 한다는 입장인 셈이죠.
조금 복잡하죠? 😵💫 지금 상황을 정리하면 오픈웨이트 모델은 이번 사전 검사 대상에서는 제외됐습니다. 최고 성능의 폐쇄형 AI 모델을 출시 전에 들여다보는 것이 이번 제도의 핵심이기 때문인데요. 중국산 오픈웨이트 역시 이 사전 검사 대상에는 포함되지 않았습니다.
다만 이와 별개로 미국 정부는 중국산 오픈웨이트 모델을 둘러싼 별도의 제재 방안을 검토하고 있습니다. 미국 AI 기업의 기술을 무단으로 활용했는지, 첨단 반도체와 기술이 중국으로 흘러 들어가 국가안보에 영향을 미칠 가능성은 없는지 등을 문제 삼고 있는 거죠.
결국 이번 사전 검사에서 빠졌다고 해서 오픈웨이트가 미국의 AI 규제 논의에서 완전히 자유로워졌다고 보기는 어렵습니다. 한쪽에서는 오픈웨이트를 사전 검사 대상에서 제외하고 있지만, 다른 한쪽에서는 중국과의 기술 경쟁과 국가안보 문제를 이유로 새로운 규제 필요성을 두고 논쟁이 이어지고 있으니까요.
앞으로의 관건은 미국이 오픈웨이트 자체를 규제할 것인지, 아니면 기술 탈취나 국가안보 위험처럼 특정 문제만 겨냥해 규제할 것인지에 있습니다. AI 기술을 자유롭게 활용할 수 있다는 오픈웨이트의 장점은 살리면서도 위험은 어디까지 통제할 것인지, 미국의 고민은 당분간 계속될 것으로 보입니다. 👀
콘텐츠 제공 : 바이라인네트워크(byline.network)
