뉴스 / Model Watch · 생태계 & 정책
Anthropic, API에 증류 방지 조치 도입 — 명시된 대상은 "산업적 규모", 중국의 해답은 이미 준비되어 있었다
지난주 Fable 5.1 출시 발표에 묻혀 있었지만, 프런티어 역량의 확산 방식과 관련해 올해 가장 중대한 API 변화가 있었습니다: 신규 Claude API 계정은 더 이상 사고 블록(thinking block) 주변의 컨텍스트를 편집할 수 없습니다 — 이는 오직 증류(distillation)를 차단하기 위한 잠금 조치로, Anthropic 자체 출시 발표문에서는 이를 두고 "수천 개의 가짜 계정을 동원해 산업적 규모로" 자행되고 있다고 설명했습니다. The New Stack의 보도는 공공연한 비밀을 명확히 밝혔습니다. Anthropic은 중국 연구소들이 산업적 규모로 자사 모델을 증류하고 있다는 의혹을 공개적으로 제기해 왔다는 점입니다. 중국 매체들도 9월 5일 이를 "증류 탈출로의 완전한 차단"이라고 보도했습니다. 실제로 무엇이 바뀌었는지, 타깃은 누구인지, 그리고 중국의 오픈 웨이트 생태계로 인해 왜 이러한 대응이 이미 무색해 보이는지 짚어봅니다.
잠금 조치: 신규 Claude API 계정(2026년 8월 31일 00:00 UTC 이후 생성)은 Claude의 사고 기록(thinking transcript)을 보존한 채 이전 컨텍스트를 수동으로 수정할 수 없습니다. Messages API는 각 사고 블록을 이를 생성한 정확한 시스템 프롬프트, 도구 및 메시지와 대조 검증하며, 불일치 시 오류를 반환합니다. 적용 범위: 단계적 적용 — Fable 5.1에서는 기존 계정에 영향이 없으나, 차기 모델부터는 모든 사용자에게 적용됩니다. 컨텍스트 압축(context-compaction) 하네스는 재작업이 필요합니다. 패키지 구성: API 잠금 + 강화된 증류 분류기 + 세션 이전 제한 + 모든 출력에 대한 통계적 워터마크 적용. 실제 사고의 연쇄(chain-of-thought)는 Claude의 출력에 더 이상 전혀 포함되지 않습니다(요약본만 제공). 중국의 해답: DeepSeek의 전체 현행 라인업은 MIT 라이선스 가중치이며 GLM-5.3/Kimi K3는 다운로드 가능합니다 — 가중치가 공개된 상황에서 증류는 이미 논외의 문제입니다.
정확히 무엇이 바뀌었나 (공식 문서 기준)
- 작동 메커니즘. "사고 블록(thinking block)"은 응답 과정에서 Claude의 추론 과정을 기록한 것입니다. 이전에는 턴(turn)을 넘나들며 이 블록은 그대로 고정한 채 주변의 메시지, 도구, 시스템 프롬프트 등 모든 것을 다시 작성할 수 있었습니다. Anthropic의 표현에 따르면 이러한 비대칭성은 "공개적으로 문서화된 흔한 증류 기법"이었습니다. 고정된 추론을 임의의 목표로 유도하여 모델 역량을 대규모로 추출할 수 있었기 때문입니다. 이제 Messages API는 전체 튜플을 검증하고 불일치 시 거부합니다.
- 단계별 적용. 이번 조치는 2026년 8월 31일 이후 생성된 신규 Claude Platform 조직, Bedrock 계정, Vertex AI 프로젝트 및 Azure Foundry 프로젝트에 적용됩니다. 기존 계정은 압축 방식의 하네스가 마이그레이션할 수 있도록 Fable 5.1에 한해 의도적으로 적용이 유예되며, 사고 보존(preserved-thinking) 규제는 향후 모델 출시와 함께 모든 사용자에게 확대 적용됩니다.
- 명시된 이유. Anthropic의 출시 발표문에 따르면 증류는 "수천 개의 가짜 계정을 활용해 산업적 규모로 빈번히 악용"되고 있으며, "증류된 모델 역량이 이후 적절한 안전장치 없이 유출될 수 있기 때문에" 안전상의 위험을 초래합니다. The New Stack은 회사가 공개적으로 밝힌 지정학적 맥락을 덧붙였습니다. 바로 중국 연구소들이 산업적 규모로 모델을 증류하고 있다는 의혹입니다.
- 그 외 패키지 세부사항. 강화된 증류 감지 분류기, 안전장치가 더 강력한 모델에서 취약한 모델로의 세션 또는 추론 이전 제한, 8월 2일 이후 출시된 모든 결과물에 대한 통계적 텍스트 워터마크 적용 등이 포함됩니다. 또한 Hacker News의 한 Anthropic 엔지니어에 따르면, 증류 위험 때문에 실제 CoT(chain-of-thought)는 더 이상 Claude 출력물에 제공되지 않으며 사용자는 요약본만 보게 됩니다.
중국의 관점: 한쪽 통로는 닫혔지만, 해답은 이미 나와 있었다
이번 조치가 무엇을 막고 무엇을 막지 못하는지 명확히 볼 필요가 있습니다. 이는 저비용 추출 통로 — 즉 지난 2년간 "공짜로 얻는 프런티어 역량"이라는 수많은 이야기의 배후에 있던 API 단에서의 추론 경로 탈취를 차단합니다. 그러나 현재 실제로 중요한 두 가지 경로는 전혀 막지 못합니다. 첫 번째 경로: 오픈 웨이트로 인한 증류의 무의미화 — DeepSeek이 전체 현행 라인업(V4-Flash, V4-Pro, Vision-Exp)을 MIT 라이선스로 공개하고, Zhipu가 GLM-5.3 플래그십과 Flash를 다운로드 형태로 배포하는 상황에서는 빼낼 것도 없습니다. 그저 git clone만으로 역량이 이전되기 때문입니다. 두 번째 경로: 셀프 플레이(self-play) 및 합성 데이터 루프 — 중국 연구소들이 일 년 내내 공개해 온 강화학습 기반 개선 방식은 서구권의 그 어떤 API도 거치지 않습니다. 냉소적으로 보면 Anthropic은 경쟁사들의 개방성 때문에 이미 장식용이 되어버린 문에 자물쇠를 채우고 있는 셈입니다. 긍정적으로 본다면 폐쇄형 모델 증류는 실재하는 산업적 위협이었고, 어쨌든 차단할 가치가 있었습니다. 두 시각 모두 타당하며, API 빌더에게 실무적으로 중요한 점은 분명합니다. 다음 계정 갱신 전에 마이그레이션 가이드를 확인하여 하네스를 점검하라는 것입니다.
공식 출처
- Anthropic — Fable 5.1 & Mythos 5.1 출시 페이지(Anti-distillation mechanisms 원문: industrial scale / thousands of fake accounts)
- Claude Support — Preserved thinking: API 검증 메커니즘, 8월 31일부터 신규 계정 적용, 단계적 시행
- The New Stack — anti-distillation 섹션(중국 연구소의 산업적 규모 증류 의혹에 관한 공식 발언 포함)
- Hacker News — Anthropic 엔지니어, 증류 위험으로 인해 실제 CoT가 출력에서 제거되었음을 확인
- 중국 언론 보도: 36Kr(09-05) 「거대 모델 증류 시대의 종말: Fable 5.1, API 개편으로 증류의 탈출로를 완전히 차단」
자주 묻는 질문 (2026)
실제 API 변경 사항은 무엇인가요?
신규 계정(8월 31일 이후)은 사고 블록을 보존한 상태에서 이전 컨텍스트를 편집할 수 없습니다. API가 블록과 컨텍스트의 일관성을 검증하며 불일치 시 오류를 반환합니다. 기존 계정은 5.1 버전에서 예외가 적용되나, 차기 모델부터는 모든 사용자에게 적용됩니다.
중국 연구소를 겨냥한 조치인가요?
Anthropic이 특정 연구소를 지명하지는 않았으나, (The New Stack 보도에 따르면) 중국 측의 산업적 규모 증류에 대해 공개적으로 의혹을 표명해 왔으며 중국 언론 역시 이를 정확히 그렇게 해석했습니다. 이는 보도된 의혹일 뿐 공식적인 조사 결과는 아닙니다.
기존 하네스에 오류가 발생하나요?
기존 계정: 아직은 문제없습니다. 신규 계정 + 차기 모델: 사고 블록 주변의 컨텍스트를 다시 작성하는 모든 작업(압축, 리마인더 주입 등)에 오류가 발생합니다 — 마이그레이션 가이드를 확인하세요.
이 조치가 모델 역량 확산을 막을 수 있나요?
API를 통한 추출 경로는 차단됩니다. 하지만 오픈 웨이트(DeepSeek의 MIT 라인업, GLM-5.3, Kimi K3)나 Claude의 출력을 전혀 거치지 않는 강화학습/셀프 플레이 개선 루프에는 아무런 영향을 주지 못합니다.
패키지 전체에는 어떤 내용이 포함되어 있나요?
API 잠금 + 더욱 강력해진 증류 분류기 + 세션/추론 이전 제한 + 8월 2일 이후의 모든 출력에 대한 통계적 워터마크 적용입니다. 실제 CoT는 출력에서 제거되었으며 요약본만 제공됩니다.
이 점이 왜 중요한가요?
프런티어 모델 진영의 방어 태세는 강화(잠금, 워터마크, 검증 프로그램)되는 반면, 중국 진영의 태세는 개방(MIT 가중치, 공개 벤치마크)을 지향하고 있습니다. 이제 빌더들은 엄격히 통제되는 역량을 임대해 쓸 것인지, 개방된 역량을 온전히 소유할 것인지 선택해야 합니다.