The distillation panic
"증류 공격(distillation attack)"이라는 잘못된 프레이밍이 AI 산업 전체를 규제로 옥죄는 자충수가 될 수 있다는 경고. 용어 하나가 정책을 좌우한다.
Anthropic이 중국 랩 3곳의 "증류 공격"을 공개한 이후, 의회 법안과 행정명령까지 나오는 상황. 문제는 증류(distillation) 자체가 업계 표준 기술이라는 것. Nvidia, Ai2, 심지어 xAI도 경쟁사 모델을 증류해 쓴다. 진짜 문제는 API 탈취나 탈옥(jailbreaking) 같은 "수단"인데, 증류라는 "기술" 전체에 부정적 낙인이 찍히는 중이다. 이대로 가면 중국 오픈 웨이트 모델이 미국 내에서 사실상 금지되고, 정작 타격은 서구 학계와 스타트업이 입게 된다. 중국 랩들은 어차피 규제 무시하고 할 건 다 할 것이고.
Elon Musk가 법정에서 "xAI가 OpenAI 모델을 증류했느냐"는 질문에 "보통 AI 회사들은 다들 그렇게 한다(Generally AI companies distill other AI companies)"라고 답한 장면. 증류는 그만큼 일상적이라는 뜻.
규제 과잉이 실제로 적(중국)보다 아군(미국 오픈소스 생태계)을 먼저 죽일 수 있다는 고전적 함정. 중국 모델 의존도가 높은 서구 학계/스타트업은 대체재 없이 6개월 이상 공백을 맞을 수 있고, 그 사이 인재는 빅테크 클로즈드 플랫폼으로 흡수된다. "open source vs open weight" 논쟁처럼, 용어 정의 실패가 정책 실패로 직결되는 사례가 또 반복될 조짐.