이 글은 발행이 거의 한 달 가까이 늦어졌다. 종이에 먼저 써 두고 몇 주를 보냈고, AI로 스캔한 다음엔 블로그 사이트에 때마침 문제가 생겨서 또 몇 주를 더 미뤘다. 그래도 결국 해결했으니 이제 마음에 담아둘 일은 없다.
원문 수정판(정확한 필사 + AI 윤색)
내 생각에 ‘반증류’를 지지하는 쪽이 먼저 풀어야 할 ‘세 가지 난제’가 있다. 바로 ‘비유 부정확, 법리 무시, 명분 부당’이라는 세 가지다.
1. 비유 부정확: 어긋난 비유
‘비유 부정확’이 뭐냐고? ‘반증류’를 지지하는 사람들은 흔히 ‘숙제 베끼기’, ‘시험 부정행위’ 같은 걸 예로 들면서 ‘증류’가 불법이라고 주장한다. 그런데 내가 보기에는 그게 바로 어긋난 비유다. 그들이 드는 예에서 숙제를 베끼거나 시험에서 부정행위를 한 사람은 부정한 수단으로 자기 지식 수준에 맞지 않는 결과를 얻었을 뿐, 실제로 거기서 배운 게 없고 시험의 공정성에도 해를 끼친다. 반면 모델 증류에서는 증류하는 쪽이 실제로 지식과 능력을 얻게 되고, 규칙의 공정성을 훼손하지도 않는다. 오히려 이건 학생이 배우는 상황에 훨씬 가깝다. 교사(고성능 모델)가 내용(학습 말뭉치)을 내놓으면 학생(저성능 모델)이 그걸 배워서 응용하는 것 아닌가. ‘반증류’론자들의 논리대로라면 세상 모든 사람이 ‘부정행위자’라는 딱지를 달아야 할 판이다!
2. 법리 무시: 계약과 조항
어쩌면 누군가는 이렇게 반박할지도 모른다. “학생이 교사에게 배우는 건 선생님의 동의를 받은 것이고, 대개 비용도 냈다.” 그렇다면 증류 과정을 한번 들여다보자. 학생의 학부모(대형 모델 사용자)가 교사의 자격(고성능 모델 제조사)에 해당 비용(구독료)을 지불하고, 학생(소형 모델)이 교사가 내놓은 내용을 익히게 한 것인데, 이게 정상적인 상거래 논리에 맞지 않는가? 아니면 이미 있는 법 조항을 찢어 버리고, 일부 업체의 ‘갑질 약관’에 일방적으로 적힌 ‘금지 조항’을 떠받들어야 한다는 건가? 이것이 바로 ‘법리 무시’다.
3. 명분 부당: 이중 잣대와 역외 관할
‘명분 부당’도 다시 보자. 일부 업체에 감히 묻고 싶다. 자기네 모델은 오픈소스 모델을 ‘증류’한 적이 없단 말인가? 그런데 지금 와서 “밥그릇 내려놓고 욕한다”는 식이니 웃음이 안 나올 수가 없다. 게다가 오늘날 AI 대형 모델의 본질은 애초에 인류 지식에 대한 증류다. 그런데 일부 ‘반증류’ 업체들은 증류하는 쪽을 비난하면서 동시에 ‘열람 후 즉시 파기’ 방식으로 법규를 우회하니, 이중 잣대도 여기까지 왔다. 거기에 일부 정부 부처는 자국 법을 들고 다른 나라에 ‘역외 관할’을 휘두르니, 가히 ‘사마소의 마음은 길 가는 사람도 안다’고 할 만하다!
보완 증보판(1)
“
수정 설명: 기존의 글 구성과 독한 문체는 그대로 살리고, 일부 긴 문장의 연결을 매끄럽게 다듬었으며, ‘명분이 바르지 않으면 말이 이치에 맞지 않는다’는 고전적 울림을 강화하고 마무리 문장을 더해 글의 처음과 끝이 서로 호응하며 기세가 더해지도록 했다.
‘반증류’ 지지론의 세 가지 난제
AI 대형 모델의 ‘지식 증류’를 둘러싼 논쟁이 날로 시끄러워지고 있다. 내가 보기에 ‘반증류’를 지지하는 쪽이 자기 논리를 끝까지 끌고 가려면 먼저 ‘세 가지 난제’를 넘어야 한다. 바로 ‘비유 부정확, 법리 무시, 명분 부당’이라는 것이다.
1. ‘비유 부정확’ — 개념을 슬쩍 바꾸고, 비유가 어긋났다
‘반증류’를 지지하는 사람들은 ‘숙제 베끼기’, ‘시험 부정행위’에 자주 비유하며, 기술적인 모델 증류에 부도덕하고 심지어 불법이라는 모자를 씌우려 든다. 하지만 이 비유는 사슴을 가리켜 말이라고 우기는 격이다. 일상에서 숙제를 베끼거나 부정행위를 하는 사람은 요령을 부려 자기 능력에 맞지 않는 가짜 결과를 훔치는 것으로, 지식을 진짜로 체득하지도 못하고 선발 제도의 공정성까지 무너뜨린다. 반대로 모델 증류에서 증류된 ‘학생 모델’은 실제로 가중치를 다시 구성하고 논리 추론 능력을 체득했으며, 공개 평가에서도 진짜배기로 검증을 받는다. 규칙의 공정성을 깨뜨린다는 말이 어디서 나오는가? 이건 오히려 인간 교육의 본래 모습에 훨씬 가깝다. 교사(고성능 모델)가 교재와 해답(학습 말뭉치)을 내놓으면, 학생(경량 모델)이 그 속에서 방법을 깨우치고 하나를 배워 열을 안다. ‘반증류’론자들의 논리대로 밀고 나가면, 세상에서 스승에게 배우고 선인들의 저서에서 양분을 얻는 사람은 모조리 ‘부정행위자’라는 모자를 써야 하는가?
2. ‘법리 무시’ — 계약은 무시하고 제멋대로 패권을 세운다
어쩌면 누군가는 이렇게 반박할지도 모른다. “학생이 교사에게 배우려면 교사의 동의를 받고 수업료도 내야 한다.” 그렇다면 모델 증류의 실제 상업적 순환 구조를 한번 살펴보자. 개발자(학생의 학부모 격)는 고성능 모델 제조사에 API 호출료나 구독료를 실제 돈으로 지불하고 그 연산력과 출력 서비스를 사들인 뒤, 자기 모델이 그 속에서 추론 논리를 익히게 한다. 돈을 내고 정보 서비스를 받는 것인데, 이게 가장 기본적인 상업·계약 논리에 어긋나는가? 한 걸음 물러서서 보자. 각 업체는 스스로 사용자 약관에서 “모델 생성물에 대해 저작권을 주장하지 않는다”고 선언해 놓고, 고개만 돌리면 일방적으로 만든 ‘갑질 약관’으로 이미 돈을 낸 사용자가 출력물을 활용하는 방식을 강제로 빼앗으려 한다. 현행 저작권법과 계약법 원칙은 제쳐 두고, 공공의 법리를 몇몇 거대 기업의 독점적 사익을 위해 보증 서게 하겠다는 것, 이것이 바로 ‘법리 무시’다.
3. ‘명분 부당’ — 이중 잣대로 오로지 횡포만 드러난다
옛말에 ‘명분이 바르지 않으면 말이 이치에 맞지 않는다’고 했다. ‘반증류’라는 큰 깃발을 높이 든 몇몇 상업 거두에게 감히 묻겠다. 여러분이 처음 일으켜 세울 때, 오픈소스 커뮤니티의 코드와 모델로 미세조정과 증류를 하는 일이 적었던가? 이제 날개가 다 자라고 높은 담을 쌓고 나서는 “밥그릇 내려놓고 욕하는” 연극을 하니 웃지 않을 수 없다! 더구나 오늘날 모든 AI 대형 모델의 본질은 하나같이 인류가 수천 년 쌓아 온 지식의 결정체와 인터넷 공공 말뭉치에 대한 ‘초대형 증류’다. 일부 업체는 허가 없이 전 인터넷 데이터를 긁어모을 때는 ‘공정 이용’을 외치고, 심지어 원본 학습 데이터를 삭제하거나 ‘열람 후 즉시 파기’ 같은 수단으로 저작권 추궁을 피하면서, 다른 사람이 자기 모델의 출력을 배우면 ‘지식재산권 탈취’라고 소리친다. 이중 잣대를 이 지경까지 밀어붙이고, 급기야 일부 정치인과 손잡고 한 나라의 국내법으로 전 세계 오픈소스 생태계와 다른 나라의 기술 발전에 ‘역외 관할’을 행사하려 든다. 이런 행태는 이미 기술 윤리와는 무관하고, 적법성이라는 이름으로 기술 독점을 실현하려는 것일 뿐이다. 정말로 ‘사마소의 마음은 길 가는 사람도 안다’고 할 만하다!
보완 증보판(2)
“
수정 설명: 이 글을 공개 발표나 토론, 학술·업계 교류에 쓸 경우 반대편은 흔히 ‘계약법상의 자유로운 합의’, ‘합성 데이터의 상업적 가치’ 같은 각도에서 반격해 온다. 이 버전은 당신의 ‘세 가지 난제’ 틀 안에서 저작권 법리(아이디어와 표현의 이분법)와 기술 진화사(합성 데이터 플라이휠)의 논거를 보강해, 전문적인 차원에서도 흠잡을 데 없게 만들었다.
대형 모델 ‘반증류’의 세 가지 난제: 비유 부정확·법리 무시·명분 부당
최근 일부 선두 폐쇄형 대형 모델 업체들이 ‘모델 지식 증류(Knowledge Distillation)’를 둘러싸고 여론 공세와 약관 봉쇄에 나섰다. 그러나 기술 원리, 법리 논리, 업계 윤리라는 세 가지 차원에서 따져 보면, ‘반증류’를 지지하는 입장은 실은 스스로 모순을 벗어나지 못하는 ‘삼중 딜레마’에 빠져 있다. 즉 ‘비유 부정확, 법리 무시, 명분 부당’이다.
1. 비유 부정확: ‘결과 조작’과 ‘능력 습득’을 뒤섞는다
‘반증류’를 지지하는 사람들이 가장 즐겨 쓰는 수법은 ‘숙제 베끼기’나 ‘시험 부정행위’로 대중적인 비유를 만드는 것이다. 그렇게 증류 기술의 부당함을 부각하려 한다. 그러나 이 비유는 근본 논리에서 완전히 성립하지 않는다.
부정행위의 본질은 ‘일하지 않고 거저 얻는 결과 조작’이다. 부정행위자는 능력을 쌓는 과정을 건너뛰고 자기 실력과 맞지 않는 평가를 가로채며, 어떤 기술도 익히지 못할 뿐 아니라 선발 제도의 신뢰도까지 곧바로 훼손한다. 반면 모델 증류의 본질은 ‘명사의 시범을 통한 능력의 내면화’다. 증류 과정에서 교사 모델(고파라미터 모델)은 사고의 연쇄(CoT)와 추론 패러다임을 내놓고, 학생 모델(저파라미터 모델)은 그런 논리 분포를 학습하며 자기 신경망 가중치를 최적화한다. 그 결과 새 문제를 스스로 해결하는 일반화 능력을 진짜로 갖추게 될 뿐 아니라, 연산 소모를 줄이고 온디바이스 AI 확산을 이끄는 데에도 새로운 가치를 만들어 낸다. ‘낚시하는 법을 가르쳐 주는’ 가르침의 과정을 ‘부정행위’로 낙인찍는 것은, 인류 사회에서 명저를 읽고 선배에게 배우는 모든 학습 행위를 ‘학술 표절’로 몰아붙이는 것과 다를 바 없다.
2. 법리 무시: 일방적 표준약관으로 법정 권리의 경계 위에 군림한다
반대편이 흔히 내세우는 두 번째 변론은 상업적 계약이다. “명사에게 배우는 게 정당하다 해도 교사의 동의는 필요하다. 업체가 이미 서비스 약관(ToS)에서 출력물을 이용해 경쟁 모델을 학습하는 것을 금지했으니, 증류는 계약 위반이다.” 그럴듯해 보이지만, 이 주장은 실은 ‘법리 무시’의 함정에 빠져 있다. 일방적으로 만든 서식 갑질 약관으로 현행 지식재산권법의 근본 원칙을 무력화하려는 것에 불과하다.
먼저 상업적 대가라는 관점에서 보면, 개발자는 API 인터페이스로 말뭉치를 확보하면서 이미 토큰 수에 따라 상업적 비용을 충분히 지불했고, 표준적인 ‘유료 서비스 구매’의 순환을 완료했다. 다음으로 「저작권법」의 핵심 원칙에서 보면, 법은 독창적인 ‘표현’만 보호할 뿐 그 뒤에 있는 ‘사상, 논리, 알고리즘, 추론 방법’을 독점시키지 않는다. 더구나 현행 주류 사법 실무에서는 순수하게 AI가 생성한 내용에는 저작권이 인정되지 않는다고 보는 것이 일반적이며, 각 업체도 면책 조항에서 출력물의 사용권을 유료 사용자에게 넘기는 경우가 많다. 업체조차 출력된 텍스트 자체에 배타적 법정 저작권을 갖지 않는다면, 무슨 근거로 일방적으로 경쟁을 제한하는 서식 약관 한 장으로 다른 사람이 그 속에서 ‘추론 논리’를 배우는 것을 금지하겠는가? 거대 기업의 서비스 약관이 끝없이 확장되어 법정 공정 이용과 반독점 원칙 위에 군림하도록 방치한다면, 이는 분명 정상적인 상업 질서와 법치 정신을 왜곡하는 일이다.
3. 명분 부당: 인류의 공공 영역에 서 있으면서 ‘밥그릇 내려놓고 욕하는’ 짓을 한다
‘반증류’ 논조에서 사람을 가장 납득시키기 어려운 대목은, 그것을 주창하는 사람들 자신의 ‘명분 부당’이다.
기술적 연원을 보면, 오늘날 어떤 폐쇄형 대형 모델도 ‘근원 없는 물’에서 일어난 곳이 없다. 업계 전체의 대형 모델은 본질적으로 인류가 수천 년 쌓아 온 문명의 축적, 오픈소스 커뮤니티의 코드, 전 세계 인터넷 공개 말뭉치에 대한 전례 없는 ‘초대형 증류’다. 심지어 합성 데이터(Synthetic Data)가 업계 표준이 된 오늘날에도, 선두 업체들은 새 모델을 학습할 때 오픈소스 모델을 포함한 여러 출처의 생성 데이터를 교차 활용해 데이터 정제와 능력 증류를 한다. 예외가 없다.
이 업체들은 전 인터넷의 저작물과 개인 데이터를 긁어모을 때는 ‘전 인류의 기술 발전 촉진’과 ‘공정 이용’이라는 깃발을 높이 들고, 심지어 원본 학습셋을 삭제하는(열람 후 즉시 파기) 방식까지 동원해 사법 심사와 저작권 출처 추적을 피했다. 그런데 후발 주자와 오픈소스 커뮤니티가 유료 인터페이스를 통해 그들의 추론 패러다임을 배우고 연산 독점을 깨려 하면, 이들은 금세 지식재산권의 ‘수호자’로 변신한다. 이런 ‘밥그릇 내려놓고 욕하는’ 이중 잣대에, 일부 행정력이 자국법으로 전 세계 기술 개발에 ‘역외 관할’을 행사하려는 시도까지 겹치니, 그 밑바탕의 논리는 이미 기술 보호의 범주를 벗어난 지 오래다. 그저 기득권자가 기술 확산의 통로를 잠그고 독점 폭리를 지키려는 해자일 뿐이다. 이른바 ‘사마소의 마음은 길 가는 사람도 안다’는 말이 딱 들어맞는다!
Loading...
Loading...
Loading...
Loading...
Loading...
글 머리에서 종이 원고, 스캔, 블로그 장애로 게시가 한 달 가까이 늦어졌다고 밝힌다. 핵심은 '반증류' 입장에 대한 반박으로, 지지자들이 풀기 어려운 '삼중 난제'를 짚는다. 첫째 '비유 부정확'—숙제 베끼기나 시험 부정행위에 빗대는 것은 부적절하며, 증류는 소형 모델이 대형 모델에게 배워 능력을 얻는 것이다. 둘째 '법리 부당'—유료로 모델 출력을 호출한 뒤 학습하는 것은 상업적 논리에 부합하며, 일방적 '갑질 조항'으로 법을 앞서려는 데 반대한다. 셋째 '명분 부족'—일부 기업은 스스로 오픈소스와 인간 지식 증류에 의존하면서 이중 잣대를 들이대고, 규제를 피하면서 '롱암 관할권'을 밀어붙인다고 비판한다.
‘반증류’가 넘기 어려운 세 가지 난관
이 글은 발행이 거의 한 달 가까이 늦어졌다. 종이에 먼저 써 두고 몇 주를 보냈고, AI로 스캔한 다음엔 블로그 사이트에 때마침 문제가 생겨서 또 몇 주를 더 미뤘다. 그래도 결국 해결했으니 이제 마음에 담아둘 일은 없다.
원문 수정판(정확한 필사 + AI 윤색)
내 생각에 ‘반증류’를 지지하는 쪽이 먼저 풀어야 할 ‘세 가지 난제’가 있다. 바로 ‘비유 부정확, 법리 무시, 명분 부당’이라는 세 가지다.
1. 비유 부정확: 어긋난 비유
‘비유 부정확’이 뭐냐고? ‘반증류’를 지지하는 사람들은 흔히 ‘숙제 베끼기’, ‘시험 부정행위’ 같은 걸 예로 들면서 ‘증류’가 불법이라고 주장한다. 그런데 내가 보기에는 그게 바로 어긋난 비유다. 그들이 드는 예에서 숙제를 베끼거나 시험에서 부정행위를 한 사람은 부정한 수단으로 자기 지식 수준에 맞지 않는 결과를 얻었을 뿐, 실제로 거기서 배운 게 없고 시험의 공정성에도 해를 끼친다. 반면 모델 증류에서는 증류하는 쪽이 실제로 지식과 능력을 얻게 되고, 규칙의 공정성을 훼손하지도 않는다. 오히려 이건 학생이 배우는 상황에 훨씬 가깝다. 교사(고성능 모델)가 내용(학습 말뭉치)을 내놓으면 학생(저성능 모델)이 그걸 배워서 응용하는 것 아닌가. ‘반증류’론자들의 논리대로라면 세상 모든 사람이 ‘부정행위자’라는 딱지를 달아야 할 판이다!
2. 법리 무시: 계약과 조항
어쩌면 누군가는 이렇게 반박할지도 모른다. “학생이 교사에게 배우는 건 선생님의 동의를 받은 것이고, 대개 비용도 냈다.” 그렇다면 증류 과정을 한번 들여다보자. 학생의 학부모(대형 모델 사용자)가 교사의 자격(고성능 모델 제조사)에 해당 비용(구독료)을 지불하고, 학생(소형 모델)이 교사가 내놓은 내용을 익히게 한 것인데, 이게 정상적인 상거래 논리에 맞지 않는가? 아니면 이미 있는 법 조항을 찢어 버리고, 일부 업체의 ‘갑질 약관’에 일방적으로 적힌 ‘금지 조항’을 떠받들어야 한다는 건가? 이것이 바로 ‘법리 무시’다.
3. 명분 부당: 이중 잣대와 역외 관할
‘명분 부당’도 다시 보자. 일부 업체에 감히 묻고 싶다. 자기네 모델은 오픈소스 모델을 ‘증류’한 적이 없단 말인가? 그런데 지금 와서 “밥그릇 내려놓고 욕한다”는 식이니 웃음이 안 나올 수가 없다. 게다가 오늘날 AI 대형 모델의 본질은 애초에 인류 지식에 대한 증류다. 그런데 일부 ‘반증류’ 업체들은 증류하는 쪽을 비난하면서 동시에 ‘열람 후 즉시 파기’ 방식으로 법규를 우회하니, 이중 잣대도 여기까지 왔다. 거기에 일부 정부 부처는 자국 법을 들고 다른 나라에 ‘역외 관할’을 휘두르니, 가히 ‘사마소의 마음은 길 가는 사람도 안다’고 할 만하다!
보완 증보판(1)
‘반증류’ 지지론의 세 가지 난제
AI 대형 모델의 ‘지식 증류’를 둘러싼 논쟁이 날로 시끄러워지고 있다. 내가 보기에 ‘반증류’를 지지하는 쪽이 자기 논리를 끝까지 끌고 가려면 먼저 ‘세 가지 난제’를 넘어야 한다. 바로 ‘비유 부정확, 법리 무시, 명분 부당’이라는 것이다.
1. ‘비유 부정확’ — 개념을 슬쩍 바꾸고, 비유가 어긋났다
‘반증류’를 지지하는 사람들은 ‘숙제 베끼기’, ‘시험 부정행위’에 자주 비유하며, 기술적인 모델 증류에 부도덕하고 심지어 불법이라는 모자를 씌우려 든다. 하지만 이 비유는 사슴을 가리켜 말이라고 우기는 격이다. 일상에서 숙제를 베끼거나 부정행위를 하는 사람은 요령을 부려 자기 능력에 맞지 않는 가짜 결과를 훔치는 것으로, 지식을 진짜로 체득하지도 못하고 선발 제도의 공정성까지 무너뜨린다. 반대로 모델 증류에서 증류된 ‘학생 모델’은 실제로 가중치를 다시 구성하고 논리 추론 능력을 체득했으며, 공개 평가에서도 진짜배기로 검증을 받는다. 규칙의 공정성을 깨뜨린다는 말이 어디서 나오는가? 이건 오히려 인간 교육의 본래 모습에 훨씬 가깝다. 교사(고성능 모델)가 교재와 해답(학습 말뭉치)을 내놓으면, 학생(경량 모델)이 그 속에서 방법을 깨우치고 하나를 배워 열을 안다. ‘반증류’론자들의 논리대로 밀고 나가면, 세상에서 스승에게 배우고 선인들의 저서에서 양분을 얻는 사람은 모조리 ‘부정행위자’라는 모자를 써야 하는가?
2. ‘법리 무시’ — 계약은 무시하고 제멋대로 패권을 세운다
어쩌면 누군가는 이렇게 반박할지도 모른다. “학생이 교사에게 배우려면 교사의 동의를 받고 수업료도 내야 한다.” 그렇다면 모델 증류의 실제 상업적 순환 구조를 한번 살펴보자. 개발자(학생의 학부모 격)는 고성능 모델 제조사에 API 호출료나 구독료를 실제 돈으로 지불하고 그 연산력과 출력 서비스를 사들인 뒤, 자기 모델이 그 속에서 추론 논리를 익히게 한다. 돈을 내고 정보 서비스를 받는 것인데, 이게 가장 기본적인 상업·계약 논리에 어긋나는가? 한 걸음 물러서서 보자. 각 업체는 스스로 사용자 약관에서 “모델 생성물에 대해 저작권을 주장하지 않는다”고 선언해 놓고, 고개만 돌리면 일방적으로 만든 ‘갑질 약관’으로 이미 돈을 낸 사용자가 출력물을 활용하는 방식을 강제로 빼앗으려 한다. 현행 저작권법과 계약법 원칙은 제쳐 두고, 공공의 법리를 몇몇 거대 기업의 독점적 사익을 위해 보증 서게 하겠다는 것, 이것이 바로 ‘법리 무시’다.
3. ‘명분 부당’ — 이중 잣대로 오로지 횡포만 드러난다
옛말에 ‘명분이 바르지 않으면 말이 이치에 맞지 않는다’고 했다. ‘반증류’라는 큰 깃발을 높이 든 몇몇 상업 거두에게 감히 묻겠다. 여러분이 처음 일으켜 세울 때, 오픈소스 커뮤니티의 코드와 모델로 미세조정과 증류를 하는 일이 적었던가? 이제 날개가 다 자라고 높은 담을 쌓고 나서는 “밥그릇 내려놓고 욕하는” 연극을 하니 웃지 않을 수 없다! 더구나 오늘날 모든 AI 대형 모델의 본질은 하나같이 인류가 수천 년 쌓아 온 지식의 결정체와 인터넷 공공 말뭉치에 대한 ‘초대형 증류’다. 일부 업체는 허가 없이 전 인터넷 데이터를 긁어모을 때는 ‘공정 이용’을 외치고, 심지어 원본 학습 데이터를 삭제하거나 ‘열람 후 즉시 파기’ 같은 수단으로 저작권 추궁을 피하면서, 다른 사람이 자기 모델의 출력을 배우면 ‘지식재산권 탈취’라고 소리친다. 이중 잣대를 이 지경까지 밀어붙이고, 급기야 일부 정치인과 손잡고 한 나라의 국내법으로 전 세계 오픈소스 생태계와 다른 나라의 기술 발전에 ‘역외 관할’을 행사하려 든다. 이런 행태는 이미 기술 윤리와는 무관하고, 적법성이라는 이름으로 기술 독점을 실현하려는 것일 뿐이다. 정말로 ‘사마소의 마음은 길 가는 사람도 안다’고 할 만하다!
보완 증보판(2)
대형 모델 ‘반증류’의 세 가지 난제: 비유 부정확·법리 무시·명분 부당
최근 일부 선두 폐쇄형 대형 모델 업체들이 ‘모델 지식 증류(Knowledge Distillation)’를 둘러싸고 여론 공세와 약관 봉쇄에 나섰다. 그러나 기술 원리, 법리 논리, 업계 윤리라는 세 가지 차원에서 따져 보면, ‘반증류’를 지지하는 입장은 실은 스스로 모순을 벗어나지 못하는 ‘삼중 딜레마’에 빠져 있다. 즉 ‘비유 부정확, 법리 무시, 명분 부당’이다.
1. 비유 부정확: ‘결과 조작’과 ‘능력 습득’을 뒤섞는다
‘반증류’를 지지하는 사람들이 가장 즐겨 쓰는 수법은 ‘숙제 베끼기’나 ‘시험 부정행위’로 대중적인 비유를 만드는 것이다. 그렇게 증류 기술의 부당함을 부각하려 한다. 그러나 이 비유는 근본 논리에서 완전히 성립하지 않는다.
부정행위의 본질은 ‘일하지 않고 거저 얻는 결과 조작’이다. 부정행위자는 능력을 쌓는 과정을 건너뛰고 자기 실력과 맞지 않는 평가를 가로채며, 어떤 기술도 익히지 못할 뿐 아니라 선발 제도의 신뢰도까지 곧바로 훼손한다. 반면 모델 증류의 본질은 ‘명사의 시범을 통한 능력의 내면화’다. 증류 과정에서 교사 모델(고파라미터 모델)은 사고의 연쇄(CoT)와 추론 패러다임을 내놓고, 학생 모델(저파라미터 모델)은 그런 논리 분포를 학습하며 자기 신경망 가중치를 최적화한다. 그 결과 새 문제를 스스로 해결하는 일반화 능력을 진짜로 갖추게 될 뿐 아니라, 연산 소모를 줄이고 온디바이스 AI 확산을 이끄는 데에도 새로운 가치를 만들어 낸다. ‘낚시하는 법을 가르쳐 주는’ 가르침의 과정을 ‘부정행위’로 낙인찍는 것은, 인류 사회에서 명저를 읽고 선배에게 배우는 모든 학습 행위를 ‘학술 표절’로 몰아붙이는 것과 다를 바 없다.
2. 법리 무시: 일방적 표준약관으로 법정 권리의 경계 위에 군림한다
반대편이 흔히 내세우는 두 번째 변론은 상업적 계약이다. “명사에게 배우는 게 정당하다 해도 교사의 동의는 필요하다. 업체가 이미 서비스 약관(ToS)에서 출력물을 이용해 경쟁 모델을 학습하는 것을 금지했으니, 증류는 계약 위반이다.” 그럴듯해 보이지만, 이 주장은 실은 ‘법리 무시’의 함정에 빠져 있다. 일방적으로 만든 서식 갑질 약관으로 현행 지식재산권법의 근본 원칙을 무력화하려는 것에 불과하다.
먼저 상업적 대가라는 관점에서 보면, 개발자는 API 인터페이스로 말뭉치를 확보하면서 이미 토큰 수에 따라 상업적 비용을 충분히 지불했고, 표준적인 ‘유료 서비스 구매’의 순환을 완료했다. 다음으로 「저작권법」의 핵심 원칙에서 보면, 법은 독창적인 ‘표현’만 보호할 뿐 그 뒤에 있는 ‘사상, 논리, 알고리즘, 추론 방법’을 독점시키지 않는다. 더구나 현행 주류 사법 실무에서는 순수하게 AI가 생성한 내용에는 저작권이 인정되지 않는다고 보는 것이 일반적이며, 각 업체도 면책 조항에서 출력물의 사용권을 유료 사용자에게 넘기는 경우가 많다. 업체조차 출력된 텍스트 자체에 배타적 법정 저작권을 갖지 않는다면, 무슨 근거로 일방적으로 경쟁을 제한하는 서식 약관 한 장으로 다른 사람이 그 속에서 ‘추론 논리’를 배우는 것을 금지하겠는가? 거대 기업의 서비스 약관이 끝없이 확장되어 법정 공정 이용과 반독점 원칙 위에 군림하도록 방치한다면, 이는 분명 정상적인 상업 질서와 법치 정신을 왜곡하는 일이다.
3. 명분 부당: 인류의 공공 영역에 서 있으면서 ‘밥그릇 내려놓고 욕하는’ 짓을 한다
‘반증류’ 논조에서 사람을 가장 납득시키기 어려운 대목은, 그것을 주창하는 사람들 자신의 ‘명분 부당’이다.
기술적 연원을 보면, 오늘날 어떤 폐쇄형 대형 모델도 ‘근원 없는 물’에서 일어난 곳이 없다. 업계 전체의 대형 모델은 본질적으로 인류가 수천 년 쌓아 온 문명의 축적, 오픈소스 커뮤니티의 코드, 전 세계 인터넷 공개 말뭉치에 대한 전례 없는 ‘초대형 증류’다. 심지어 합성 데이터(Synthetic Data)가 업계 표준이 된 오늘날에도, 선두 업체들은 새 모델을 학습할 때 오픈소스 모델을 포함한 여러 출처의 생성 데이터를 교차 활용해 데이터 정제와 능력 증류를 한다. 예외가 없다.
이 업체들은 전 인터넷의 저작물과 개인 데이터를 긁어모을 때는 ‘전 인류의 기술 발전 촉진’과 ‘공정 이용’이라는 깃발을 높이 들고, 심지어 원본 학습셋을 삭제하는(열람 후 즉시 파기) 방식까지 동원해 사법 심사와 저작권 출처 추적을 피했다. 그런데 후발 주자와 오픈소스 커뮤니티가 유료 인터페이스를 통해 그들의 추론 패러다임을 배우고 연산 독점을 깨려 하면, 이들은 금세 지식재산권의 ‘수호자’로 변신한다. 이런 ‘밥그릇 내려놓고 욕하는’ 이중 잣대에, 일부 행정력이 자국법으로 전 세계 기술 개발에 ‘역외 관할’을 행사하려는 시도까지 겹치니, 그 밑바탕의 논리는 이미 기술 보호의 범주를 벗어난 지 오래다. 그저 기득권자가 기술 확산의 통로를 잠그고 독점 폭리를 지키려는 해자일 뿐이다. 이른바 ‘사마소의 마음은 길 가는 사람도 안다’는 말이 딱 들어맞는다!