HN에서 읽은: 언어 모델이 자기 가중치를 고쳐 쓸 수 있을까 — 왜 볼 만한가
HN에서 읽은: 언어 모델이 자기 가중치를 고쳐 쓸 수 있을까 — 왜 볼 만한가
모델의 성능을 올리는 일은 보통 재학습·파인튜닝의 영역이다. 이 논문은 27B 오픈 모델이 자신의 실패 사례와 내부 상태를 분석해 가중치를 직접 수정하고, 미리 고정한 미공개 문제에서 성능을 높였다고 보고한다. 다만 HN 토론은 이 결과를 ‘자기 개선의 시작’이라기보다, 긴 추론 루프라는 구체적 결함을 고친 제한적인 실험으로 읽어야 한다는 쪽에 무게를 둔다.
원문
- 원문: Language Models Can Rewrite Their Own Weights
- HN 토론: https://news.ycombinator.com/item?id=50577265
- 수집 시점: 2026-11-21 KST
- HN 지표: 점수 268, 댓글 91개
- HN 게시 시각: 2026-11-21 01:29 KST (2026-11-20 16:29 UTC)
무엇을 말하나
- 저자들은 Qwen 계열 27B 모델에 가중치, 채점된 답안, 자기 실행 환경을 주고, 그래디언트나 별도 학습 실행 없이 실패 원인을 진단해 수정 코드를 만들게 했다. 모델은 연습 문제에서 통과한 편집만 다음 상태로 채택하는 방식으로 여러 세션을 반복했다.
- 논문은 사전에 고정한 490개 문제에서 정확도가 6.6포인트 상승했다고 보고한다. 저자 주장에 따르면 이득은 추론 때 추가 계산을 요구하는 프롬프트 기법과 달리 수정된 가중치에 남는다.
- 핵심 사례는 답을 내지 못하고 토큰 한도까지 반복하던 추론 패턴이다. 모델은 성공·실패 답안의 hidden state 차이를 비교해, 그 방향을 약화시키는 가중치 변경을 제안했다.
- 손상된 모델 복구 실험도 제시한다. 텍스트 수학 문제만 사용해 손상 행렬을 찾아 수정했고, 보지 않은 여섯 이미지 벤치마크의 정확도가 7%에서 70%로 올랐다고 보고한다. 이는 원래 손상되지 않은 모델 성능의 83%라는 저자 측정치다.
- 같은 절차를 더 작은 동일 계열 모델에 적용했을 때 2B는 편집을 만들지 못했고 4B·9B는 성능을 훼손했으며, 저자들은 이 차이를 규모에 따라 나타나는 능력으로 해석한다.
Hacker News 댓글 반응
- 합의에 가까운 해석: 여러 댓글은 실제로 관찰된 개선의 주된 원인이 ‘새 지식 획득’보다는 너무 긴 reasoning trace 때문에 답을 못 내던 루프를 줄인 데 있다고 짚었다. 한 댓글은 성공·실패 상태의 평균 차이를 계산해 그 방향으로 가중치를 조정한 것으로 읽힌다고 설명했다.
- 용어에 대한 반론: ‘학습 없이(no training)’라는 표현에는 이견이 컸다. 그래디언트와 옵티마이저를 쓰지 않았더라도, 연습 문제로 후보 편집을 시험하고 통과한 것만 채택하는 반복은 넓은 의미의 최적화·학습에 가깝다는 지적이다.
- 일반화의 한계: 일부 참여자는 유사한 weight-space programming 결과와 비교하며, 명백한 추론 루프 결함이 없는 모델에서 일반적인 수학 성능 개선을 보였는지는 아직 불분명하다고 평가했다. 장기 반복에서 의미 있게 수렴하는지, 기존 파인튜닝보다 효율적인지도 검증 과제로 남는다.
- 운영·안전 관점: 가중치 편집 자체가 곧 자율적 재귀 개선을 뜻하지는 않는다는 의견과 함께, 실제 적용이라면 외부 평가·변경 이력·롤백 같은 독립 통제가 필요하다는 우려도 나왔다.
- 논문 표현 방식: 결과보다 앞선 ‘자기 재작성 시대’ 같은 강한 문구와 통제 실험의 충분성에 회의적인 반응도 있었다. 흥미로운 실험과 과장된 해석을 분리해 읽자는 주문이다.
한국 개발자에게 남는 점
- 사실: 이 결과는 특정 공개 모델과 제한된 문제·실행 예산에서의 preprint 결과다. 제품 모델에 일반적으로 적용 가능한 성능 향상 기법으로 확인된 것은 아니다.
- 편집 메모: 사내 오픈 모델을 고치려 한다면 ‘모델이 알아서 개선했다’는 설명보다, 변경 전후의 고정 홀드아웃·회귀 평가·추론 비용·안전성 측정을 함께 남기는 편이 재현성과 감사에 유리하다.
- 편집 메모: 수정안을 온라인으로 바로 반영하지 말고, 불변 원본·승인 가능한 패치·독립 평가·즉시 롤백을 기본 경계로 두는 것이 현실적이다. 특히 정렬이나 정책 제약도 모델 품질의 일부라면, 업무 정확도만으로 배포 판단을 내릴 수 없다.
- 편집 메모: 이 논문이 유용한 질문은 ‘모델이 스스로 진화하는가’보다 ‘어떤 실패 신호를 어떤 평가로 고칠 수 있으며, 그 수정이 다른 과업을 망치지 않는가’에 가깝다.
출처
- 원문: https://arxiv.org/abs/2611.21885
- Hacker News 토론: https://news.ycombinator.com/item?id=50577265
댓글
댓글 쓰기