Miscellaneous

[2026-1] 주서영 - Neural Collapse versus Low-rank Bias: Is Deep Neural Collapse Really Optimal?

영써 2026. 7. 19. 22:04

https://arxiv.org/pdf/2405.14468

 

이 논문은 깊고 비선형인 다중 클래스 모델에서는 Deep Neural Collapse의 직교 구조가 전역 최적해가 아니며, 정규화가 유도하는 low-rank 표현이 더 낮은 목적함수를 달성할 수 있다는 것을 이론과 실험으로 보인다.

Neural Collapse의 예시를 들어보자

딥러닝 모델이 학습을 끝낼 때 꼭 대칭 구조로 정리되는 것이 최선일까?

이 논문은 아니라고 주장한다. 때로는 더 단순한 구조, low-rank 구조가 더 좋은 답일 수도 있다.

딥러닝 모델이 사진을 보고 “고양이, 개, 자동차…”처럼 분류한다고 해보자.

학습이 잘 끝나면, 모델 안에서는 같은 종류의 데이터들이 비슷한 위치에 모인다.

예를 들어, 고양이 사진들은 한곳에 모이고, 개 사진들도 다른 한곳에 모이고, 자동차 사진들도 또 다른 한곳에 모인다.

이 현상을 Neural Collapse(NC1)라고 부른다.

또한 기존 Neural Collapse 이론에서는 각 클래스의 평균 벡터들이 서로 최대한 균등하게 떨어져 있는 대칭적인 구조를 형성한다고 본다. 이 논문의 설정에서는 그 구조가 서로 직교하는 형태로 나타나며, 이를 NC2라고 한다.

그러면 low-rank bias는?

교실에 학생 100명이 있다고 해보자.

학생들을 설명하는 방법이 두 가지 있다.

첫 번째 방법은 학생마다 아주 자세한 특징을 모두 기록하는 것이다. 키, 취미, 좋아하는 과목, 성격, 말투, 운동 실력 등등을 전부 기록한다.

두 번째 방법은 학생들을 몇 가지 큰 기준으로만 설명하는 것이다. 예를 들어 “문과형/이과형”, “활동적/조용함”, “혼자 공부/같이 공부” 같은 식이다.

두 번째 방법은 훨씬 단순하며 이처럼 딥러닝 모델은 복잡한 구조보다 적은 축으로 설명 가능한 단순한 구조를 좋아할 수 있다는 것이다.

기존 방법의 한계

기존 Neural Collapse 이론은 주로 다음과 같은 단순한 경우에 한정되어 있었다.

  • 마지막 특징을 자유변수로 취급하는 단일층 UFM
  • 비선형층이 두 개뿐인 모델
  • 여러 층이지만 선형인 모델
  • 깊고 비선형이지만 이진 분류인 모델

즉, 깊은 비선형 네트워크의 다중 클래스 분류에서 DNC가 정말 최적이라는 결과는 없었다.

기존 이론은 각 클래스의 평균 특징이 서로 직교하고 모든 중간층에서 랭크가 클래스 수 $K$가 되는 DNC2 구조를 최적이라고 보았다.

하지만 실제 깊은 모델에서는 여러 층에 걸친 $L_2$ 정규화가 랭크를 줄이려는 편향을 만들기 때문에, 이러한 full-rank 직교 구조가 지나치게 비쌀 수 있다는 것이 이 논문의 문제의식이다.

핵심 아이디어

DNC2와 low-rank bias

깊은 선형 행렬 분해에서 여러 층의 Frobenius norm 정규화 비용은 출력 표현에 대한 Schatten-$p$ quasi-norm과 연결된다. 깊이가 커질수록 이 비용은 랭크에 가까운 역할을 하므로, 모델은 동일한 예측 성능을 낼 수 있다면 더 낮은 랭크의 중간 표현을 선호한다.

반면 기존 DNC 해는 모든 중간층에서 랭크가 $K$이다. 논문은 이를 대체하는 SRG(Strongly Regular Graph) 해를 구성한다.

  • 중간층의 pre-ReLU 표현: 랭크 $\Theta(\sqrt{K})$
  • 마지막 ReLU 이후 표현: 랭크 $K$
  • 따라서 중간층의 정규화 비용은 줄이면서 마지막에는 레이블을 정확히 표현할 수 있음
    $$
    \underbrace{
    \operatorname{rank}(\widetilde{M}_L)
    = r
    = \Theta(\sqrt{K})
    }_{\text{ReLU 이전, low-rank}}
    \xrightarrow{\mathrm{ReLU}}
    \underbrace{
    \operatorname{rank}(M_L) = K
    }_{\text{레이블 fitting 가능}}
    $$
low-rank 병목을 유지하다가 마지막 ReLU에서만 필요한 랭크를 복원한다.

중요하게도 Neural Collapse 전체를 부정하지 않는다.

  • DNC1: 같은 클래스 샘플들이 하나의 클래스 평균으로 모이는 현상 → 여전히 최적
    $$
    H_l = M_l \otimes 1_n^\top
    $$
  • DNC2: 클래스 평균들이 직교하는 현상 → 일반적으로 최적이 아님
    $$
    M_l^\top M_l \propto
    I_K
    $$

방법

1. Deep Unconstrained Features Model 확장

논문은 $L$개의 비선형층과 $K$개의 클래스를 갖는 L-DUFM(L-layer Deep Unconstrained Features Model)을 분석한다. 첫 번째 특징 행렬과 모든 층의 가중치를 동시에 최적화하며, 목적함수는 다음 두 부분으로 구성된다.

  • 예측값과 one-hot 레이블 사이의 MSE
  • 모든 특징 및 가중치 행렬에 대한 Frobenuis norm 정규화 적용
    $$
    \min_{H_1, W_1, \dots, W_L} \frac{1}{2N} \|W_L \sigma(W_{L-1} \dots W_2 W_1 H_1) - Y\|_F^2 + \sum_{l=1}^L \frac{\lambda_{W_l}}{2} \|W_l\|_F^2 + \frac{\lambda_{H_1}}{2} \|H_1\|_F^2
    $$

2. Schatten quasi-norm과 low-rank bias

여러 층의 Frobenius norm 정규화 비용이 최종 pre-ReLU 특징 행렬의 Schatten quasi-norm과 연결된다는 점을 이용한다.

$$
\min_{\tilde{H}_L, W_L} \frac{1}{2N} \left\| W_L \sigma(\tilde{H}_L) - Y \right\|_F^2 + \frac{\lambda_{W_L}}{2} \left\| W_L \right\|_F^2 + \frac{\lambda_{\tilde{H}_L}}{2} \left\| \tilde{H}_L \right\|_{S_{2/L}}^{2/L}
$$
$$
\left\lVert \widetilde{H}_L \right\rVert_{S_{2/L}}^{2/L}
\approx
\operatorname{rank}\!\left(\widetilde{H}_L\right)
\qquad
(L \text{ large}) \\
\text{여러 층의 } L_2 \text{ 정규화}
\quad \Longrightarrow \quad
\text{low-rank 표현 선호}
$$

중간층에서는 대부분의 pre-activation을 음이 아닌 값으로 만들어 ReLU가 선형적으로 작동하게 하고, 마지막 층에서만 ReLU가 low-rank pre-activation을 full-rank 표현으로 변환하도록 한다.

3. DNC 해와 목적함수 값 비교

SRG 해와 DNC 해 각각에 대해 다음을 계산한다.

  • 조건부 최적 가중치
  • 중간 특징 행렬의 특이값과 의사역행렬
  • 각 층의 Frobenius norm 비용
  • 최종 예측 손실

두 해의 목적함수를 하나의 스케일 변수에 관한 최적화 문제로 줄여 직접 비교한다.

주요 이론 결과는 다음과 같다.

$$
L\geq4,\ K\geq6
\quad\text{또는}\quad
L=3,\ K\geq10
$$

$$
\mathcal{L}_\text{SRG} < \mathcal{L}_\text{DNC},\qquad \frac{\mathcal{L}_\text{SRG}}{\mathcal{L}_\text{DNC}}=O(K^{\frac{3-L}{2(L+1)}})
$$

이면 SRG 해의 손실이 DNC 해보다 항상 작다. 클래스 수가 증가할수록 두 해의 격차도 커진다.
결과는 단순히 DNC가 유일한 최적해가 아니라는 정도가 아니라, 특정 조건에서는 DNC가 명확하게 더 나쁜 해라는 것을 의미한다.

실험

Dataset

  • 합성 L-DUFM
    • 대표 설정: 4-DUFM, $K=10$, 클래스당 $n=50$
  • CIFAR-10 / MNIST
    • 실제 데이터에서는 ResNet20 backbone에 4-5층 MLP head를 연결
  • DUFM에 가까운 정규화와 일반적인 weight decay를 모두 실험

Metric

이 논문은 주로 분류 정확도가 아니라 표현의 기하 구조와 목적함수 값을 측정한다.

  • DNC1:같은 클래스 내부 분산이 클래스 간 분산에 비해 얼마나 작은지를 측정
    $$
    \frac{\text{tr}(\sum_W)}{\text{tr}(\sum_B)}
    $$
  • DNC2: 클래스 평균 행렬의 condition number
  • 각 층의 singular-value distribution
  • 클래스 평균 행렬의 실제 랭크 및 effective rank
  • Gram matrix

(left) 학습 loss가 DNC보다 낮은 SRG loss에 가까움 (mid) 모든 층의 DNC1이 작아지므로 low-rank에서도 클래스 내부 collapse가 그대로 발생 (right) DNC 해라면 K=10의 singular value가 살아있어야 하지만 0이 되는 것을 보아 DNC1은 발생하지만 DNC2의 full-rank 직교 구조는 발생하지 않는다는 것을 알 수 있음

Result

DUFM

  • gradient descent가 찾은 해의 손실은 DNC loss보다 낮고 SRG loss에 가까움
  • 중간층 랭크는 약 5～8
  • DNC 해의 중간층 랭크는 $K=10$
  • 모든 층에서 DNC1은 뚜렷하게 나타남
  • 일부 실행에서는 SRG와 동일한 Gram matrix 구조가 발견됨

CIFAR-10·MNIST, DUFM-like 정규화

  • CIFAR-10의 중간 클래스 평균 랭크는 약 5～6
  • DNC loss보다 낮은 손실을 달성
  • 실제 end-to-end 학습에서도 SRG 구조가 발견됨

CIFAR-10·MNIST 학습에서도 클래스 내부 collapse는 발생하지만, 클래스 평균은 직교하지 않고 중간층에 low-rank 병목이 생긴다

표준 정규화

  • CIFAR-10 중간층 랭크: 약 8～9
  • MNIST 중간층 랭크: 약 5～7
  • DNC 기준 랭크: $K=10$
  • 모든 실험에서 DNC1은 유지
  • MNIST에서는 gradient descent가 SRG 구조와 일치하는 해를 찾음

하이퍼파라미터의 영향

  • 강한 weight decay → 더 낮은 랭크
  • 작은 width → 더 낮은 랭크
  • 큰 width → 랭크 $K$의 DNC 해에 도달할 가능성 증가
  • 그러나 DNC 해의 목적함숫값은 low-rank 해보다 높을 수 있음

즉, DNC가 관찰되는 이유는 전역 최적성이 아니라 최적화 알고리즘과 하이퍼파라미터의 암묵적 편향일 수 있다.

의미

이 논문이 왜 중요한가?

첫째, “Neural Collapse는 이상적인 최종 표현”이라는 해석의 적용 범위를 제한한다. 단순한 UFM, 이진 분류 또는 얕은 모델에서 얻은 최적성 결과를 깊은 다중 클래스 모델에 그대로 일반화할 수 없음을 보인다.

둘째, Neural Collapse의 성질들을 분리해서 이해해야 함을 보여준다.

  • 클래스 내 분산이 사라지는 NC1은 견고하고 최적일 수 있음
  • 클래스 평균의 직교·ETF 구조인 NC2는 low-rank 편향과 충돌할 수 있음

셋째, 모델에서 DNC가 관측됐다고 해서 그것이 곧 전역 최적 구조라는 뜻은 아니다. 학습률, width, weight decay 등에 의해 최적화가 더 높은 손실의 DNC 해로 유도될 수도 있다.

넷째, 무한 폭모델이나 얕은 UFM이 실제 깊은 네트워크의 표현 기하를 완전히 설명하지 못할 수 있음을 시사한다. 논문은 큰 width가 오히려 더 낮은 손실의 low-rank 해를 찾지 못하게 할 수 있다는 역설적인 현상도 보고한다.

결론적으로 이 논문의 핵심 메시지는 다음과 같다.

깊은 네트워크에서는 완벽한 대칭성과 직교성보다, 예측에 필요한 정보만 마지막에 복원하는 저차원 병목 구조가 정규화 관점에서 더 효율적일 수 있다.

논문은 다만 MSE를 중심으로 이론을 전개하며, cross-entropy에서도 동일한 결론이 성립하는지와 모든 층에서 DNC1이 엄밀히 최적인지는 열린 문제로 남긴다.