Ridge vs lasso
Lassoo Solution Path
제약조건
\[|\beta_1| + |\beta_2| \leq t\]제약조건 없는 경우 에러 최소 \(\hat{\beta}^{LS}\)
Ridge (L2)
페널티: λΣβj² (제곱)
미분: 가능 ✅
→ Closed-form: 있음 ✅
Lasso (L1)
페널티: λΣ|βj| (절댓값)
미분: 0에서 불가능 ❌
→ Closed-form: 없음 ❌
핵심:
- 제곱(²) → 미분 가능 → 공식 있음
-
절댓값( ) → 0에서 미분 불가 → 공식 없음
Lasso = 반복 계산 필요!
This line appears after every note.
Notes mentioning this note
There are no notes linking to this note.