ML&DL 이야기/ML
-
[ML] L1함수와 L2함수 입장에서의 Loss FuntionML&DL 이야기/ML 2023. 7. 25. 17:48
파이토치는 다양한 손실함수들을 제공하는데, 이는 흔히 말하는 cost function, loss function, objective function 등의 이름으로 사용된다. 이런 손실함수들은 모델의 predict 값과 target 값의 차이를 측정하여 모델의 학습을 도와준다. Loss function의 2가지 가정 DNN에서 Loss Function을 사용할 때 아래의 2가지 가정에 적합해야 한다. 1) Train data에서의 Loss 총합은 개별 데이터 Loss의 합과 같아야 한다. $$ L(\theta_{k}, D) = \sum_{i}L(\theta_{k} ,D_{i}) $$ 2) DNN 출력 값으로 Loss를 계산한다. (중간 단계에서의 값으로는 계산하지 않음.) $$ \bigtriangledow..