Softmax fuction

1. Intro

다항 다항 분류와 회귀를 하기 위해서 여러 가지 방식을 찾아보다가 Softmax라는 방식을 알게 되면서 내용을 정리를 해보려 한다. 간단하게 봤을 때 느낌은 머신러닝 분야에서보다는 딥러닝 분야에서 조금 더 많이 쓰이는 방식 같아 보였다.분류와 회귀를 하기 위해서 여러가지 방식을 찾아보다가 Softmax 라는 방식을 알게되면서 내용을 정리를 해보려 한다. 간단하게 봤을 때 느낌은 머신러닝 분야에서 보다는 딥러닝 분야에서 조금 더 많이 쓰이는 방식 같아 보였다.

2. What is Softmax

출처: https://wikidocs.net/35476

소프트 맥스 함수는 여러 개의 다차원의 데이터에서 여러 가지 선택지가 존재하는 상황에서 자주 쓰인다.

분류 이론을 예로 든다면 0 과 1만 존재하는 분류(Classifier)에서 0 과 1 이 아니라 2 3 등등 여러 분류 항목들이 존재하여 각 항목을 선택해야 하는 상황이 있다고 가정해 보자 그러면 각 항목들을 결정 정도를 확률로 지정을 해주고 그 확률에 따라서 항목을 선택한다. 이후에 발생하는 확률과 오차의 범위는 이후 훈련에서 오차의 가중치를 두고 훈련을 진행한다. 이해를 돕기 위해서 사진을 더 첨부를 했다.

출처: https://wikidocs.net/35476

3. Conclusion

이번에 다항 분류에 대하여 처음 접하게 되었고 이 분야는 머신러닝보다는 딥러닝에 더욱 적합한 방식이라는 것도 알게 되었다. 이후에 딥러닝을 더 공부하게 된다면 이 이론을 한번 사용을 해보겠다.