(본 글은 유투브 영상을 글로 재구성 한 것입니다.) 머신러닝/딥러닝을 하다보면 크로스-엔트로피(cross-entropy)가 자주 등장합니다. 정확히는, 분류(classification) 문제를 풀 때 크로스-엔트로피를 이용해 …
퀵소트(Quicksort)는 왜 시간복잡도가 평균 $O(n \log n)$일까? 증명하는 방법에는 여러가지가 있지만, 그 중에서도 기댓값(expectation)의 선형성(linearity)을 사용해서 깔끔하게 증명하는 방법을 소개하고 …
우리가 익히 잘 아는 베이즈 정리(Bayes' theorem)는 다음과 같습니다: $$ P(A \mid B) = \frac{P(B \mid A)P(A)}{P(B)}. $$ $B$라는 사건이 일어난 상태에서 $A$가 발생할 확률을 계산하는 방법인데, 여기선 단순 …