EM 알고리즘과 MLE의 차이점을 어떻게 알 수 있습니까?


대답 1:

기대 최대화 알고리즘 (EM)은 잠재 변수가있는 모델의 모수에 대한 최대 우도 추정 (MLE)을 찾으려고 시도합니다. 매개 변수는 잠재 변수가 아니며 프로세스에서 한계가 있습니다. EM이 전 세계 최대 값으로 수렴한다고 보장되는 것은 아니지만, 최대로 수렴하고 모든 단계에서 모델의 가능성을 향상시키는 것이 보장됩니다. 일반적인 예는 상태 공간 모델에 맞는 Baum-Welch 알고리즘입니다.


대답 2:

나는 지금이 개념을 연구하고 있으며 내 대답이 정확하기를 희망하지만 개선을 위해 피드백을 원합니다.

제가 아는 것처럼 MLE는 우선적 인 영아를 고려하지 않고 가능성 함수를 추정하는 방법입니다. 다시 말해, 5를 얻기 위해 주사위를 굴린다면, MLE는 3 개의 결과에서 1의 확률을 가진 배급 (배트맨 분포라고 부름)에 가장 높은 점수를 부여하고 다른 것에는 0을 부여합니다 (카운터입니다) 직관적)

그러나 EM 알고리즘은 공정한 주사위에서 5의 확률이 1/6이라는 사전 지식을 고려할 것입니다. 따라서 EM 알고리즘의 E- 스텝을 생성하는 동안이를 고려합니다. 실제로 Bayesian 이전, Markov 모델 등을 통해이를 달성하는 다양한 방법이 있습니다.

누군가 내 이해에 결함이 있으면 수정을 제안하십시오.


대답 3:

MLE는 주어진 데이터에 최적화되어야하는 목표 기능을 제공합니다.

최적화 자체는 여러 가지 다른 방식으로 수행 될 수 있습니다. EM (예상 최대화)은 최적화하는 방법 중 하나이며 다른 모든 유형의 최적화도 사용할 수 있습니다.

간단히 말해서 MLE 최적화 목표를 정의하고 EM은이를 반복적 인 방식으로 해결합니다.