논문통계 및 통계공부

로지스틱 회귀분석의 모수 추정

하트 뿅뿅 2021. 2. 8. 21:43
반응형

안녕하세요 슬기로운 직장생활 블로그 운영자입니다^^

 


오늘은 로지스틱 회귀분석의 모수추정에 대해서 생각해보는 시간을 갖겠습니다.

 

앞서 GLM은 세가지를 정리해야 한다고 했죠,

 

선형추정자, 분포, 링크펑션

 

로지스틱 회귀분석의 분포는 이항분포를 가정합니다. 그리고 모수추정은 MLE를 바탕으로 추정하게 됩니다.

 

MLE는 매우 좋은 성질들을 갖고 있는데요, 일치추정량이며 점근적으는 최고로 분산이 작은 추정량이 됩니다.

 

분산이 작은 추정량이라는 말은 추정이 더 정확해진다는 뜻입니다.

 

ratsgo.github.io/machine%20learning/2017/07/02/logistic/

 

로지스틱회귀 파라메터 추정 · ratsgo's blog

이번 글에서는 로지스틱회귀 모델의 계수를 추정하는 방법을 살펴보도록 하겠습니다. 이번 글은 고려대 김성범 교수님 강의와 ‘밑바닥부터 시작하는 데이터과학(조엘 그루스 지음, 인사이트

ratsgo.github.io

 

로지스틱 회귀분석의 모델 계수를 추정하는 방법을 다뤄놓은 블로그를 찾았습니다.

앞서 말씀 드렸듯, 컴퓨터의 힘을 빌려서 계산해야 합니다...

손으로 풀려면 한달 넘게 걸릴 수도 있어요...ㅎㅎ 그리고 그 결과 믿기 어렵죠. 사람의 계산은 실수가 발생할 수 있으니까요.

그리고 수치적인 방법이 몇번 반복해야 수렴할지 모르니까.. 하다보면 참 답답할거에요.

 

오늘 기억할 부분

 

로지스틱 회귀분석은 이항분포를 분포로 삼는다, MLE를 통해서 추정한다.

MLE는 점근적으로 가장 분산이 작은 추정량이고 일치추정량이다.

 

반응형