몬테카를로 알고리즘(Monte-Carlo Algorithm)

4-1 몬테카를로 알고리즘의 개념

• 여러개의 표본을 추출해 전체적인 분포를 파악하는 방법
• '결정적 알고리즘(Deterministic Algorithm)의 반대 개념
• 수식만으로 계산하기 어려운 문제에 대해 데이터의 무작위 표본을 얻은 후 이를 이용해 답을 구하는 방법

4-2 마르코프 체인 몬타카를로 방법

• 마르코프체인 몬테카를로법(Markov Chain Monte Carlo Method, MCMC)
• 누적 확률 추정을 위해 사용하는 방법
• 어떤 목표 확률 분포(Target Probability Distribution)에서 무작위 표본을 얻는 방법

메트로폴리스 - 헤이스팅스 알고리즘

• 1) 기존값 중 하나를 임의로 정한다
• 2) 기존값을 기준으로 제안 분포(Proposal Distribution)에서 후보값을 정한다
• 3) 후보값의 확률과 기준값의 확률의 비율(alpha)을 구한다
• 4) 0 ~ 1 사이의 난수를 뽑아 알파가 크면 후보값이 새로운 기분값이 된다
• 5) 1 ~ 4 과정을 반복한다

4-3 부트스트랩(Bootstrap)

• 확률 분포 자체도 모르는 상황에서 사용
• 실제 데이터를 반복 복원 추출해 분포를 추정하는 방법
• 신뢰 구간 추정, 앙상블, 평균 차이 검정 등에서 사용

 

 

 

 

 

※ 해당 내용은 <인공지능 바이블>의 내용을 토대로 학습하며 정리한 내용입니다.