N 개의 숫자에서 M 샘플을 무작위로 샘플링하여 N을 추정하는 방법은 무엇입니까?
당신은 추정 할 수 있습니까 $N$ MLE 나 순간의 방법 또는 어떤 전략으로?
- $N$ 번호가 매겨진 공은 가방에 있습니다. $N$ 알 수 없습니다.
- 공을 무작위로 균일하게 선택하고 번호를 기록하고 교체하고 섞습니다.
- 후 $M$ 우리가 발견 한 샘플 $R$ 반복되는 숫자의 가치를 어떻게 추정 할 수 있습니까? $N$?
시도:
만일 거기에 $n$ 세트의 요소 다음 확률 $x$ 샘플 후 선택되었습니다 $m$ (교체 포함)입니다
$$\frac{S_2(x,m) \; n!}{n^m \; (n-x)!} $$
그리고 나는 막혔습니다. 어떤 생각?
답변
이것은 고전적인 점유 분포 와 관련된 표준 통계 추론 문제입니다 (예 : O'Neill 2019 참조 ). 이후$R$ 는 반복되는 볼의 수이며 샘플에서 선택된 개별 볼의 수는 다음과 같이 지정됩니다.
$$K = N-R \ \sim \ \text{Occ}(N, M).$$
이 랜덤 변수에 대한 확률 질량 함수는 다음과 같습니다.
$$p(K=k|N,M) = \frac{(N)_k \cdot S(M,k)}{N^M} \cdot \mathbb{I}(1 \leqslant k \leqslant \min(M,N)),$$
어디 값 $S(M,k)$두 번째 종류 의 스털링 번호 이고$(N)_k$있습니다 떨어지는 계승은 . 고전적인 점유 분포는 크기 매개 변수에 대한 통계적 추론 분석을 포함하여 통계 문헌에서 많은 분석을 거쳤습니다.$N$(예 : Harris 1968 참조 ). 이 분포의 형태와 모멘트가 알려져 있으므로 MLE 또는 MOM 추정량을 도출하는 것은 비교적 간단한 작업입니다.
최대 가능성 추정기 (MLE) : 크기 매개 변수가 정수이므로 이산 미적분을 사용하여 MLE를 찾을 수 있습니다. 모든 가치$1 \leqslant k \leqslant \min(M,N)$ 에 대한 확률 질량 함수의 순차 차이 $N$ 다음과 같이 작성할 수 있습니다.
$$\begin{align} \Delta_N p(k) &\equiv p(K=k|N+1,M) - p(K=k|N,M) \\[10pt] &= \frac{(N+1)_k \cdot S(M,k)}{(N+1)^M} - \frac{(N)_k \cdot S(M,k)}{N^M} \\[6pt] &= S(M,k) \bigg[ \frac{(N+1)_k}{(N+1)^M} - \frac{(N)_k}{N^M} \bigg] \\[6pt] &= S(M,k) \cdot \frac{(N)_{k}}{(N+1)^M} \bigg[ \frac{N+1}{N-k+1} - \Big( \frac{N+1}{N} \Big)^M \ \bigg] \\[6pt] \end{align}$$
따라서 우리가 관찰하면 $K=k$ 최대 가능도 추정기 (MLE)는 다음과 같이 지정됩니다.
$$\hat{N}_\text{MLE} = \max \bigg \{ N \in \mathbb{N} \ \Bigg| \ \frac{N+1}{N-k+1} < \Big( \frac{N+1}{N} \Big)^M \bigg \}.$$
(MLE가 고유하지 않은 경우도있을 수 있습니다. $\leqslant$ 대신에 $<$다음은 RMLE를 계산 하는 간단한 함수 와 입력 값이 상당히 큰 경우의 예입니다.
MLE.Occ.n <- function(m, k) {
n <- k
while ((n+1)/(n-k+1) >= (1+1/n)^m) { n <- n+1 }
n }
MLE.Occ.n(m = 1000, k = 649)
[1] 1066
모멘트 방법을 사용한 추정 : 고전적인 점유 분포의 처음 4 개 모멘트는 O'Neill (2019) (Section 2)에 나와 있습니다. 다른 볼의 예상 개수는 다음과 같습니다.
$$\mathbb{E}(K) = N \Bigg[ 1 - \Big( 1-\frac{1}{N} \Big)^M \Bigg].$$
따라서 우리가 관찰하면 $K=k$ 그러면 모멘트 추정기는 대략적으로 암시 적 방정식을 풀 것입니다.
$$\log \hat{N}_\text{MOM}^* - \log k + \text{log1mexp} \Bigg[ - M \log \Big( 1-\frac{1}{\hat{N}_\text{MOM}^*} \Big) \Bigg] = 0.$$
이 방정식을 수치 적으로 풀면 실제 값을 얻을 수 있습니다. $\hat{N}_\text{MOM}^*$ 그런 다음 두 개의 주변 정수 중 하나를 다음과 같이 사용하십시오. $\hat{N}_\text{MOM}$(이는 각각 실제 예상 값에 대해 약간의 과대 및 과소 추정치를 제공하고 적절한 방법 (예 : 가장 가까운 정수로 반올림)을 사용하여 이들 중에서 선택할 수 있습니다. 다음은 R모멘트 추정기를 계산 하는 함수입니다 . 보시다시피 현재 예제의 MLE와 동일한 결과를 제공합니다.
MOM.Occ.n <- function(m, k) {
FF <- function(n) { log(n) - log(k) + VGAM::log1mexp(-m*log(1-1/n)) }
UPPER <- m*k/(m-k)
n.real <- uniroot(f = FF, lower = k, upper = UPPER)$root
round(n.real, 0) }
MOM.Occ.n(m = 1000, k = 649)
[1] 1066
너의 가능성 표현이 반전 된 것 같아 $x=R$ 과 $m=M$ 에 $S_2(x,m)$ 그러나 상관 없습니다-이것은 $N$무시할 수 있습니다. 원하는 것은 정수입니다.$N$ 최대화하는 $\frac{N!}{N^M \; (N-R)!}$. 그래서 당신은 가장 큰$N$ 어디 $\frac{N!}{N^M \; (N-R)!} \ge \frac{(N-1)!}{(N-1)^M \; (N-1-R)!} $, 즉 어디 $N\left(\frac{N-1}{N}\right)^M\ge N-R$, 비록 이것이 간단한 닫힌 형태를 가지고 있는지 의심 스럽지만 $N$.
모멘트 방법을 사용하는 또 다른 가능한 접근 방식은 특정 공을 고려하여 선택되지 않을 확률이 $\left(\frac{N-1}{N}\right)^M$, 선택되지 않은 예상 공 수는 $N\left(\frac{N-1}{N}\right)^M$ 그리고 적어도 한 번 선택된 예상 숫자는 $N - N\left(\frac{N-1}{N}\right)^M$, 네가 본다면 $R$ 구별되는 공 $M$ 시도하면 해결하려고 할 수 있습니다. $R= N - N\left(\frac{N-1}{N}\right)^M$ ...에 대한 $N$. 이것은 반올림 없이도 우도 접근법과 본질적으로 동일한 방정식입니다.
이것을 해결하는 것은 쉽지 않지만 어떤 경우에는 근사치를 사용할 수 있습니다. $\left(\frac{N-1}{N}\right)^M \approx e^{-M/N}$ 어떤 경우에 당신은 고려할 수 있습니다 $$\hat N\approx \dfrac{M}{\frac{M}{R}+ W\left(-\frac MRe^{-M/R}\right)}$$ 어디 $W$는 IS 램버트 W 함수 . (언제$M \gg R$ 분모는 거의 $\frac MR$ 그래서 $\hat N$ 아주 약간 더 $R$, 예상대로.)
예를 들어, $M=100$ 과 $R=50$ 직접 계산하면 결국 $\hat N \approx 62.41$ 제안 된 근사값을 통해 $\hat N\approx 62.75$. 가능성 접근 방식은$\hat N \le 62.41$ 그래서 이것을 $\hat N =62$.
다른 제약이 필요하다고 생각합니다. 설명 된대로 숫자의 하한을 추정하는 것만 가능합니다. 공은 얼마든지있을 수 있습니다.
가방에있는 각 공에 고유 한 번호가 있음을 지정해야한다고 생각합니다.