https://spherical-harmonics.hateblo.jp/entry/Todai/2024/Bunka

2024.02.28記

[4] $n$ を5以上の奇数とする．平面上の点 $\mbox{O}$ を中心とする円をとり，それに内接する正 $n$ 角形を考える． $n$ 個の頂点から異なる4点を同時に選ぶ．ただし，どの4点も等確率で選ばれるものとする．選んだ4点を頂点とする四角形が $\mbox{O}$ を内部に含む確率 $p_n$ を求めよ．

2024.02.29記
円周上の3点を結ぶ三角形が $\mbox{O}$ を内部に「含まない」ことと，その三角形が鈍角三角形であることは同値となることは比較的良く出題される（ように思う）．このとき，三角形の最大辺をなす2点以外の残りの1点は，最大辺に対して $\mbox{O}$ と反対側にあることになることも良く知られている（ように思う）．

同様に，円周上の4点を結ぶ四角形が $\mbox{O}$ を内部に「含まない」ことを，最大辺をなす2点以外の2点は，最大辺に対して $\mbox{O}$ と反対側にあることと考えれば良いので，まず，この確率を求め， $n$ が奇数であることから四角形が $\mbox{O}$ を周上に含まないことから，1から引けば求める確率となる．

[解答]
円周の長さが $n=2k+1$ （ $k\geqq 2$ ）であるとし，基準点を $\mbox{P}_0$ とし，反時計回りに弧長1毎に $\mbox{P}_1$ ， $\mbox{P}_2$ ，…， $\mbox{P}_n$ とする．

(i) $n=5$ ，つまり $k=2$ のとき：
必ず $\mbox{O}$ を内部に含むので $p_5=1$ となる．

(ii) $n\gt 5$ ，つまり $k\gt 2$ のとき：
四角形の最大辺に対応する弧長が $s$ （ $3\leqq s\leqq k$ ）のとき，円周上の4点を結ぶ凸四角形が $\mbox{O}$ を内部に含まないこと，最大辺に対して $\mbox{O}$ の反対側に残りの2点があることは同値である．これは，図形を回転して最大辺が $\mbox{P}_0\mbox{P}_s$ となるように回転したときに，残りの2頂点 $\mbox{P}_u，\mbox{P}_v$ が $1\leqq u\lt\leqq k-1$ をみたすこととと同値となる．

そしてこの場合の数は
$\displaystyle\sum_{s=3}^{k} {}_{s-1}\mbox{C}_2$ $=\displaystyle\sum_{s'=1}^{k-1} {}_{s'}\mbox{C}_2$ （ $s'=1$ のときは ${}_{s'}\mbox{C}_2=0$ ）
$={}_{k}\mbox{C}_3$
となるので，円周上の4点を結ぶ凸四角形が $\mbox{O}$ を内部に含まない確率は $\dfrac{n\cdot {}_{k}\mbox{C}_3 }{{}_{n}\mbox{C}_4}$ となる．よって
$p_n=1-\dfrac{n\cdot {}_{k}\mbox{C}_3 }{{}_{n}\mbox{C}_4}$
$=1-\dfrac{4nk(k-1)(k-2)}{n(n-1)(n-2)(n-3)}$
$=1-\dfrac{(n-1)(n-3)(n-5)}{2(n-1)(n-2)(n-3)}$
$=1-\dfrac{n-5}{2(n-2)}$
$=\dfrac{n+1}{2(n-2)}$ （ $n=1$ でも成立）

よって
$p_n=\dfrac{n+1}{2(n-2)}$
となる．