https://spherical-harmonics.hateblo.jp/entry/Kyodai/2020/Rikei

[3] $k$ を正の実数とする．座標空間において，原点 $\rm O$ を中心とする半径1の球面上の4点 $\rm A, \, B, \, C, \, D$ が次の関係式を満たしている．
$\overrightarrow{\rm OA}\cdot\overrightarrow{\rm OB}=\overrightarrow{\rm OC}\cdot\overrightarrow{\rm OD}=\dfrac{1}{2},$
$\overrightarrow{\rm OA}\cdot\overrightarrow{\rm OC}=\overrightarrow{\rm OB}\cdot\overrightarrow{\rm OC}=-\dfrac{\sqrt6}{4},$
$\overrightarrow{\rm OA}\cdot\overrightarrow{\rm OD}=\overrightarrow{\rm OB}\cdot\overrightarrow{\rm OD}=k$
このとき， $k$ の値を求めよ．ただし，座標空間の点 $X, \, Y$ に対して， $\overrightarrow{\rm OX}\cdot\overrightarrow{\rm OY}$ は， $\overrightarrow{\rm OX}$ と $\overrightarrow{\rm OY}$ の内積を表す．

2020.03.02記

[解答]

$|\overrightarrow{\rm XY}|^2=2-2\overrightarrow{\rm OX}\cdot\overrightarrow{\rm OY}$ に注意すると、
$\rm AB=CD=1,\,AC=BC,\,AD=BD$ が成立する．

$\rm AO=BO,\,AC=BC,\,AD=BD$ により， $\rm O,C,D$ は $\rm AB$ の垂直2等分面上にある．
よって，この垂直2等分面を $xy$ 平面と設定する．

${\rm C}(1,0,0)$ とする． $\overrightarrow{\rm OC}\cdot\overrightarrow{\rm OD}=\dfrac{1}{2}$ より ${\rm D}(\dfrac{1}{2},\dfrac{\sqrt{3}}{2},0)$ とする． $\rm D$ の $y$ 座標が負の場合は鏡映対称移動したものであるから、この場合だけ考えれば十分である．

$\rm AB=1$ より ${\rm A}(u,v,\dfrac{1}{2}),\,{\rm B}(u,v,-\dfrac{1}{2})$ ( $u^2+v^2=\dfrac{3}{4}$ )とおくと、
条件は $u=-\dfrac{\sqrt{6}}{4},\,k=\dfrac{1}{2}u+\dfrac{\sqrt{3}}{2}v$ となる。

$v=\pm\dfrac{\sqrt{6}}{4}$ より
$k=\dfrac{-1\pm\sqrt{3}}{2}\cdot\dfrac{\sqrt{6}}{4}$ となるが、内積 $k$ は絶対値が1以下であるから、
$k=\dfrac{-1+\sqrt{3}}{2}\cdot\dfrac{\sqrt{6}}{4}=\dfrac{-\sqrt{6}+3\sqrt{2}}{8}$

2020.09.11記
球面三角法を用いる．

原理的には，
$\rm O$ を単位球の中心として、 $\rm A\sim D$ の緯度経度（南緯、西経を負とする）を設定すれば機械的に解けるが，
$\rm O，C，D$ が $\rm AB$ の垂直2等分面上にあることを利用して次のように設定する．

[大人の解答]

$\rm O$ を単位球の中心， $\rm C$ を北極， $\rm D$ を北緯 $\alpha$ 経度0， $\rm A$ を北緯 $\beta$ 東経 $\gamma$ ， $\rm B$ を北緯 $\beta$ 東経 $-\gamma$ （ $-\dfrac{\pi}{2}\leqq \alpha，\beta\lt\dfrac{\pi}{2}$ ， $0\lt \gamma\lt \pi$ ）とおくと，

$\sin^2\beta+\cos^2\beta\cos2\gamma=\sin\alpha=\dfrac{1}{2}$ ， $\sin\beta=-\dfrac{\sqrt{6}}{4}$ ， $\sin\alpha\sin\beta+\cos\alpha\cos\beta\cos\gamma=k$
が成立する．

$\sin\alpha=\dfrac{1}{2}$ ， $\sin\beta=-\dfrac{\sqrt{6}}{4}$ により $\cos\alpha=\dfrac{\sqrt{3}}{2}$ ， $\cos\beta=\dfrac{\sqrt{10}}{4}$ だから，

$\dfrac{3}{8}+\dfrac{5}{8}\cos2\gamma=\dfrac{1}{2}$ ， $-\dfrac{\sqrt{6}}{8}+\dfrac{\sqrt{30}}{8}\cos\gamma=k$
が成立する．

よって $\cos 2\gamma=\dfrac{1}{5}$ ， $\cos\gamma=\dfrac{1}{\sqrt{5}} \Bigl(\dfrac{8}{\sqrt{6}} k+1\Bigr)$ となり，
$\dfrac{1}{5}=2\cdot\dfrac{1}{5} \Bigl(\dfrac{8}{\sqrt{6}} k+1\Bigr)^2-1$
が成立する．整理して $k=\dfrac{-\sqrt{6}\pm3\sqrt{2}}{8}$ となるが $k$ は絶対値が1以下だから $k=\dfrac{-\sqrt{6}+3\sqrt{2}}{8}$ となる．

機械的に設定すると次のようになる．

[大人の解答]

$\rm O$ を単位球の中心， $\rm A$ を北極， $\rm B$ を北緯 $\dfrac{\pi}{6}$ 経度0， $\rm C$ を北緯 $\alpha$ 東経 $\beta$ ， $\rm D$ を北緯 $\gamma$ 度東経 $\delta$ （ $-\dfrac{\pi}{2}\leqq \alpha，\gamma\lt\dfrac{\pi}{2}$ ， $-\pi \lt \beta，\delta\leqq \pi$ ）とおくと，
$\sin\alpha=-\dfrac{\sqrt{6}}{4}$ ，
$\sin\gamma=k$ ，
$\sin\alpha\sin\gamma+\cos\alpha\cos\gamma\cos(\beta-\delta)=\dfrac{1}{2}$ ，
$\dfrac{1}{2}\sin\alpha+\dfrac{\sqrt{3}}{2}\cos\alpha\cos\beta=-\dfrac{\sqrt{6}}{4}$ ，
$\dfrac{1}{2}\sin\gamma+\dfrac{\sqrt{3}}{2}\cos\gamma\cos\delta=k$ ，
となる．整理すると，
$\sin\alpha=-\dfrac{\sqrt{6}}{4}$ ， $\cos\alpha=\dfrac{\sqrt{10}}{4}$ ，
$\sin\gamma=k$ ， $\cos\gamma=\sqrt{1-k^2}$ ，
$\cos\beta=-\dfrac{1}{\sqrt{5}}$ ， $\cos\delta=\dfrac{k}{\sqrt{3(1-k^2)}}$ ， $\cos(\beta-\delta)=\dfrac{2+\sqrt{6}k}{\sqrt{10(1-k^2)}}$ ，
となり，
$\sin\beta=\dfrac{2}{\sqrt{5}}$ ， $\sin\delta=\dfrac{\sqrt{3-4k^2}}{\sqrt{3(1-k^2)}}$
も成立する．よって加法定理から
$-\dfrac{1}{\sqrt{5}}\cdot\dfrac{k}{\sqrt{3(1-k^2)}}+\dfrac{2}{\sqrt{5}}\cdot \dfrac{\sqrt{3-4k^2}}{\sqrt{3(1-k^2)}}=\dfrac{2+\sqrt{6}k}{\sqrt{10(1-k^2)}}$
が成立する．よって
$2\sqrt{3-4k^2}=4k+\sqrt{6}$
つまり， $16k^2+4\sqrt{6}k-3=0$ となり， $k=\dfrac{-\sqrt{6}\pm3\sqrt{2}}{8}$ となる．

根号の中が正、つまり $|k|\leqq\dfrac{\sqrt{3}}{2}$ だから $k=\dfrac{-\sqrt{6}+3\sqrt{2}}{8}$ となる．