https://spherical-harmonics.hateblo.jp/entry/2020/03/13/174837

[3] 正の定数 $r$ に対して座標空間内の3点 ${\rm O}(0,0,0)$ ， ${\rm A}(r,0,0)$ ， ${\rm B}(0,r,0)$ を定める．また，平面 $y=\dfrac{1}{2}r$ 上の点 $\rm C$ に対して，線分 $\rm AC$ の中点を $\rm P$ とする．ただし，点 $\rm C$ の $z$ 座標は正である．このとき，以下の問いに答えよ．

(1) 点 $\rm Q$ は線分 $\rm OB$ 上の点とする．定数 $a,c$ に対し，点 $\rm C$ を位置 $\Bigl(a,\dfrac{1}{2}r,c\Bigr)$ に固定したとき， $|\overrightarrow{\rm PQ}|$ を最小とする点 $\rm Q$ の座標を求めよ．また，このときの $|\overrightarrow{\rm PQ}|$ を求めよ．

(2) (1)で求めた点 $\rm Q$ に対して， $\overrightarrow{\rm PQ}$ と $\overrightarrow{\rm OQ}$ のなす角が ${90}^\circ$ であることを示せ．

(3) 点 $\rm C$ は $|\overrightarrow{\rm OA}|=|\overrightarrow{\rm BC}|$ を満たしながら動くとする．(1)で求めた点 $\rm Q$ と3点 $\rm O,C,P$ を頂点とする四面体の体積が最大となる点 $\rm C$ の座標と，そのときの四面体 $\rm OCPQ$ の体積を求めよ．

2020.03.13記

[解答]

(1)(2) 平面 $y=\dfrac{1}{4}r$ を $\alpha$ とする。

$\rm{P}$ $\left( \dfrac{1}{2}(a+r),\,\dfrac{1}{4}r,\,\dfrac{1}{2}c\right)$ は $\alpha$ 上の点であり、 $\rm{\vec{OB}}\perp\alpha$ だから、 $\rm{Q}$ $\left(0,\,\dfrac{1}{4}r,\,0\right)$ のとき、 $\rm|\vec{PQ}|$ は最小となり、このとき $\rm\vec{OQ}\perp\vec{PQ}$ となる。

そして， $\rm\vec{PQ}$ $=-\dfrac{1}{2}\begin{pmatrix} a+r \\ 0 \\ c \\\end{pmatrix}$ だから $\rm|\vec{PQ}|$ $=\dfrac{1}{2}\sqrt{(a+r)^2+c^2}$ となる。

(3) $\rm OA=BC$ より、 $\rm C$ は ${\rm R}\Bigl(0,\,\dfrac{1}{2}r,\,0\Bigr)$ 中心半径 $\dfrac{\sqrt{3}}{2}r$ の円周上にあるから、 $\rm\vec{RC}$ $=\begin{pmatrix} a\\ 0 \\ c \\\end{pmatrix}=\dfrac{\sqrt{3}r}{2}\begin{pmatrix} \cos\theta \\ 0 \\ \sin\theta \\\end{pmatrix}$ となる。ここで $\rm{C}$ の $z$ 座標が正であることから、 $0<\theta<\pi$ である。

（高校受験で良く使う四面体の体積を求める公式を使って4面体 $\rm OCPQ$ の体積を求める。）

$\rm\vec{OS}=\dfrac{1}{2}\vec{OC}$ とおくと、 $\rm P,Q,S$ は $y$ 座標が一定の平面 $\alpha$ 上にあるので、
$V$ $=\dfrac{1}{3}\cdot\triangle\rm{PQS}\cdot$ （ $\rm OとCの$ $y$ 座標の差）
となる。さらに、PSは $x$ 軸に平行なので、 $\triangle\rm{PQS}=\dfrac{1}{2} PS\cdot$ （ $\rm OとPの$ $z$ 座標の差）
となる。よって
$V=\dfrac{1}{6}\cdot\rm PS \cdot$ （ $\rm OとPの$ $z$ 座標の差） $\cdot$ （ $\rm OとCの$ $y$ 座標の差）
$=\dfrac{1}{6}\cdot \dfrac{1}{2}r\cdot \dfrac{1}{2}c\cdot\dfrac{1}{2}r=\dfrac{r^2c}{48}=\dfrac{\sqrt{3}r^3\sin\theta}{96}$
となる。

よって $\theta=\dfrac{\pi}{2}$ のとき体積は最大値 $\dfrac{\sqrt{3}r^3}{96}$ をとる。

最大値を与える $\rm C$ の座標は $(0,\,\dfrac{1}{2}r,\,\dfrac{\sqrt{3}}{2}r)$ となる。

なお、行列式を使うと、体積を機械的に求めることができる。ただ、そのまま行列式を計算するのではなく、列変形をして行列を単純化してから計算しよう。

[大人の解答]

$\rm OC$ の中点 $\rm S$ を使って $\rm\vec{RC}=2\vec{QS}$ を利用する。ついでに $\rm OA$ の中点 $\rm T$ を用意しておく。

4面体 $\rm OCPQ$ の体積を $V$ とすると、 $V=\dfrac{1}{6} |\rm{det}(\vec{OC},\vec{OP},\vec{OQ})|$ であるが，
$\rm\vec{OC}=2\vec{OS}=2\vec{OQ}+2\vec{QS}$ ，
$\rm\vec{OP}=\vec{OQ}+\vec{QS}+\vec{SP}=\vec{OQ}+\vec{QS}+\vec{OT}$ （∵ $\rm{\vec{SP}}=\vec{OT}$ ）
により，
$V=\dfrac{1}{6} \left|\rm{det}(2\vec{QS},\vec{OT},\vec{OQ})\right|$ $=\dfrac{1}{48} \left|\rm{det}(2\vec{QS},4\vec{OA},4\vec{OQ})\right|$
$=\dfrac{1}{48} \left|\rm{det}\begin{pmatrix} a & r & 0 \\ 0 & 0 & r \\ c & 0 & 0 \\\end{pmatrix}\right|$ $=\dfrac{r^2c}{48}=\dfrac{\sqrt{3}r^3\sin\theta}{96}$
となる。

行列式って便利だね。