https://spherical-harmonics.hateblo.jp/entry/Todai/1979/Rika

2023.08.19記

[3] 平面上の点 $\mbox{O}$ を中心とする半径 $1$ の円周上に点 $\mbox{P}$ をとり，円の内部または周上に $2$ 点 $\mbox{Q}$ ， $\mbox{R}$ を， $\triangle\mbox{PQR}$ が $1$ 辺の長さ $\dfrac{2}{\sqrt{3}}$ の正三角形になるようにとる．このとき， $\mbox{OQ}^2+\mbox{OR}^2$ の最大値および最小値を求めよ．

2023.08.19記

[解答]
$\mbox{QR}$ の中点を $\mbox{M}$ とおくと，中線定理により
$\mbox{OQ}^2+\mbox{OR}^2$ $=2\mbox{OM}^2+\dfrac{2}{3}$
である．この正三角形の高さは1であるから， $\mbox{PM}=1$ であり，これは円の半径に等しいので， $\mbox{M}=\mbox{O}$ となり得る．

よって $\mbox{OQ}^2+\mbox{OR}^2$ は $\mbox{M}=\mbox{O}$ のとき最小値 $\dfrac{2}{3}$ をとる．

また， $\mbox{Q}$ または $\mbox{R}$ が円周上にあるときに $\mbox{OQ}^2+\mbox{OR}^2$ は最大となる．

このとき， $\mbox{OP}=\mbox{OQ}$ ， $\mbox{RP}=\mbox{RQ}$ であるから
$\mbox{O}$ ， $\mbox{R}$ は $\mbox{PQ}$ の垂直2等分線上にある．
よって $\angle\mbox{ORQ}=\dfrac{\pi}{6}$ となる．
余弦定理により
$\mbox{OQ}^2=\mbox{OR}^2+\mbox{RQ}^2-2\mbox{OR}\cdot\mbox{RQ}\cdot\cos\dfrac{\pi}{6}$
から
$3\mbox{OR}^2-6\mbox{OR}^2+1=0$
となるので， $\mbox{OR}\lt 1$ から $\mbox{OR}=\dfrac{3-\sqrt{6}}{3}$ となる．
よって
$\mbox{OQ}^2+\mbox{OR}^2$ $=1+2\mbox{OR}-\dfrac{1}{3}$ $=\dfrac{8-2\sqrt{6}}{3}$
が最大値となる．

やや議論が直観的なので，よりきちんと求めるのであれば座標を用いるほうが良い．

[別解]
$r=\dfrac{2}{\sqrt{3}}$ とおく．
$\mbox{O}(1,0)$ とし，円を $(x-1)^2+y^2=1$ ，つまり $x^2+y^2-2x=0$ とする．

また $\mbox{P}(0,0)$ ， $\mbox{Q}(r\cos\left(\theta-\dfrac{\pi}{6}\right),r\sin\left(\theta-\dfrac{\pi}{6}\right))$ ， $\mbox{R}(r\cos\left(\theta+\dfrac{\pi}{6}\right),r\sin\left(\theta+\dfrac{\pi}{6}\right))$
（ $-\pi\leqq\theta\lt\pi$ ）とおく．

このとき， $\mbox{Q}$ ， $\mbox{R}$ が円内にある条件から
$r\leqq 2\cos\left(\theta-\dfrac{\pi}{6}\right)$ ，
$r\leqq 2\cos\left(\theta+\dfrac{\pi}{6}\right)$
が成立する．ここで $\cos x=\dfrac{r}{2}=\dfrac{1}{\sqrt{3}}$ をみたす鋭角を $\alpha$ とおくと，
$\dfrac{\sqrt{3}}{2}\gt \cos x\gt\dfrac{1}{2}$ より $\dfrac{\pi}{6}\lt\alpha\lt\dfrac{\pi}{3}$ であり，
$|\theta|\leqq\alpha-\dfrac{\pi}{6}$
が成立する．

$\mbox{QR}$ の中点を $\mbox{M}$ とおくと，加法定理から
$\mbox{M}(\cos\theta,\sin\theta)$
となる．中線定理により
$\mbox{OQ}^2+\mbox{OR}^2$ $=2\mbox{OM}^2+\dfrac{2}{3}$
であるから， $\mbox{O}(1,0)$ に注意すると
$\mbox{OQ}^2+\mbox{OR}^2$ $=2\{(1-\cos\theta)^2+\sin^2\theta\}+\dfrac{2}{3}$
$=\dfrac{14}{3}-4\cos\theta$
となる． $\cos\theta=\cos|\theta|$ は
$0\leqq|\theta|\leqq\alpha-\dfrac{\pi}{6}$ （ $\lt\dfrac{\pi}{6}$ ）で単調減少だから
$\mbox{OQ}^2+\mbox{OR}^2$
は $|\theta|$ に関して単調増加となる．

よって $|\theta|=0$ で最小値 $=\dfrac{2}{3}$ をとる．

最大値は $|\theta|=\alpha-\dfrac{\pi}{6}$ のときの
$=\dfrac{14}{3}-4\cos\left(\alpha-\dfrac{\pi}{6}\right)$
$=\dfrac{14}{3}-4\left(\cos\alpha\cos\dfrac{\pi}{6}+\sin\alpha\sin\dfrac{\pi}{6}\right)$
$=\dfrac{14}{3}-4\left(\dfrac{1}{\sqrt{3}}\cdot\dfrac{\sqrt{3}}{2}+\dfrac{\sqrt{2}}{\sqrt{3}}\cdot\dfrac{1}{2}\right)$
$=\dfrac{14}{3}-4\left(\dfrac{1}{2}+\dfrac{\sqrt{6}}{6}\right)$ $=\dfrac{8-2\sqrt{6}}{3}$