https://spherical-harmonics.hateblo.jp/entry/Kyodai/2000/Rikei

2020.09.04記

[3] $\overrightarrow{a}=(1，0，0)$ ， $\overrightarrow{b}=\left(\cos\dfrac{\pi}{3}，\sin\dfrac{\pi}{3}，0\right)$ とする．

(1) 長さ1の空間ベクトル $\overrightarrow{c}$ に対し， $\cos\alpha=\overrightarrow{a}\cdot\overrightarrow{c}$ ， $\cos\beta=\overrightarrow{b}\cdot\overrightarrow{c}$ とおく．このとき次の不等式 $(\ast)$ が成り立つことを示せ．

$(\ast)\quad\cos^2\alpha-\cos\alpha\cos\beta+\cos^2\beta\leqq\dfrac{3}{4}$

(2) 不等式 $(\ast)$ を満たす $(\alpha，\beta)$ （ $0\leqq\alpha\leqq\pi，0\leqq\beta\leqq\pi$ ）の範囲を図示せよ．

2020.09.04記
ベクトルでできる平行6面体の体積 $V$ については
四面体の体積を求めるオイラーの公式 - 球面倶楽部零八式 mark II
参照．

[大人の解答]
(1) 3つの単位ベクトルが互いになす角度が $\alpha，\beta，\dfrac{\pi}{3}$ であるから，それら3つのベクトルでできる平行6面体の体積 $V$ は
$V^2=1+\cos\alpha\cos\beta-\cos^2\alpha-\cos^2\beta-\dfrac{1}{4}$
を満たすので，体積が非負（平行6面体がつぶれても良い）であることから
$1+\cos\alpha\cos\beta-\cos^2\alpha-\cos^2\beta-\dfrac{1}{4}\geqq 0$ ，
つまり $(\ast)$ が成立する．

(2) 平行6面体の1頂点に集まる3つの角度は

(a) それぞれ $0$ より大きく $\pi$ 未満
(b) 3つの和は $2\pi$ 未満
(c) 2つの和は残りの1つより大きい

という条件をみたす．今回は四面体が退化しても良いので等号を含む．よって
(a) から $0\leqq\alpha\leqq\pi$ ， $0\leqq\beta\leqq\pi$ ，
(b) から $\alpha+\beta\leqq\dfrac{5\pi}{3}$ ，
(c) から $\dfrac{\pi}{3}\leqq \alpha+\beta$ ， $\alpha\leqq \dfrac{\pi}{3}+\beta$ ， $\beta\leqq \dfrac{\pi}{3}+\alpha$
が得られ，これらを整理すると
$0\leqq\alpha\leqq\pi$ ， $0\leqq\beta\leqq\pi$ ， $\dfrac{1}{3}\pi\leqq \alpha+\beta\leqq \dfrac{5}{3}\pi$ ， $-\dfrac{1}{3}\pi \leqq \alpha-\beta\leqq\dfrac{1}{3}\pi$
となり，この領域は $\Bigl(0，\dfrac{1}{3}\pi\Bigr)$ ， $\Bigl(\dfrac{1}{3}\pi，0\Bigr)$ ， $\Bigl(\pi，\dfrac{2}{3}\pi\Bigr)$ ， $\Bigl(\dfrac{2}{3}\pi，\pi\Bigr)$ を4頂点とする長方形の周または内部となる．（図示略）．

任意の $\alpha，\beta$ に対して成立する不等式は正確には $-\dfrac{1}{4} \leqq \cos^2\alpha -\cos\alpha\cos\beta+\cos^2\beta\leqq\dfrac{3}{4}$ であるが，条件 $(\ast)$ はそれを全て含んでいるので，結局、平行6面体ができるような任意の $\alpha,\beta$ のみたす領域を考えれば良い．

1991年(平成3年)京都大学後期-数学(理系)[3] - [別館]球面倶楽部零八式markIISR
も参照のこと．

2025.07.21記
背景を気にせず計算で処理すると次のようになる．

条件が $\alpha，\beta$ について対称な形になり，また図示させようとするのであるから境界線には $\alpha+\beta=(一定)$ や $\alpha-\beta=(一定)$ となるような境界線が登場することが予想できる．しかし $\cos\alpha+\cos\beta=(一定)$ という曲線を図示するのは難しい(膨らんだダイヤ型となるぐらいしか言えないので受験数学で図示させる方向にはならない)ので，対称性を保持したまま変形するのは難しい．そこで例えば $\alpha\geqq \beta+\theta$ のような不等式を導くには
$\cos\alpha\leqq \cos(\beta+\theta)=\cos\theta\cos\beta-\sin\theta\sin\beta$
という形の式を導く必要があると考えれば「平方完成をする」という方針が見えてくる．

[解答]
(1) $\overrightarrow{c}=(x，y，z)$ （ $x^2+y^2+z^2=1$ ）とおくと
$\cos\alpha=x$ ， $\cos\beta=\dfrac{1}{2}x+\dfrac{\sqrt{3}}{2}y$ であるから
$\cos^2\alpha-\cos\alpha\cos\beta+\cos^2\beta=\dfrac{3}{4}(x^2+y^2)=\dfrac{3}{4}(1-z^2)\leqq\dfrac{3}{4}$
となる．

(2) $(\ast)$ により $\left(\cos\alpha-\dfrac{1}{2}\cos\beta\right)^2\leqq \dfrac{3}{4}\sin^2\beta$ ，つまり
$-\dfrac{\sqrt{3}}{2}\sin\beta\leqq \cos\alpha-\dfrac{1}{2}\cos\beta \leqq \dfrac{\sqrt{3}}{2}\sin\beta$
（∵ $0\leqq\beta\leqq\pi$ より $\sin\beta\geqq 0$ ）
となり，
$\dfrac{1}{2}\cos\beta-\dfrac{\sqrt{3}}{2}\sin\beta\leqq \cos\alpha \leqq \dfrac{1}{2}\cos\beta+\dfrac{\sqrt{3}}{2}\sin\beta$
から
$\cos\left(\beta+\dfrac{\pi}{3}\right)\leqq\cos\alpha\leqq\cos\left(\beta-\dfrac{\pi}{3}\right)$
が成立する．

(i) $0\leqq\beta\leqq\dfrac{\pi}{3}$ のとき：
$\cos\left(\beta+\dfrac{\pi}{3}\right)\leqq\cos\alpha\leqq\cos\left(\dfrac{\pi}{3}-\beta\right)$
と見ることにより， $\dfrac{\pi}{3}-\beta\leqq\alpha\leqq\beta+\dfrac{\pi}{3}$ となる．

(ii) $\dfrac{\pi}{3}\leqq\beta\leqq\dfrac{2\pi}{3}$ のとき：
$\cos\left(\beta+\dfrac{\pi}{3}\right)\leqq\cos\alpha\leqq\cos\left(\beta-\dfrac{\pi}{3}\right)$
と見ることにより， $\beta-\dfrac{\pi}{3}\leqq\alpha\leqq\beta+\dfrac{\pi}{3}$ となる．

(iii) $\dfrac{2\pi}{3}\leqq\beta\leqq\pi$ のとき：
$\cos\left(\dfrac{5\pi}{3}-\beta\right)\leqq\cos\alpha\leqq\cos\left(\beta-\dfrac{\pi}{3}\right)$
と見ることにより， $\beta-\dfrac{\pi}{3}\leqq\alpha\leqq\dfrac{5\pi}{3}-\beta$ となる．

以上を整理して
「 $\beta-\dfrac{\pi}{3}\leqq\alpha\leqq\beta+\dfrac{\pi}{3}$ かつ $\dfrac{\pi}{3}-\beta\leqq\alpha\leqq\dfrac{5\pi}{3}-\beta$ 」
となる．

$\cos\left(\dfrac{5\pi}{3}-\beta\right)=\cos\left(\beta+\dfrac{\pi}{3}\right)\leqq\cos\alpha\leqq\cos\left(\beta-\dfrac{\pi}{3}\right)=\cos\left(\dfrac{\pi}{3}-\beta\right)$
から直ちに
「 $\beta-\dfrac{\pi}{3}\leqq\alpha\leqq\beta+\dfrac{\pi}{3}$ かつ $\dfrac{\pi}{3}-\beta\leqq\alpha\leqq\dfrac{5\pi}{3}-\beta$ 」
を見抜くのはちょっとレベルが高い．