https://spherical-harmonics.hateblo.jp/entry/Todai/1997/Bunka

2024.01.15記

[3] $r$ を正の数とする． $xyz$ 空間に原点 $\mbox{O}(0,0,0)$ と3点 $\mbox{A}(1,0,0)$ ， $\mbox{B}(0,1,0)$ ， $\mbox{C}(0,0,1)$ をとる． $xyz$ 空間の点 $\mbox{P}$ で
$|\overrightarrow{\mbox{PA}}|=|\overrightarrow{\mbox{PB}}|=r|\overrightarrow{\mbox{PO}}|$ ， $|\overrightarrow{\mbox{PC}}|=|\overrightarrow{\mbox{PO}}$ ]
を満たすものが2つ存在するための $r$ の条件を求めよ．さらに，この $2$ 点の座標を $r$ を用いて表せ．

2020.01.11記
普通に計算するのが楽．

[解答]
${\rm P}(x,y,z)$ とおくと
$\rm PA=PB$ から $x=y$ ，
$\rm PC=PO$ から $z=\dfrac{1}{2}$
${\rm PA}=r{\rm PO}$ から
$(x-1)^2+y^2+z^2=r^2(x^2+y^2+z^2)$
となるので， $y,z$ を消去して得られる
$2(r^2-1)x^2+2x+\dfrac{r^2-5}{4}=0$
が相異2実数をもつ条件を求めると
$\sqrt{3-\sqrt{6}}\lt r \lt \sqrt{3+\sqrt{6}}，r\neq 1$
となり，2点の座標は
$\Bigl(\dfrac{-2\pm\sqrt{-2r^4+12r^2-6}}{4(r^2-1)}，\dfrac{-2\pm\sqrt{-2r^4+12r^2-6}}{4(r^2-1)}，\dfrac{1}{2}\Bigr)$
（複号同順）となる．

1997年(平成9年)東京大学前期-数学(理科)[3] - [別館]球面倶楽部零八式markIISR
と同じようにアポロニウスの球で考えると次のようになるが，具体的に2点の座標を求めなければならないので，遠回りな解法となっている．

$|\vec{\rm PA}|=r|\vec{\rm PO}|$ をみたす点 $\rm P$ の集合は $\Bigl(\dfrac{1}{1+r},0,0\Bigr)$ ， $\Bigl(\dfrac{1}{1-r},0,0\Bigr)$ を直径とする球面，つまり中心 $\Bigl(\dfrac{1}{1-r^2},0,0\Bigr)$ ，半径 $\dfrac{r}{1-r^2}$ の球面となる．

同様に $|\vec{\rm PB}|=r|\vec{\rm PO}|$ をみたす点 $\rm P$ の集合は中心 $\Bigl(0,\dfrac{1}{1-r^2},0\Bigr)$ ，半径 $\dfrac{r}{1-r^2}$ の球面となる．

さらに， $|\vec{\rm PC}|=r|\vec{\rm PO}|$ をみたす点 $\rm P$ の集合は ${\rm OC}$ の垂直2等分面上にある．

2つの球面と1つの平面の交わりが2点となる条件を求めれば良い．

$\rm P$ は中心 ${\rm N}\Bigl(\dfrac{1}{2(1-r^2)},\dfrac{1}{2(1-r^2)},0\Bigr)$ ，半径
$R=\sqrt{\dfrac{r^2}{(1-r^2)^2}-\dfrac{1}{2(1-r^2)^2}}$ $=\sqrt{\dfrac{2r^2-1}{2(1-r^2)^2}}$
の球と平面 $x=y$ の交わりである円周上にあるので，
$R\gt \dfrac{1}{2}$ をみたす $r$ の範囲を求めれば良い．

$\dfrac{1}{4} \lt \dfrac{2r^2-1}{2(1-r^2)^2}$
により
$(1-r^2)^2 \lt 4r^2-2，r^2\neq 1$
となるので， $\sqrt{3-\sqrt{6}}\lt r \lt \sqrt{3+\sqrt{6}}，r\neq 1$ となる．

2点の座標は $\Bigl(\dfrac{1}{2(1-r^2)}\pm \dfrac{1}{\sqrt{2}}\sqrt{R^2-\dfrac{1}{4}}，\dfrac{1}{2(1-r^2)}\pm \dfrac{1}{\sqrt{2}}\sqrt{R^2-\dfrac{1}{4}}，\dfrac{1}{2}\Bigr)$
を整理すれば良い．