https://spherical-harmonics.hateblo.jp/entry/Todai/1923/Kougaku

[1] 斜交軸ニ關シ原點ヲ變ゼズシテ座標軸ヲ轉換スル一般ノ置換ヘ $X=mx+ny$ ， $Y=m'x+n'y$ ニ於テ $\dfrac{m^2+m'{}^2-1}{n^2+n'{}^2-1}=\dfrac{mm'}{nn'}$ ナル關係アルコトヲ示セ．

2022.08.15記
「座標軸を変換する」の意味が曖昧であるが，証明すべきことから「長さを変えない座標変換」と考えることにする．つまり，

[1] 斜交座標における原点を変えない変換 $X=mx+ny$ ， $Y=m'x+n'y$ が長さを変えない変換のとき $\dfrac{m^2+m'{}^2-1}{n^2+n'{}^2-1}=\dfrac{mm'}{nn'}$ なる関係があることを示せ．

を解くことにする．

[解答]
$x$ 軸と $y$ 軸のなす角度を $\alpha$ ， $X$ 軸と $Y$ 軸のなす角度を $\beta$ とするとき，与えられた変換が長さを変えないことから
$x^2+y^2-2xy\cos\alpha=X^2+Y^2-2XY\cos\beta$
$=(mx+ny)^2+(m'x+n'y)^2-2(mx+ny)(m'x+n'y)\cos\beta$
$=(m^2+m'{}^2-2mm'\cos\beta)x^2$ $+(n^2+n'{}^2-2nn'\cos\beta)y^2$
$+2\{mn+m'n'-(mn'+m'n)\cos\beta\}xy$
が任意の $x,y$ について成立する．

よって
$=m^2+m'{}^2-2mm'\cos\beta=n^2+n'{}^2-2nn'\cos\beta=1$ ，
$mn+m'n'-(mn'+m'n)\cos\beta＝-\cos\alpha$
であり，前者から
$\cos\beta=\dfrac{m^2+m'{}^2-1}{2mm'}=\dfrac{n^2+n'{}^2-1}{2nn'}$
となり，斜交座標であるから $\cos\beta\neq 0$ となるので $n^2+n'{}^2-1\neq 0$ だから，
$\dfrac{m^2+m'{}^2-1}{n^2+n'{}^2-1}=\dfrac{mm'}{nn'}$
が成立する．

■ もちろん， $\dfrac{m^2+m'{}^2-1}{n^2+n'{}^2-1}=\dfrac{mm'}{nn'}$ は必要条件である．