https://spherical-harmonics.hateblo.jp/entry/Todai/1989/Bunka

[3] 虚部が正の複素数の全体を $H$ とする．
すなわち， $H=\{z=x+iy\,|\ x，y は実数で y\gt 0 \}$ とする．以下 $z$ を $H$ に属する複素数とする． $q$ を正の実数とし， $f(z)=\dfrac{z+1-q}{z+1}$ とおく．

(1) $f(z)$ もまた $H$ に属することを示せ．

(2) $f_1(z)=f(z)$ と書き，以下 $n=2，3，4，\cdots$ に対して
$f_2(z)=f(f_1(z))$ ， $f_3(z)=f(f_2(z))$ ， $\cdots$ ， $f_n(z)=f(f_{n-1}(z))$ ， $\cdots$
とおく．このとき，各 $n$ に対して
$f_n(z)=\dfrac{r_nz+(1-q)s_n}{s_nz+r_n}, \quad {r_n}^2-(1-q){s_n}^2=q^n$
が成り立つような $z$ によらない実数 $r_n，s_n$ がとれることを示せ．

2021.01.23記

詳細は 1989年(昭和64年)東京大学-数学(理科)[3] - [別館]球面倶楽部零八式markIISR 参照．

[解答]
(1) $f(z)=1-\dfrac{q}{z+1}=1+\dfrac{q(-\bar{z}+1)}{|z+1|^2}$
だから， $f(z)$ の虚部は $\dfrac{-q\bar{z}}{|z+1|^2}$ の虚部に等しく，これは $z$ の虚部の $\dfrac{q}{|z+1|^2}(\gt 0)$ 倍である．

よって， $z$ の虚部が正ならば， $f(z)$ の虚部も正となり， $z\in H$ ならば $f(z)\in H$

(2) $A=\begin{pmatrix} 1 & 1-q \\ 1 & 1 \end{pmatrix}$ とおくと $\begin{pmatrix} f(z) \\ 1 \end{pmatrix}=A\begin{pmatrix} z \\ 1 \end{pmatrix}$ が成立する．
$J=\begin{pmatrix} 0 & 1-q \\ 1 & 0\end{pmatrix}$ とおくと $J^2=(1-q)I$ だから　 $A^n=(I+J)^n=r_nI+s_nJ$ となる $r_n,s_n$ が存在し，このとき　 $A^n=\begin{pmatrix} r_n & (1-q)s_n \\ s_n & r_n\end{pmatrix}$ となるので， $f_n(z)=\dfrac{r_n z+(1-q)s_n}{s_n z+r_n}$ なる $r_n,s_n$ をとることができる．

このとき， $\mbox{det}A=q$ により $\mbox{det}A^n=q^n$ だから　 $r_n^2-(1-q)s_n^2=q^n$ が成立する．

文系なので普通は帰納法でやる.

[解答]
$r_1=s_1=1$ とおくと， $f_1(z)=\dfrac{r_1z+(1-q)s_1}{s_1z+r_1}$ ， $r_1^2-(1-q)s_1^2=1-(1-q)=q$ より $n=1$ で成立．

$n$ における成立を仮定すると，
$f_n(z)=\dfrac{r_n z+(1-q)s_n}{s_n z+r_n}$ ， $r_n^2-(1-q)s_n^2=q^n$ なる $r_n,s_n$ が存在し，

このとき
$f_{n+1}(z)=\dfrac{(r_n+(1-q)s_n) z+(1-q)(s_n+r_n)}{(s_n+r_n) z+(r_n+(1-q)s_n)}$ となるので
$r_{n+1}=r_n+(1-q)s_n，s_{n+1}=r_n+s_n$ とおくことができ，
$r_{n+1}^2-(1-q)s_{n+1}^2=q(r_n^2-(1-q)s_n^2)=q^{n+1}$ が成立するので $n+1$ でも成立する．

よって数学的帰納法により任意の自然数 $n$ について題意が成立する．

2021.06.11記

懐しい資料が見つかった

(1)ができないと話にならない．(2)は，数学的帰納法以外には考えられないだろうと思ったのだが，高等学校の教科書では分数式の取扱いが不十分である．そのため本問の様に，複素数の集合 $H$ の上の写像という形で出題せざるを得なかった．