https://spherical-harmonics.hateblo.jp/entry/Todai/1935/Nougaku

2020.04.20記

[4] 四邊形ノ各邊ノ長さ夫々一定ナルトキ其面積最大ナルモノヲ求ム．

本問のテーマ

Bretschneider の公式
Brahmagupta の公式

2020.04.20記
Bretschneider の公式
ブレートシュナイダーの公式 - Wikipedia
Brahmagupta の公式
ブラーマグプタの公式 - Wikipedia

[大人の解答]
四角形の辺の長さを $a,b,c,d$ とし，1組の向い合う角度の和を $\alpha$ とする（他方の組は $2\pi-\alpha$ ）．

このとき，Bretschneider の公式より，四角形の面積 $S$ は $s=\dfrac{a+b+c+d}{2}$ を用いて
$S^2=(s-a)(s-b)(s-c)(s-d)-abcd\cos^2\dfrac{\alpha}{2}$ （他方の組を用いても同じ値になることに注意）
となるので， $S$ は $\alpha=\pi$ のときに最大値
$=\sqrt{(s-a)(s-b)(s-c)(s-d)}$ $=\dfrac{1}{4}\sqrt{(-a+b+c+d)(a-b+c+d)(a+b-c+d)(a+b+c-d)}$
をとる．等号成立は四角形が円に内接するときである．

とするのが最速解法だが、Bretschneider の公式を導くのが面倒なので、素直に解く方が速い。

[解答]
四角形 $\rm ABCD$ とし，その面積を $S$ とする．また， $\rm AB$ $=a$ ， $\rm BC$ $=b$ ， $\rm CD$ $=c$ ， $\rm DA$ $=d$ とおく． $\angle\rm DAB$ $=\theta$ ， $\angle\rm BCD$ $=\varphi$ とする．

このとき
$S=\dfrac{1}{2}(ad\sin \theta+bc\sin\varphi)$
であり，
$\rm BD$ $=a^2+d^2-2ad\cos\theta=b^2+c^2-2bc\cos\varphi$
から $ad\sin\theta\, d\theta= bc\sin \varphi\, d\varphi$ となるので，
$2\cdot \dfrac{dS}{d\theta}$ $=ad\cos\theta+bc\cos\varphi\cdot\dfrac{ad\sin\theta}{bc\sin\varphi}$ $=ad\cdot\dfrac{\sin\varphi\cos\theta+\cos\varphi\sin\theta}{\sin\varphi}$ $=ad\cdot\dfrac{\sin(\varphi+\theta)}{\sin\varphi}$
が成立する． $\dfrac{dS}{d\theta}=0$ なる $\theta$ は $\theta=\pi-\varphi$ で，この前後で符号を正から負に転ずるので極大かつ最大となる．（ $0\lt \varphi\lt \pi$ より $\sin\varphi\gt0$ ）

よって四角形が円に内接するときに面積が最大となり，その面積は Brahmagupta の公式より
$S=\dfrac{1}{4}\sqrt{(-a+b+c+d)(a-b+c+d)(a+b-c+d)(a+b+c-d)}$
となる．

■ Brahmagupta の公式を証明しながら用いるならば，
$S=\dfrac{1}{2}(ad\sin \theta+bc\sin\theta)$ $=\dfrac{1}{2}(ad+bc)\sqrt{1-\cos^2\theta}$
において，四角形の対角線の片方を求める式
$a^2+d^2-2ad\cos\theta=b^2+c^2+2bc\cos\theta$
から得られる
$\cos\theta=\dfrac{a^2+d^2-b^2-c^2}{2(ad+bc)}$
を代入すれば
$S=\sqrt{4(ad+bc)^2-(a^2+d^2-b^2-c^2)^2}$
が得られ，これを因数分解すれば良い．