　$A$ が線分 $BF$ の中点となるような点 $F$ をとる．このとき，
$$\angle DAF =180^\circ-\angle BAD=180^\circ-\angle BAE=\angle EAF$$
および
$$\frac{AD}{AF}=\frac{AD}{AB}=\frac{AB}{AE}=\frac{AF}{AE}$$
より三角形 $ADF$ と三角形 $AFE$ は相似である．すると，
$$\begin{aligned}
\angle DBE+\angle DFE &=\angle ABD+\angle ABE+\angle AFD+\angle AFE\\\\
&=\angle ABD+\angle ADB+\angle AFD+\angle ADF\\\\
&=180^\circ
\end{aligned}$$
より $F$ は三角形 $BDE$ の外接円上にある．$B$ を中心とする $2$ 倍拡大で $\Omega$ は三角形 $BDE$ の外接円へ，$A$ は $F$ へ，$C$ は $D$ へそれぞれ移るため，$C$ は線分 $BD$ の中点である．方べきの定理より三角形 $ADB$ と三角形 $CDA$ は相似であることなどから，
$$\begin{aligned}
AB&=\sqrt{AD\cdot AE}=4\sqrt{30} \\\\
BC&=CD=\frac{AD}{\sqrt{2}}=10\sqrt{2} \\\\
AC&=\frac{AB}{\sqrt{2}}=4\sqrt{15}
\end{aligned}$$
がわかる．$A$ から直線 $BC$ へ下ろした垂線の足を $H$ とすると，
$$BH=11\sqrt{2}, \quad AH=\sqrt{238}$$
となるので，解答すべき値は
$$|△ABC|^2=\left(\frac{1}{2}AH\cdot BC \right)^2=\mathbf{11900}$$
である．
公式解説
https://onlinemathcontest.com/contests/omc229/editorial/12106
　$BE$ と円 $ABC$ の交点を $X$ とおく．\
　$\triangle ABD \sim \triangle AEB$ より $AB=4 \sqrt{30}$ である．\
　角度追跡より $\triangle DAC \sim \triangle AXB$ を得る．よって $CD=t$ とおくと $BX=\dfrac{\sqrt{30}}{5}t$ である．また方べきの定理より $BC=\dfrac{400}{t}-t$ である．\
　さて，円 $\Omega$ と円 $BCD$ が接することとから $\triangle BCX \sim \triangle BDE$ であり，その相似比は $BC:BX=BD:BE=\sqrt{5}:\sqrt{6}$ である．\
　方程式 $\dfrac{400}{t}-t：\dfrac{\sqrt{30}}{5}t =\sqrt{5}:\sqrt{6}$ を解けば $t=10 \sqrt{2}$ を得る．$\triangle ABC$ の三辺の長さが求まるので，あとは面積を求めればよい．
点Fとは別の補助点
https://onlinemathcontest.com/contests/omc229/editorial/12106/625
　円 $\Omega$ に内接する，$AB\gt AC$ なる三角形 $ABC$ があり，$Ω$ の $A$ での接線と直線 $BC$ が点 $D$ で交わっています．直線 $AB$ に関して $D$ と反対側に，三角形 $ABD$ と三角形 $AEB$ が相似となるような点 $E$ をとったところ，$\Omega$ と三角形 $BDE$ の外接円は接しました．さらに，
$$AD=20, \quad AE=24$$
であるとき，三角形 $ABC$ の面積の $2$ 乗を求めてください．