**補題.**　下図で $AB=AC$ のとき, $BQ:QC=PQ:QR$ である.

**証明.**　直線 $AC$ 上に $QR=QR^\prime$ なる $R$ でない点 $R^\prime$ をとると, $\angle BPQ=\angle ARQ=\angle CR^\prime Q$ が成立する. これと $\angle B=\angle C$より $\triangle BPQ$ と $\triangle CR^\prime Q$ は相似であるから, $BQ:QC=PQ:QR^\prime=PQ:QR$.
![figure 1](\/images\/FqhyfvdsIsWbI3JGY3SRlibmU6Po3LoTHhbgK3pp)
　補題とトレミーの定理より
　　$$DE\times FG+5\sqrt{39}=3DE\times 2FG$$
が従うから, $DE\times FG=\sqrt{39}$ である. $\angle DEG=\angle DFG$ に留意すれば, $DE=x$ とおけば余弦定理より
　　$$\displaystyle \frac{x^2+(3x)^2-39}{2\times x \times 3x}=\displaystyle \frac{(\frac{\sqrt{39}}{x})^2+(\frac{2\sqrt{39}}{x})^2-39}{2\times \frac{\sqrt{39}}{x} \times \frac{2\sqrt{39}}{x}}$$
を解けばよい. これを整理すると, $x^4+5x^2-78=0$ となり, $x=\displaystyle \frac{\sqrt{39}}{3}$ を得る. よって $DE=\displaystyle \frac{\sqrt{39}}{3}, FG=3, EG=\sqrt{39}$ が分かり, 余弦定理より
　　$$\cos \angle EDG=\displaystyle \frac{(\frac{\sqrt{39}}{3})^2+39-39}{2\times \frac{\sqrt{39}}{3}\times \sqrt{39}}=\frac{1}{6}$$
また $\angle EDG=\angle GFC$より,
　　$$CG=\sqrt{3^2+4^2-2\times 3\times4\times\displaystyle\frac{1}{6}}=\sqrt{21}$$
となる. 方べきの定理より
　　$$4\times(4+5)=\sqrt{21}\times CA$$
であるから, $CA=\displaystyle \frac{36}{\sqrt{21}}=12\sqrt{\displaystyle \frac{3}{7}}$ で, 特に求める値は $12^2\times 3 \times 7=\textbf{3024}$ である.
公式解説
https://onlinemathcontest.com/contests/omc012/editorial/80
　$AB = AC = 12\sqrt x$ とおく．このとき，方べきの定理より
$$ 12\sqrt x\times BD = BA \times BF = 24 \implies AD = 12\sqrt x - \frac2{\sqrt x}=\frac{12x-2}{\sqrt x} $$
が分かり，同様に $AG = \dfrac{12x - 3}{\sqrt x}$ が分かる．また $\alpha = \angle BAC$ として
$$ \sin\frac\alpha2 = \frac1{12\sqrt x} \times \frac{BC}2=\frac1{2\sqrt x} \implies \cos\alpha = 1 - 2\left(\frac1{2\sqrt x}\right)^2 = 1 - \frac1{2x} = \frac{2x-1}{2x} $$
であるから，余弦定理より
$$\begin{aligned}
&DG^2 = AD^2 + AG^2 - 2 AD \times AG\cos\alpha\\\\
&\mskip-5mu\Longrightarrow\\;39 = \frac{(12x-2)^2+(12x-3)^2}x - \frac{\mathinner{(12x-2)}\mathinner{(12x-3)}}x \times \frac{2x-1}x \\\\
&\mskip-5mu\Longrightarrow\\;39x^2 = x\left((12x-2)^2 - 2\mathinner{(12x-2)}\mathinner{(12x-3)} + (12x-3)^2\right) + \mathinner{(12x-2)}\mathinner{(12x-3)}\\\\
&\mskip-5mu\Longrightarrow\\;39x^2 = x\mathinner{((12x-2)-(12x-3))^2} + \left(144 x^2 - 60x + 6\right) \\\\
&\mskip-5mu\Longrightarrow\\;105x^2 - 59x + 6 = 0 \\;\Longrightarrow\\; \mathinner{(7x-3)}\mathinner{(15x-2)} = 0.
\end{aligned}$$
$24\sqrt x = AB + AC \gt BC = 12$ より $x \gt \dfrac14$ であるから $x = \dfrac37$ が分かり，求める値は $12^2 \times 3 \times 7 = \mathbf{3024}$．
他の計算解法
https://onlinemathcontest.com/contests/omc012/editorial/80/6
　下図において, $AB=AC, BE=3, EF=5, FC=4, DG=\sqrt{39}$ のとき, $AC$ の長さは正の整数 $a, b, c$ を用いて $a\sqrt{\displaystyle \frac{b}{c}}$ と表されます(ただし, $ab$  と$c$ の最大公約数は $1$ であるとします). $a^2bc$ を求めてください.
![figure 1](\/images\/89r7iVi3WpkTOF4XWYpTVpPY4Po2bwn7YbvlWsNL)