　点 $A$ を中心として点 $D,E$ を通る円, 点 $B$ を中心として点 $D$ を通る円, 点 $C$ を中心として点 $E$ を通る円をそれぞれ考えると, $F$ はこれら $3$ 円の根心であるから, 以下の等式が成立することがわかる.
$$BP^2-BD^2=BF^2-BD^2-FP^2=CF^2-CE^2-FP^2=CP^2-CE^2$$
条件を用いてこれを解くことで $BP=\sqrt{\dfrac{49}{8}}$ を得るから, ($a,b$ のとり方に依らず)求める値は $\textbf{392}$ である.
公式解説
https://onlinemathcontest.com/contests/omc015/editorial/96
　$BC=5\sqrt{2}$ なる三角形 $ABC$ において, 内部の点 $D,E$ をとると
$$AD=AE, \quad BD=3,\quad CE=2\sqrt{6},\quad DE=3$$
が成り立ちました. $D$ を通り $AB$ に垂直な直線と $E$ を通り $AC$ に垂直な直線の交点を $F$ とし, $F$ から $BC$ におろした垂線の足を $P$ としたとき, $BP$ の長さは $ab$ と $c$ の最大公約数が $1$ であるような正の整数 $a,b,c$ を用いて $\displaystyle a\sqrt{\frac{b}{c}}$ と表されます. $a^{2} bc$ を解答してください.