　頂点 $A, B, C$ から対辺に下ろした垂線の足をそれぞれ $X, Y, Z$ とする．\
　このとき，$\angle HXM = \angle HPM = 90^\circ$ であるから $4$ 点 $H, M, P, X$ は同一円周上にある．また，$4$ 点の組 $(B, H, X, Z)$, $(B, C, Y, Z)$ もそれぞれ同一円周上にあるので，方べきの定理より
$$AP\cdot AM = AH\cdot AX = AB\cdot AZ = AC\cdot AY$$
が成り立つ．これと中線定理より，
$$\begin{aligned}
AM\cdot PM
&= AM^2 - (AP\cdot AM)\\\\
&= \frac{AB^2 + AC^2 - 2BM^2}{2} - \frac{AB\cdot AZ + AC\cdot AY}{2}\\\\
&= \frac{AB^2 + AC^2 - 2BM^2 - (AB^2 - AB\cdot BZ) - (AC^2\cdot AC\cdot CY)}{2}\\\\
&= \frac{ AB\cdot BZ + AC\cdot CY - 2BM^2}{2}\\\\
&= \frac{ BC\cdot BX + BC\cdot CX - 2BM^2}{2}\\\\
&= \frac{ BC^2 - 2BM^2}{2}\\\\
&= BM^2
\end{aligned}$$
である．したがって，$AM : BM = BM : PM$ であるから三角形 $ABM$ と三角形 $BPM$ は相似であり，同様に三角形 $ACM$ と三角形 $CPM$ も相似である．よって，
$$\angle BPC = \angle BPM + \angle CPM = \angle ABM + \angle ACM = \angle ABC + \angle ACB$$
であるから，直線 $BC$ に関して $P$ と対称な点を $P^\prime$ とすると，
$$\angle BAC + \angle BP^\prime C = \angle BAC + \angle BPC = \angle BAC + \angle ABC + \angle ACB = 180^\circ$$
となり，$P^\prime$ は $A$ を含まない弧 $BC$ 上にある．また，$BC\perp PP^\prime$ も成り立つので，$P^\prime = Q$ である．よって，
$$\angle DBE = \angle CBP = \angle QBC = \angle QAC = \angle DAE$$
となり，$4$ 点 $A, B, D, E$ は同一円周上にある．したがって，
$$\angle BEF = \angle BED = \angle BAD = \angle BAQ = \angle BCQ = \angle BCF$$
であるから，$4$ 点 $B, C, E, F$ も同一円周上にある．よって，
$$\angle BAE = \angle BAC = \angle BQF,\quad \angle AEB = \angle CFB = \angle QFB$$
であるから，三角形 $ABE$ と三角形 $QBF$ は相似である．\
　いま，三角形 $ABM$ と三角形 $BPM$ は相似であったから，
$$\frac{AM}{PM}
= \frac{AM}{BM}\cdot\frac{BM}{PM}
= \bigg(\frac{AM}{BM}\bigg)^2
= \bigg(\frac{AB}{BP}\bigg)^2
= \bigg(\frac{AB}{BQ}\bigg)^2
= \frac{9}{4}$$
である．よって，メネラウスの定理より，
$$\frac{BE}{EP} = \frac{AM}{PA}\cdot \frac{CB}{MC} = \frac{18}{5}$$
であるから，
$$BE = BP\cdot\frac{BE}{BP} = BQ\cdot\frac{BE}{BE - EP} = \frac{108}{13}$$
を得る．ここで，三角形 $ABE$ と三角形 $QBF$ は相似であったから，
$$BF = BE\cdot\frac{BQ}{AB} = \frac{72}{13}$$
である．また，
$$\angle FBP = \angle FBQ + \angle PBQ = \angle ABE + \angle EBQ = \angle ABQ$$
であるから，余弦定理より
$$\begin{aligned}FP^2
&= {BF^2 + BP^2 - 2BF\cdot BP\cos\angle FBP}\\\\
&= {BF^2 + BQ^2 - 2BF\cdot BQ\cos\angle ABQ}\\\\
&= {BF^2 + BQ^2 - 2BF\cdot BQ\cdot\frac{AB^2 + BQ^2 - AQ^2}{2AB\cdot BQ}}\\\\
&= \frac{11684}{169}
\end{aligned}$$
である．特に解答すべき値は $\bf11853$ である．
公式解説
https://onlinemathcontest.com/contests/omc240/editorial/8773
　公式解説と同様の議論から，直線 $AB$ と直線 $CP$ との交点を $R$ とすると $R$ と $F$ は直線 $BC$ に関して対称なので，$FP=QR$ の長さを求めればよい．
$$DE=\frac{AB\cdot CD}{AC}=\frac{AC\cdot BD}{AB}=DR,\angle BDG=\angle BAC=\angle CDE$$
より $BC\parallel ER$ であり，$\omega$ の $B,C$ での $2$ 接線の交点を $T$ とすると $\triangle DER\sim \triangle TCB$ より $\dfrac{AR}{AB}=\dfrac{AD}{AT}$ なので，これと $\dfrac{AD}{DQ}=\dfrac{AT}{TQ}=\dfrac{AB^2}{AC^2}=\dfrac{9}{4}$ から $BR=AB(1-\dfrac{AR}{AB})=\dfrac{72}{13}$ となる．よって，余弦定理から $FP^2=QR^2=\dfrac{11684}{169}$ がわかる．
相似と調和点列
https://onlinemathcontest.com/contests/omc240/editorial/8773/782
　鋭角三角形 $ABC$ の垂心を $H$, 外接円を $\omega$ とします．辺 $BC$ の中点を $M$ とし， $H$ から直線 $AM$ におろした垂線の足を $P$ とします． $\omega$ の $A$ を含まない弧 $BC$ 上に直線 $BC$ と $PQ$ が直交するような点 $Q$ をとり，直線 $AQ$ と $BC$ の交点を $D$，直線 $AC$ と $BP$ の交点を $E$，直線 $CQ$ と $DE$ の交点を $F$ とすると，
$$AB=9,\quad BQ=6,\quad QA=11$$
が成り立ちました．このとき，線分 $FP$ の長さの $2$ 乗は互いに素な正の整数 $a, b$ を用いて $\dfrac{a}{b}$ と表されるので， $a+b$ の値を求めてください．