$M$ に関して $H$ と対称な点を $X$ とする. このとき, 四角形 $BXCH$ は平行四辺形であるから, 
$$\angle BXC = \angle BHC = 180^\circ - \angle BAC$$
であるので $X$ は $\Gamma$ 上にある. よって
$$OM×OP=OC^2=OX^2$$
より三角形 $OMX$ と $OXP$ は相似であるから, $OM=HM = MX$ と併せて $OX=PX$ である. ここで, 三角形 $HOX$ が直角三角形であることに気をつけ, 
$$PX^2=OX^2=HX^2-OH^2=9$$
より $OX=XP=3$ である. また $OX^2=OM×OP$ なので $OP=\dfrac{9}{2}$ であるから, $MP=\dfrac{5}{2}$ である. 以上より, 中線定理より
$$2(HM^2+MP^2)=PX^2+HP^2$$
であるから, $HP^2=\dfrac{23}{2}$ である. 特に解答すべき値は $\bf{25}$ である.
公式解説
https://onlinemathcontest.com/contests/omc157/editorial/5522
　外心 $\mathrm{O}$ を始点とし，$\mathrm{A}(\vec{a})$，$\mathrm{B}(\vec{b})$，$\mathrm{C}(\vec{c})$，$\mathrm{H}(\vec{h})$，$\mathrm{M}(\vec{m})$，$\mathrm{P}(\vec{p})$とする．幾何的条件より，$\vec{m}=\dfrac{\vec{b}+\vec{c}}{2}$，$\vec{h}=\vec{a}+\vec{b}+\vec{c}=\vec{a}+2 \vec{m}$ である．\
  　長さの条件から，$\mathrm{OM}=|\vec{m}|=2$，$\mathrm{HM}=|\vec{a}+\vec{m}|=2$，$\mathrm{OH}=|\vec{a}+2 \vec{m}|=\sqrt{7}$．\
  　それぞれ $2$ 乗して連立方程式を解けば，$|\vec{a}|=3$，$\vec{a} \cdot \vec{m}=-\dfrac{9}{2}$ を得る．\
  　ここで，$\triangle \mathrm{OBM}$ と $\triangle \mathrm{OPB}$  が相似であることを用いれば，$\mathrm{OP}=\dfrac{9}{2}$ である．$\mathrm{O}$，$\mathrm{P}$，$\mathrm{M}$ は一直線上にあるので，$\vec{p}=\dfrac{9}{4} \vec{m}$．\
  　最後に $\mathrm{HP}^2=|\vec{h}-\vec{p}|^2=|\vec{a}-\dfrac{1}{4}\vec{m}|^2$ を計算すれば求まる．
ユーザー解説
https://onlinemathcontest.com/contests/omc157/editorial/5522/226
　外接円を $\Gamma$ とする三角形 $ABC$ があり，その垂心を $H$，外心を $O$ とします．辺 $BC$ の中点を $M$ とし，$\Gamma$ の $B, C$ における接線の交点を $P$ とすると，以下が成立しました．
$$HM=OM=2,\quad OH=\sqrt7$$
このとき，$HP^2$ を求めてください．ただし，求める値は互いに素な正の整数 $a, b$ を用いて $\dfrac{a}{b}$ と表せるので，$a + b$ を解答してください．