　三角形 $ABC$ の重心を $G$ とし，直線 $AM$ と三角形 $ABC$ の外接円の交点のうち $A$ でない方を $X$ とする．\
　直線 $AM$ と $HO$ は $G$ で直交するので，$AO = OX$ と併せて直線 $HO$ は線分 $AX$ の垂直二等分線なので，$AG = GX$ である．また，$AG : GM = 2:1$ であるから，$AM = 3MX$ である．\
　ここで，$BM = CM = x$ と置くと，方べきの定理より $x^2 = \dfrac13AM^2$ であるから，$AM = \sqrt3x$ である．従って，$\sqrt3\cos\angle AMB = y$ とすると，余弦定理より $AB = 24 = x\sqrt{4 - 2y}$ である．よって，再び余弦定理より $\cos \angle BAM = \dfrac{3-y}{\sqrt{12-6y}}$ と計算できるので，
$$AP = 17 = \frac{AG}{\cos\angle BAM} = \frac{2\sqrt3x}{3\cos\angle BAM} = \dfrac{2\sqrt{4-2y}}{3-y}x$$
である．以上より，$AB$ の式と $AP$ の式を併せて解くことで $x = 24\sqrt{\dfrac{17}{62}},y = \dfrac{3}{17}$ を得る．従って，余弦定理より，
$$AC = x\sqrt{4 + 2y} = 24\sqrt{\frac{37}{31}}$$
である．特に，解答すべき値は $\bf{21343}$ である．
公式解説
https://onlinemathcontest.com/contests/omc200/editorial/7339
$HO$ と $AM$ の交点を $G$ とすると，$G$ は三角形 $ABC$ の重心である. $BC$ について $G$ と対称な点を $I$，$GI$ と $BC$ の交点を $D$ とする. $I$ は三角形 $ABC$ の外接円上にある. いま，$A, B, C, M$ から $HO$ に下ろした垂線の足を $H_A, H_B, H_C, H_M$ とすると，$$H_A=\dfrac{AG}{GM}H_M=2H_M=H_B+H_C$$ より，三角形 $AHO$ の面積は $BHO, CHO$ の面積の和に等しい. よって，$HO$ と $AC$ の交点を $Q$ とすると，$AQ:QC=|AHO|:|CHO|=|AHO|:|AHO|-|BHO|=17:10$ が成り立つ. 
ここで，三角形 $GBC$ の垂心を $H_G$ とすると，角度追跡により三角形 $H_GBC$ と三角形 $AQP$ は相似であり，よって $$BD:DC=H_GB×IB:H_GC×IC=17x×8\sqrt 3:10×9\sqrt 3x=8:9$$ が成り立つ. したがって，$AH$ と $BC$ の交点を $E$ とすると，$AE$ と $GD$ は平行だから，$EM=3DM$ なので，$BE=14y, EC=20y$ とおける. よって，$AE=\sqrt{AM^2-EM^2}=\sqrt{858}y$ より，$$AB=\sqrt{AE^2+EB^2}=\sqrt{1054}y,　AC=\sqrt{AE^2+EC^2}=\sqrt{1258}y.$$ したがって，$AB=24$ より，$AC=24\sqrt{\dfrac{1258}{1054}}=24\sqrt{\dfrac{37}{31}}$ がわかり，解答すべき値は $\textbf{21343}$.
初等解（提出時の解法）です
https://onlinemathcontest.com/contests/omc200/editorial/7339/389
　 $xy$ 平面上で $A=(24,0),B=(0,0),P=(7,0),C=(2a,2b)$ とおく．すると， $M=(a,b)$ となり，直線 $AM$ は $y=\frac{b}{a-24}x-\frac{24b}{a-24}$ を満たす．

　また， $H=(2a,(24-2a)\frac{a}{b})$ となり，直線 $OH$ は， $y=\frac{(24-2a)a}{(2a-7)b}x-\frac{7(24-2a)a}{(2a-7)b}$ を満たす．

　 $OH$ と $AM$ が直交していることより， $\frac{(24-2a)a}{(2a-7)(a-24)}=-1$ となりこれを満たすのは $a=168\/31$ である．よって， $O=(12,\frac{2880}{31b}$ となる．

 $$OC^2=OB^2=(12-336\/31)^2+(2b-\frac{2880}{31b})^2=12^2+\frac{2880}{31b}^2$$ より， $b=\frac{12\sqrt{858}}{31}$ となるので，求めるべき値は， $$AC^2=(24-\frac{336}{31})^2+\frac{24\sqrt{858}}{31}^2=\frac{21312}{31}$$ より， $\textbf{21343}$ となる．
ごり押し解法(非推奨)
https://onlinemathcontest.com/contests/omc200/editorial/7339/390
　$OH$ と $AM$ の交点を $G$ とする( $G$ は $\triangle ABC$ の重心である)．\
　$A,B,C$ から対辺に下ろした垂線の足をそれぞれ $D,E,F$ とする．\
　ここで，点 $A$ 中心，半径 $\sqrt{AH・AD}=\sqrt{AG・AM}$ の反転を考える(等式は $\angle AGH=90°$ からわかる)．\
　点 $X$ を反転で移した先を $X^*$ と表すと，$D^*=H,H^*=D,M^*=G,G^*=M$ である．\
　また，$4$ 点 $A,B^*,D^*,M^*$ と $A,P^*,H^*,G^*$ はそれぞれ同一円周上にあるので，$HB^* ⊥AB,MP^* ⊥AB$ が成り立つ．よって $B^* =F$ であり， $B^* P^* =P^* B$ が成り立つ．\
　$AB^*:AP^*=AP:AB=17:24$ と併せて，$AB^* :B^* P^* :P^* B=17:7:7$ が成り立つ．\
　つまり $AB^*=\dfrac{408}{31},B^* P^* =P^* B=\dfrac{168}{31}$ である．\
　ここから中線定理等を用いれば $AC^2=\dfrac{21312}{31}$ となる．
反転を用いる方法
https://onlinemathcontest.com/contests/omc200/editorial/7339/587
　鋭角三角形 $ABC$ の垂心，外心をそれぞれ $H, O$ とします．さらに，辺 $BC$ の中点を $M$ とし，直線 $HO$ と 辺 $AB$ が交わったのでその交点を $P$ とすると，直線 $AM$ と直線 $HO$ は直交し，さらに以下が成立しました：
$$AP=17,\quad PB=7.$$
このとき，辺 $AC$ の長さの $2$ 乗は互いに素な正整数 $a, b$ を用いて ${\dfrac{a}{b}}$ と表せるので，$a+b$ を解答してください.