　線分 $BC$ の中点を $M$，三角形 $ABC$ の重心を $G$ とする．\
　$G,H,O$ が同一直線上にあることに気をつければ，$AH\parallel MO$ と併せて三角形 $AGH$ と $MGO$ は相似である．従って，$AH : MO = AG : GM = 2 : 1$ である．さらに，三角形 $AHO$ と三角形 $OMD$ は相似であるから，$DO=\dfrac{1}{2}AO$ である．よって，$D$ に関して $O$ と対称な点を $O^\prime$ とすれば，$OO^\prime=2DO=AO$ より $O^\prime$ は三角形 $ABC$ の外接円上に存在するので，方べきの定理より $$\dfrac{1}{2}A O\times \bigg(\frac{1}2AO+AO\bigg)=DO^\prime\times AD= BD\times CD = 100\times 123$$
であるから $AO^2=\bf16400$ である．
公式解説
https://onlinemathcontest.com/contests/omcb004/editorial/6267
　$\triangle ABC$ の重心を $G$ とし，辺 $BC$ の中点を $M$ とする．$OM=x$ とおくと $AH=2x$ であり，$OH=3\times OG=2\times DM=23$ であるから三平方の定理より $$OA^2=AH^2+OH^2=4x^2+23^2=OM^2+MB^2=x^2+\left(\frac{223}{2}\right)^2$$ が成り立つ．これをいい感じに解くことで $OA^2=\boxed{\textbf{\color{blue}{16400}}}$ を得られる．
三平方でやろうの解
https://onlinemathcontest.com/contests/omcb004/editorial/6267/455
　直線 $BC$ に関して，点 $A,O$ と対称な点をそれぞれ $A^{\prime}$，$O^{\prime}$ とする．  
ここで，四角形 $BOCO^{\prime}$ はひし形であるから，線分 $BC,OO^{\prime}$ は直交し，中点 $M$ を共有する．  
また，$\triangle A^{\prime}BC$ の外接円を $\Gamma$ とすると，$\Gamma$ は $BC$ に関して $\triangle ABC$ の外接円と対称であるから，$\Gamma$ の半径の $2$ 乗が求めるものである．  
　直線 $BC,HO$ はともに $AH$ と垂直であるから，$BC \parallel HO$．  
$\angle BHC = 180^{\circ} - \angle BAC = 180^{\circ} - \angle BA^{\prime}C$ より，$H$ は $\Gamma$ 上の点．  
$OH$ と $\Gamma$ の交点のうち $H$ でない方を $K$ とおくと，$\angle KHA^{\prime} =180^{\circ} - \angle OHA = 90^{\circ}$ より，$KA^{\prime}$ は $\Gamma$ の直径であり，$K$ は $A^{\prime}O^{\prime}$ 上の点．  
よって，直線 $KO^{\prime}$，すなわち直線 $A^{\prime}O^{\prime}$ と，直線 $BC$ の交点は，直線 $AO,BC$ の交点 $D$ に等しい．  
　$MD \parallel OK, MO = MO^{\prime}$ であるから，中点連結定理より $$OK = 2MD = 2 \left( BM - BD \right) = CD - BD = 23$$
　三平方の定理より，
$$ AO^2 = O^{\prime}B^2 = O^{\prime}M^2 + MB^2 = O^{\prime}M^2 + \dfrac{ \left( BD + CD \right) ^2}{4} = O^{\prime}M^2 + \dfrac {223^2}{4}$$
$$ AO^2 = O^{\prime}K^2 = O^{\prime}O^2 + OK^2 = 4O^{\prime}M^2 + 23^2$$
したがって，$AO^2 = \dfrac{223^2 - 23^2}{3} = \dfrac{246 \cdot 200}{3} = \mathbf{16400}$ である．

___
残念ながら，大人しく重心をとった方が早いようです．
重心もオイラー線を使わない解法
https://onlinemathcontest.com/contests/omcb004/editorial/6267/456
　鋭角三角形 $ABC$ の外心，垂心をそれぞれ $O,H$ とし，直線 $AO$ と辺 $BC$ との交点を $D$ とすると以下が成り立ちました．
$$BD=100,\quad CD=123,\quad \angle{AHO}=90^{\circ}$$
このとき $AO^2$ の値を求めてください．