　$A,B,C$ から対辺に下ろした垂線の足を $P,Q,R$ とし，辺 $BC, CA, AB$ の中点を $K, M, N$ とする．$AH=2x, BH=2y, CH=2z$ とすると, $OK = x, OM = y, ON = z$ であるから
$$x+y+z=21$$
が分かる．また, 
$$HR=\dfrac{BH}{2}=y,\quad HQ=\dfrac{CH}{2}=z,\quad HR×HC=HA×HP$$
 より $HP=\dfrac{yz}{x}$ であるから 
$$y+z+\dfrac{yz}{x}=18$$
である．さらに, $BC=2\sqrt 3x$ より余弦定理から
$$y^2+yz+z^2=3x^2$$
であるから, これらを連立して解くことで $BC=2\sqrt 3 x=\sqrt{2271} - \sqrt{507}$ である．特に解答すべき値は $\textbf{2778}$ である． 

----

**別解.**　$BC$ について $A$ と反対側に, 三角形 $PBC$ が正三角形となるような点 $P$ をとる. $$AH+BH+CH=2d(O, BC)+2d(O, CA)+2d(O, AB)=2×18=36$$ であることに注意する. ここで $AH$ と $BC$ , $BH$ と $AC$ , $CH$ と $AB$ の交点をそれぞれ $D, E, F$ とすると, $\angle BHF=\angle BAC=60^{\circ}$ であり, $HB=2HF, HC=2HE$ が従う. $AH=2x$ とすると
$$HB+HC=42-2x,　HE+HF=21-x,　HD=x-3$$ と表せる. ここで$\angle BHC+\angle BPC=180^{\circ}$ から $H, B, P, C$ は共円であり, 以上より $$HP=HB+HC=42-2x$$
となる. さらに, 三角形 $AEH$ と $BEC$ は相似であり, $BC=\sqrt 3AE$ であるから $BC=\sqrt 3AH=2\sqrt 3x$ となる. よって, 三角形 $HBC$ の面積は $HD×BC\/2=\sqrt 3x(x-3)$ と表せる.
一方で, 三角形 $HPC$ と $XPB$ が相似となるような点 $X$ が $HB$ 上にとれ, ここから
$$|HBC|=|HXP|-|BCP|=\dfrac{\sqrt 3}{4}\\{(42-2x)^2-12x^2\\}=\sqrt 3(-2x^2-42x+441)$$
と表すこともできる. $2$ 式を比較することで, $x^2+13x-147=0$ から $$x=\dfrac{\sqrt{757}-13}{2}$$ が導け, よって $$BC=2\sqrt 3x=\sqrt{2271}-\sqrt{507}$$ となる. 特に解答すべき値は $\textbf{2778}$ である.
公式解説
https://onlinemathcontest.com/contests/omc128/editorial/4944
　三角関数を用いる方法です. 計算は公式解説より大変になりますが, きれいに求まります.

---  

　三角形 $ABC$ の外接円の半径を $R$ とし, $\angle{A}=\alpha, \angle{B}=\beta, \angle{C}=\gamma$ とします. このとき $BC=2R\sin{\alpha}, CA=2R\sin{\beta}, BC=2R\sin{\gamma}$ であり, 計算することで, 以下がわかります.  
$$2R(\cos{\alpha}\cos{\beta}+\cos{\beta}\cos{\gamma}+\cos{\gamma}\cos{\alpha})=18, R(\cos{\alpha}+\cos{\beta}+\cos{\gamma})=21$$
　ここから  $7(\cos{\alpha}\cos{\beta}+\cos{\beta}\cos{\gamma}+\cos{\gamma}\cos{\alpha})=3(\cos{\alpha}+\cos{\beta}+\cos{\gamma}) $ であり, $\cos\alpha=\dfrac{1}{2}$ を代入し, 整理することで以下を得ます.  $$\cos{\beta}+\cos{\gamma}+14\cos{\beta}\cos{\gamma}=3$$
　さて, 上の式から $\gamma=120^\circ-\beta$ を使えば $\cos{\beta}$ の値が（頑張れば）分かりそうですが, 訊かれているのは $BC$ です. $$BC=2R\sin{\alpha}=\sqrt{3}R=\frac{21\sqrt{3}}{\frac{1}{2}+\cos{\beta}+{\cos{\gamma}}}$$ なので, $\cos{\beta}+{\cos{\gamma}}$ さえ分かればよいわけです. そしてこれは, $\beta+\gamma=120^\circ$ だから和積が効きそうです. 実際, $$\cos{\beta}+\cos{\gamma}=2\cos60^{\circ}\cos{\dfrac{\beta-\gamma}{2}}=\cos{\dfrac{\beta-\gamma}{2}}$$ であり, また $\cos{\beta}\cos{\gamma}$ には積和を使えば, $$\cos{\beta}\cos{\gamma}=\dfrac{1}{2}(\cos120^{\circ}+\cos(\beta-\gamma))$$ とわかります.  
　したがって $x=\cos{\dfrac{\beta-\gamma}{2}}$ とおけば, $2$ 倍角の公式より $\cos(\beta-\gamma)=2x^2-1$ となるから, 上の式は $$x+7\left(2x^2-\frac{3}{2}\right)=3$$ となり, これを解くことで $x=\dfrac{-1+\sqrt{757}}{28}$ を得ます（$x\geq{-1}$ よりもう一方は不適）. すなわち $$BC=\dfrac{42\sqrt{3}}{2x+1}=\sqrt{2271}-\sqrt{507}$$ と求まるから, 解答すべき値は $\bf{2778}$ となります.
ユーザー解説
https://onlinemathcontest.com/contests/omc128/editorial/4944/158
　$\angle A=60^{\circ}$ なる三角形 $ABC$ について，その外心・垂心をそれぞれ $O,H$ とします．また，点 $X$ と直線 $t$ の距離を $d(X, t)$ で表します．

$$\begin{aligned}
d(H,BC) + d(H, CA) + d(H, AB) &= 18,\\\\
d(O, BC) + d(O, CA) + d(O, AB) &= 21
\end{aligned}$$

であるとき，$BC$ の長さは正整数 $a,b$ を用いて $\sqrt a - \sqrt b$ と表せるので，$a+b$ を解答してください．