　$ABC$ の垂心を $H$ とすれば, $O,G,H$ は同一直線上で $HG:GO=2:1$ が成立するから, $AH$ の長さは
$$AH=\sqrt{(11^2-10^2)\times 3^2+10^2}=17$$
$BC$ の中点を $M$ とすると
$$2AO\cos A=2BO\cos \angle BOM=2OM=AH$$
これより, $BC$ の長さについて
$$BC=2AO\sin{A}= \sqrt{(2AO)^2-(2AO\cos{A})^2}=\sqrt{(2AO)^2-(AH)^2}=\sqrt{\textbf{111}}$$
公式解説
https://onlinemathcontest.com/contests/omc103/editorial/2186
$BC$の中点を$M$とすると, $M$は直線$AG$上にあり,
$$AM=\frac{3}{2}AG=\frac{33}{2}$$
$$\cos{\angle OAM}=\frac{AO}{AG}=\frac{10}{11}$$
$$BO=AO=10$$
$$\angle OMB=90\degree$$
三角形$OAM$において余弦定理より,
$$OM^2=AO^2+AM^2-2AO \times AM \cos{\angle OAM}=\frac{289}{4}$$
三角形$OBM$において三平方の定理より,
$$BM^2=BO^2-OM^2=\frac{111}{4}$$
よって, $BC^2=(2BM)^2={\bf 111}$.
Euler 線を知らない場合の幾何学的解法
https://onlinemathcontest.com/contests/omc103/editorial/2186/83
ベクトルを用いて解きます.

$\overrightarrow{OA}=\vec{a},\overrightarrow{OB}=\vec{b},\overrightarrow{OC}=\vec{c}$とおきます.\
\
このとき条件は以下の式で表されます.
- $|\vec{a}|=|\vec{b}|=|\vec{c}|$
- $|\frac{\vec{a}+\vec{b}+\vec{c}}{3}-\vec{a}|=11$
- $|\vec{a}|=10$
- $\frac{\vec{a}+\vec{b}+\vec{c}}{3}\cdot\vec{a}=0$

これらを整理して,
- $|\vec{a}|^2=|\vec{b}|^2=|\vec{c}|^2$
- $4|\vec{a}|^2+|\vec{b}|^2+|\vec{c}|^2-4\vec{a}\cdot\vec{b}+2\vec{b}\cdot\vec{c}-4\vec{c}\cdot\vec{a}=1089$
- $|\vec{a}|^2=100$
- $|\vec{a}|^2+\vec{a}\cdot\vec{b}+\vec{c}\cdot\vec{a}=0$

以上の式から特に$|\vec{b}|^2=|\vec{c}|^2=100,\vec{b}\cdot\vec{c}=\frac{89}{2}$が分かります.\
したがって求める値は,\
$$BC^2=|\vec{c}-\vec{b}|^2=|\vec{b}|^2+|\vec{c}|^2-2\vec{b}\cdot\vec{c}=\mathbf{111}$$
ユーザー解説
https://onlinemathcontest.com/contests/omc103/editorial/2186/87
　方べきの定理を使った解法.
線分 $BC$ の中点を $M$ とする.
三角形 $ABC$ の外接円と直線 $AG$, $AO$ の交点 ($ \neq A$) をそれぞれ $D, E$ とする.
線分 $AO$, $AG$ の長さをそれぞれ $a \\ (= 10)$, $b \\ (= 11)$ とおく.
三角形 $AOG$ と $ADE$ の相似から, $AD = AE \cdot AO\/AG = 2a^2\/b$ を得る.
$3$点 $A, M, D$ は同一直線上にあるから, 方べきの定理より,

$$BC^2 = 4BM^2 = 4 AM \cdot MD = 4\cdot \frac{3b}{2} \left(\frac{2a^2}{b} - \frac{3b}{2}\right) = 12a^2 - 9b^2 = \mathbf{111}$$

である.
ユーザー解説
https://onlinemathcontest.com/contests/omc103/editorial/2186/89
※ 本質的には他の解説と同じかもしれないです

---

　線分 $BC$ の中点を $M$，$M$ から直線 $OA$ におろした垂線の足を $H$ とすると，$\triangle AOG$ と $\triangle AHM$ の相似比が $2 : 3$ であることや三平方の定理などを利用して，以下の式たちが成立する．
* $BC^2 = 4 \left(BO^2 - MO^2\right)$
* $BO^2 = \left(\triangle ABC\text{ の外接円の半径}\right)^2 = AO^2 = 100$
* $MO^2 = HO^2 + HM^2$
* $HO^2 = \left(\dfrac12\\, AO\right)^2 = 25$
* $HM^2 = \left(\dfrac32\\, GO\right)^2 = \dfrac94\\, GO^2$
* $GO^2 = AG^2 - AO^2 = 21$

　よってこれらを順に代入していって，$BC^2 = \mathbf{111}$ を得る．
遠回り？
https://onlinemathcontest.com/contests/omc103/editorial/2186/90
　三角形 $ABC$ において, その重心を $G$, 外心を $O$ としたとき, 以下の条件が成立しました：
$$AG=11,\quad AO=10,\quad \angle{AOG}=90^\circ$$
このとき, $BC$ の長さの $2$ 乗を求めてください.